U Baggingu, svako pojedinačno stablo neovisno su jedno od drugog jer razmatraju različite podskupove značajki i uzoraka.
Što je pakiranje u stablu odluka?
Bagging (Bootstrap Aggregation) koristi se kada je naš cilj smanjiti varijansu stabla odluka. Ovdje je ideja stvoriti nekoliko podskupova podataka iz uzorka za obuku odabranih nasumično sa zamjenom. … Koristi se prosjek svih predviđanja iz različitih stabala koji je robusniji od jednog stabla odluka.
Zašto pakiranje stvara povezana stabla?
Sva naša stabla u vrećama imaju tendenciju da prave iste rezove jer sva dijele iste značajke. Zbog toga sva ova stabla izgledaju vrlo slično, pa se povećava korelacija. Da bismo riješili korelaciju stabala, dopuštamo slučajnoj šumi da nasumično odabere samo m prediktora u izvedbi dijeljenja.
Što je pakiranje slučajne šume?
Bagging je skupni algoritam koji odgovara više modela na različitim podskupovima skupa podataka za obuku, a zatim kombinira predviđanja iz svih modela. Slučajna šuma je proširenje pakiranja koje također nasumično odabire podskupove značajki koje se koriste u svakom uzorku podataka.
Kako pakiranje funkcionira u slučajnoj šumi?
Algoritam slučajne šume je zapravo algoritam za vreću: također ovdje izvlačimo nasumične uzorke za podizanje sustava iz vašeg skupa za obuku. Međutim, osim uzoraka za podizanje sustava, mi takođernacrtati nasumične podskupove značajki za obuku pojedinačnih stabala; u pakiranju, svakom stablu pružamo puni skup značajki.
