Regularizatori omogućuju vam primjenu kazni na parametre sloja ili aktivnost sloja tijekom optimizacije. Te se kazne zbrajaju u funkciju gubitka koju mreža optimizira. Kazne za reguliranje primjenjuju se na bazi po sloju.
Što je regulator aktivnosti?
regulator aktivnosti radi u funkciji izlaza mreže, i uglavnom se koristi za reguliranje skrivenih jedinica, dok weight_regularizer, kao što ime kaže, radi na utezima (npr. čineći ih propadanjem).
Kada trebam koristiti regulator aktivnosti?
Ako želite da izlazna funkcija prolazi(ili imate presretanje bliže) ishodištu, možete koristiti regulator pristranosti. Ako želite da izlaz bude manji (ili bliže 0), možete koristiti regulator aktivnosti.
Kako koristiti Keras regularizer?
Za dodavanje regulatora sloju, jednostavno morate pronijeti željenu tehniku regularizacije na argument ključne riječi sloja 'kernel_regularizer'. Metode implementacije Keras regularizacije mogu pružiti parametar koji predstavlja vrijednost hiperparametra regularizacije.
Što je kernel i pristranost?
Dense class
Dense implementira operaciju: izlaz=aktivacija (točka (ulaz, jezgra) + pristranost) pri čemu je aktivacija aktivacijska funkcija po elementima proslijeđena kao argument za aktivaciju, kernel je matrica težina koju kreira sloj, ibias je vektor pristranosti kreiran od strane sloja (primjenjivo samo ako je use_bias True).
