Regulatory umożliwiają nakładanie kar na parametry warstwy lub aktywność warstwy podczas optymalizacji. Kary te są sumowane w funkcji straty, którą optymalizuje sieć. Kary za uregulowanie są nakładane na podstawie każdej warstwy.
Co to jest regulator aktywności?
Regulator aktywności działa jako funkcja wyjścia z sieci i jest głównie używany do regularyzacji ukrytych jednostek, podczas gdy weight_regularizer, jak sama nazwa mówi, działa na wagach (np. sprawiając, że się psują).
Kiedy powinienem używać regulatora aktywności?
Jeśli chcesz, aby funkcja wyjściowa przechodziła przez (lub miała punkt przecięcia bliżej) początku, możesz użyć regulatora odchylenia. Jeśli chcesz, aby wynik był mniejszy (lub bliższy 0), możesz użyć regulatora aktywności.
Jak używać regulatora Keras?
Aby dodać regularyzator do warstwy, wystarczy przekazać preferowaną technikę regularyzacji do argumentu słowa kluczowego warstwy 'kernel_regularizer'. Metody implementacji regularyzacji Keras mogą dostarczyć parametr, który reprezentuje wartość hiperparametru regularyzacji.
Co to jest jądro i stronniczość?
Dense class
Dense implementuje operację: wyjście=aktywacja(kropka(wejście, jądro) + odchylenie) gdzie aktywacja jest funkcją aktywacji z uwzględnieniem elementów przekazaną jako argument aktywacji, jądro jest macierzą wag stworzoną przez warstwę ibias to wektor odchylenia utworzony przez warstwę (ma zastosowanie tylko wtedy, gdy use_bias ma wartość True).
