¿Cuáles son los efectos secundarios del uso de una función de activación incorrecta en las redes neuronales?
Es difícil diagnosticar limpiamente una falla de modelado debido a una función de activación “incorrecta”, ya que puede existir una estrecha relación entre algunos hiperparámetros (por ejemplo, arquitectura NN, no linealidades) y otros (por ejemplo, estrategia de inicialización…