Funciones de Activación

Python

Definición

• La función de activación decide si una neurona debe activarse o no calculando la suma ponderada y añadiendo el sesgo
• Tiene la función de añadir la no linealidad en la salida de la neurona
• Sin las funciones de activación las neuronas se comportarían como una regresión lineal, sin admitir la no linealidad de los datos reales para aprender tareas complejas.

Sigmoid

• oscila entre 0 y 1
• sigmoid function

Tanh

• Cuanto mayor sea la entrada (más positiva), más se acercará al valor de salida a 1
• Cuanto menor sea la entrada (más negativa), más se acercará al valor de salida a -1
• sigmoid function

ReLu

• Es una función lineal a trozos
• Mejor rendimiento
• Suele utilizarse más
• ReLu function

Función Z

• zfunction