Red Neuronal Adaptativa Madaline
Red Neuronal Adaptativa Madaline
Una Adaline con n entradas y una salida, es capaz de implementar ciertas funciones lógicas. Hay 2" posibles patrones de entrada. Cualquier implementación lógica es capaz de clasificar cada patrón con un -1 o + 1, de acuerdo a la salida deseada. Por lo tanto, existen 2 elevado a la 2" posibles funciones lógicas conectando n entradas a una sola salida. Debido a que la Adaline es una variante del perceptrón, también presenta sus mismas limitaciones. Esto significa que solo puede implementar un subconjunto de todas las combinaciones de funciones posibles. Este subconjunto esta formado por todas las funciones lógicas linealmente separables. Entonces funciones que no caen en este rango, como lo es el XOR, no se puden representar en una simple Adaline. Pero, al igual que con el perceptrón, es posible combinar varias Adalines para resolver dicho problema. Esto da lugar a la creación de la red neuronal Madaline, cuyo nombre proviene de la contracción Many Adalines.
Dado que cada unidad de procesamiento es una Adaline; entonces, las salidas y las entradas de cada una de ellas, pueden tomar únicamente valores de -1 o + 1 . La estructura de esta red consiste de una capa de entrada, una o más capas ocultas y una capa de salida. Cada capa, a su vez, está constituida por una o más Adalines. Las unidades de la capa de entrada únicamente tienen la función de distribuir los bits del patrón de entrada hacia la primer capa oculta. Las capas no necesariamente son del mismo tamaño.
La arquitectura del MADALINE es de flujo hacia adelante. Su función de activación última es la función de signo.
Cálculo de los pesos en una red neuronal del tipo MADALINE
Históricamente se han sugerido tres algoritmos de entrenamiento diferentes para este tipo de redes. Dichos algoritmos se les conoce por la Regla I, Regla II y Regla III.
Regla I de MADALINE (RMI): Esta regla se remonta a 1962. El método de cálculo sólo permite modificar los pesos de la capa oculta pero no la de salida.
Regla II de MADALINE (MRII): el segundo algoritmo de entrenamiento de la red mejoró la anterior Regla I y se describió en 1988. El algoritmo de entrenamiento de la Regla II se basa en un principio llamado de «perturbación mínima «. El proceso se repite para cada ejemplo haciendo lo siguiente:
Regla III MADALINE (MRIII): – La tercera «Regla» aplicada a una red modificada con funciones de activación sigmoideas en lugar de la función de activación signo. Posteriormente se descubrió que era equivalente a la retropropagación.
Además, cuando voltear los signos de unidades individuales no lleva el error a cero para un ejemplo en particular, el algoritmo de entrenamiento comienza a voltear pares de signos de unidades, luego triples de unidades, etc.
A continuación, se mostrará el caso tratado en la Tarea entrenamiento de red adaptativa del tipo Madaline
Teniendo en cuenta los parámetros de un decodificador binario de 5 entradas mostrado en la Tabla 1, seleccione los que indique la tabla según su equipo de trabajo para ENTRENAMIENTO Y VALIDACIÓN. Luego realiza la modificación del algoritmo para el entrenamiento en una red neuronal Madaline inicializar los pesos en el primer valor aleatorio que genera el programa para un factor de entrenamiento de 0.1 y mantenerlo constante en cada caso para completar la información de la Tabla 2.
Conclusion
Esta red neuronal se entrenó con los datos del equipo 1, en los cuales los casos para el entrenamiento fueron del 1 al 12, y del 21 al 24, se utilizaron 7 neuronas adaline, para 5 entradas, del entrenamiento se pueden obtener varias conclusiones
-La primera es que podemos ver como cada vez que se aumenta el factor de entrenamiento también hay un aumento en el error global.
-La segunda cosa que podemos identificar es que cada vez que aumenta el factor de entrenamiento las épocas tienden a disminuir.
-Otra cosa que se puede resaltar es que los pesos también van en disminución si los tomamos desde el peso w1, hasta el peso w5 vemos que los pesos w1 son más grandes y van en disminución hasta que vemos que los pesos w5 son pesos mucho más pequeños.
Comentarios
Publicar un comentario