Departamento de Sistemas y Computación Ingeniería en Sistemas Computacionales

Asignatura : Inteligencia Artificial

Tema: Redes neuronales artificiales

Lamia Hamdan Medina

Torreón, Coah., a 28 de octubre del 2009.

Una función de activación F determina el nuevo estado de activación aj(t+1) de la neurona. teniendo en cuenta la entrada total calculada y el anterior estado de activación de la red) puede ser de dos tipos: Asíncrono y Síncrono. La actualización de los estados de las unidades (evolución j . Las señales moduladas que han llegado a la unidad j-ésima se combinan entre ellas generando así la entrada total w net a la red. En estos canales la señal se modifica de acuerdo con la sinapsis (el peso. Asociado a cada/unidad. ji) asociada a c/u ellos según una determinada regla.Elementos de una red neuronal Cada neurona i-ésima esta caracterizada en cualquier instante por un valor numérico denominado valor o estado de activación ai(t).1 Representación de la entrada total de una unidad j-ésima. como se muestra en la siguiente figura. donde cada elemento representa la activación de una unidad de tiempo t. existe una función de salida salida f que transforma el estado actual de activación en una señal de i y i . 1. Esta señal viaja a través de los canales de comunicación unidireccionales a otras unidades de la red. j Fig. Estructura de una Red Neuronal Artificial:  Unidad de procesamiento  Estado de activación  Patrón de conectividad ente neuronas  Regla de propagación  Función de transferencia  Regla de activación  Regla de aprendizaje Organización de la red:  Número de niveles o capas  Número de neuronas por nivel o capa  Patrones de conexión  Flujo de información a (t). Este estado se especifica por un vector de N números reales.

de entrada. Durante este proceso existe destrucción.2).Dentro de la red neuronal se pueden distinguir tres tipos de capas o niveles (Fig. Red neuronal con aprendizaje supervisado. ). Mecanismo de Aprendizaje Aprendizaje es el proceso por el cual una red neuronal modifica sus pesos en respuesta a una información de entrada. Fig. modificación y creación de conexiones entre las neuronas. ocultas y de salida. 1. 1. Existen tres tipos de aprendizaje supervisado: a) Aprendizaje por corrección de error Consiste en ajustar los pesos de las conexiones de la red en función de la diferencia entre valores deseados y los obtenidos en la salida. El entrenamiento es controlado por un agente externo. 1. en función del error cometido en la salida. Y1 wji Y2 Yn wji wjn Unidad Uj Yi Valor de salida de la neurona Fig. es decir. sino es así el agente modificará los pesos de las conexiones para que la salida se aproxime a la deseada.2 Organización interna de una red neuronal multinivel con todas las conexiones hacia adelante.3 Unidad j-ésima Una regla o algoritmo simple de aprendizaje está dada por la siguiente ecuación: Siendo: : Variación del peso de la conexión ente las neuronas i y j ( Valor de la salida de la neurona i. . 1. el cual determina si la salida a la respuesta generada corresponde al resultado esperado.

Valor de salida deseado para la neurona j. Normalmente este tipo de aprendizaje se combina con algún otro tipo de método como Boltzman Machine .4 Representación del refuerzo en la conexión. Factor de aprendizaje (0 < 1) que regula la velocidad del aprendizaje. por clusterizacion (categorías) y por prototipos (ejemplares/prototipos). Consiste en ajustar los valores de las conexiones de acuerdo con la correlación de los valores de activación (salidas) de las neuronas conectadas. [Boltzman machine] Actividad del subtema:  Investigar ejemplos de redes neuronales con aprendizaje supervisado y categorizar de acuerdo al tipo de aprendizaje. Red neuronal con aprendizaje no supervisado. El ajuste de pesos de acuerdo a la correlación (multiplicación en el caso de valores binarios +1 y -1) de los valores de salida entre dos neuronas: . En este tipo de aprendizaje la función del supervisor se asemeja a un crítico al indicar una señal de refuerzo. La información de entrada se agrupa de dos maneras. Este tipo de red no requiere de influencia externa para ajustar los pesos de las conexiones entre neuronas. La idea es asemejar la red con un sólido físico que inicialmente presenta una alta temperatura (ruido) y que se va enfriando gradualmente hasta alcanzar el equilibrio térmico (mínima energía). Es más lento que el anterior y se basa en la idea no disponer de un ejemplo completo del comportamiento deseado. b) Aprendizaje por refuerzo. El aprendizaje se puede realizar de dos maneras: a) Aprendizaje Hebbiano. + + Refuerzo + Débil - “esa información esta degradada” Fig. Valor de salida obtenido para la neurona j. c) Aprendizaje estocástico Consiste en realizar cambios aleatorios en los valores de los pesos de las conexiones de la red y evaluar su efecto a partir del objetivo deseado y de distribuciones de probabilidad. si la salida obtenida en la red se ajusta a la deseada (+1 o -1) y en función de ello se ajustan los pesos. 1. 2.

Puede imaginarse una red como cierto tipo de memoria que almacena datos de forma estable. Actividad del subtema:  Investigar ejemplos de redes neuronales con aprendizaje no supervisado y categorizar de acuerdo al tipo de aprendizaje.5 Ajuste de valores entre dos neuronas. Esto quiere decir que cuando se aplica un estímulo. esto es. información similar debe activar a la misma neurona o al mismo grupo de neuronas de salida. realiza una pequeña adaptación del prototipo. (esto es. Las neuronas cooperan y compiten unas con otras para realizar una tarea dada. Un ejemplo de este tipo de aprendizaje es la Teoría de la resonancia adaptativa (ART). Las redes neuronales almacenan información aprendida. esto es. 3 0 1 5 2 0 Fig. por tanto debe activarse la misma neurona de salida. datos grabados a consecuencia de un aprendizaje. . b) Aprendizaje competitivo y cooperativo. la red se encarga de crear una nueva categoría con el dato de entrada como prototipo de la misma. 1.Fig. la red responde con una salida asociada a la información de entrada (estímulo). 1. que podrán ser leídos a la salida como respuesta a cierta información de entrada comportándose entonces como lo que se conoce memoria asociativa. Tipo de asociación entre la información de entrada y la de salida. Cuando no resuena con ningún prototipo.6 Información similar es puesta en la misma categoría. si entra en resonancia) la red considera que pertenece a esa categoría y en caso necesario. la cual se basa en la idea de hacer “resonar” la información de entrada con los prototipos de las categorías que tiene la red. Si la información de entrada es suficientemente similar. esta información se registra de forma distribuida en los pesos asociados a las conexiones entre neuronas. El objetivo es categorizar los datos que se introducen a la red.

BN)]. eliminando distorsiones o ruidos. Objetivo: Filtrado de información para la reconstrucción de datos. B1). Este tipo de asociación solo requiere de una capa. Actividad del tema:  Investigar ejemplos de redes neuronales de acuerdo al tipo de asociación y tipo de aprendizaje.…. Objetivo: Realizar una clasificación relacionando (mapeando) un gran numero de información de entrada con un pequeño número de información de salida. Este tipo de asociación requiere de al menos de dos capas de neuronas:  Capa 1: capta y retiene (A1)  Capa 2: mantener la salida con la información asociada (B1) 2) Autoasociación La red aprende cierta información A1. Se utilizan para explorar relaciones en la información. Conectividad: Conexiones laterales: Hopfield. (A2. realizará un autocorrelación. que será el más parecido a la entrada. Cuando se presente información de entrada Ai. Representación de la información de entrada y salida La representación de la información puede ser de tres formas: . (AN. respondiendo con una de los datos almacenados. A3. Autoconcurrentes: BRAIN-STATE-IN-A-BOX. BAM. La red aprende en parejas de datos : [(A1. A2. Conectividad: Conexiones hacia delante: Perceptrón y Backpropagation.Existen dos formas de asociación: 1) Heteroasociación. para facilitar la búsqueda por contenido en base de datos y resolver problemas de optimización. Redes heteroasociativas Función: Asociar información de entrada con diferente información de salida. Cada vez que se presenta información de entrada. B2). Conexiones hacia delante: ART.…. la red deberá responder generando la salida asociada Bi. AN. Redes autoasociativas Función: Asocia una información de entrada con el ejemplar más parecido de las almacenadas conocidas por la red.

Híbridas. 3. Limitaciones y Aplicaciones de la red. Binaria.1. Analógica. . Función de activación basado en valores contínuos del tipo lineal o sigmoidal. Aprendizaje (y su algoritmo). Función basado en valores discretos del tipo escalón. La entrada es una función contínua y la salida es discreta. Actividad para toda la unidad: Investigar para cada red neuronal que sea vea en el salón de clase los siguientes puntos: Arquitectura. 2. Funcionamiento.

Sign up to vote on this title
UsefulNot useful