ANALISIS DE UNA RED NEURONAL PULSANTE

Sergio Quintana Thierry, Alberto A. Herrera Becerra, José Luis Pérez Silva Centro de Instrumentos, UNAM, Apdo. Postal 70-186, Coyoacán, 04510, México, D.F. Tel. (525)622 8608, Fax (525)622 8617. Email: sergioq@aleph.cinstrum.unam.mx RESUMEN El desarrollo de circuitos neuronales electrónicos basados en dispositivos analógicos representa una herramienta alternativa en el análisis de redes neuronales dinámicas. En este enfoque se pueden diseñar fácilmente experimentos complejos que son extremadamente difíciles de realizar en simulaciones numéricas. En este trabajo presentamos el diseño y la evaluación de un circuito de tres neuronas con respuesta pulsante. Mostramos que este circuito presenta diferentes comportamientos periódicos no triviales. ABSTRACT The development of analog electronic neural circuits represents an alternative tool in the analysis of dynamic neural networks. In this approach one can easily develop complex experiments that are too difficult to carry out in a numerical simulation. In this work we present the design and performance evaluation of a three neurons circuit. The main feature of this circuit is that the each neuron presents a pulsing response. We show that our circuit generates different nontrivial periodic responses. 1. INTRODUCCION Las redes neuronales estructuradas en series de capas de neuronas donde cada neurona envía su respuesta hacia la siguiente capa partiendo de la capa de entrada y procediendo de esta manera hacia la capa de salida se denominan redes multicapa o redes no recurrentes. El gran interés despertado por el campo de las redes neuronales artificiales se debe al uso de redes multicapa entrenables o adaptables como aproximadores universales de funciones no lineales [1]. Sin embargo, esta clase de redes neuronales no son confiables para aproximar series de tiempo no estacionarias debido a que no presentan memoria. De hecho, las redes multicapa constituyen, desde un punto de vista dinámico, mapeos instantáneos y, en consecuencia, como sistemas dinámicos siempre son estables. Por otro lado, las redes neuronales dinámicas o recurrentes constituyen sistemas dinámicos no lineales cuyo comportamiento dinámico se utiliza, precisamente, para llevar a cabo tareas computacionales como la implantación de memorias asociativas, el reconocimiento de patrones que cambian con el tiempo y diversas tareas de optimización [2]. La simulación de redes neuronales recurrentes es un problema clave en el campo debido a que, dependiendo de la complejidad del modelo de neurona empleado, se requieren enormes recursos de cómputo. Es por esta razón que en los últimos años se han desarrollado tanto sistemas de software como de hardware para el diseño, estudio e implantación de diversos sistemas neuronales; muchos de estos sistemas intentan explotar el paralelismo inherente a los sistemas neuronales. En la actualidad podemos distinguir tres grandes áreas para la implantación de redes neuronales [3]: 1) software especializado, 2) hardware electrónico, e 3) implantaciones ópticas y opto-electrónicas. En particular, las implantaciones electrónicas se han orientado principalmente al diseño y construcción de procesadores y coprocesadores especializados y al diseño de circuitos VLSI [4]. Ahora bien, debido al hecho de que en estos momentos se cuenta con una gran cantidad de técnicas confiables para diseñar y construir circuitos digitales enormemente complejos, es poco común encontrar implantaciones analógicas de redes neuronales en la literatura especializada. A primera vista, esto parece extraño ya que las implantaciones analógicas presentan importantes ventajas sobre las digitales. Por ejemplo, se pueden llevar a cabo operaciones complicadas y no lineales en circuitos analógicos con muchos menos dispositivos de los que se requieren en implantaciones digitales similares. Sin embargo, el diseño, análisis, y verificación de circuitos analógicos es una tarea difícil debido, en parte, a la complejidad misma de las técnicas básicas de

En la fig. MODELO DE NEURONA ELECTRONICA Nuestro modelo electrónico tiene tres componentes funcionales: un modulo sumador ∑. un modulo integrador ∫. Es nuestro interés mostrar como una implantación analógica adecuada permite estudiar comportamientos neuronales complejos. en este caso. esto es. respuestas oscilantes acopladas y fenómenos de memoria a corto plazo. Adicionalmente. El circuito amplificador diferencial sustrae la suma total inhibitoria de la suma total excitatoria. se reconoce en la comunidad de redes neuronales que una de las estrategias más promisorias para la implantación de redes neuronales recurrentes es mediante el uso de circuitos analógicos VLSI. nuestro circuito electrónico responde con señales continuas. Estos circuitos están diseñados con ganancia variable de tal manera que los pesos de conexión Wi puedan ser modificados individualmente. se intenta describir.implantación [5]. En la fig. utilizamos la constante RC del circuito para implementar la constante de tiempo característica de la neurona. Figura 1. se pueden manipular cada uno de los parámetros del circuito neuronal también de manera independiente. la cual incluye un componente generador de pulsos dependiente de voltaje. 1 mostramos un diagrama de bloques de nuestro modelo electrónico. el modulo R implementa a la función de respuesta. La señal de salida de la neurona electrónica puede ser conectada directamente a cualquier otra neurona de la red. Los circuitos sumadores de voltaje implementan la suma ponderada de las entradas excitatorias e inhibitorias. en una primera aproximación. PRUEBAS Y RESULTADOS El comportamiento de un circuito neuronal complejo se puede analizar de manera modular. el comportamiento del circuito completo a . Entre estos dos bloques básicos establecemos interacciones competitivas. en consecuencia. El modulo ∫ genera al potencial neuronal m(t). En este trabajo presentamos el diseño y la evaluación de un circuito neuronal analógico formado con dos bloques básicos: una neurona con una autosinápsis y un circuito de dos neuronas. este circuito tiene ganancia unitaria. 2. aunque en nuestro diseño es posible construir neuronas con un número arbitrario de entradas de ambas clases. en este caso en particular. Finalmente utilizamos como elemento generador de pulsos a un convertidor voltaje frecuencia con lo que obtenemos a su salida un tren de pulsos de frecuencia proporcional al voltaje de entrada. El modelo de neurona que hemos diseñado nos permite modificar de manera independiente cada uno de los parámetros neuronales y. nuestros circuitos neuronales básicos están formados con neuronas que presentan una respuesta pulsante. El modulo ∑ está formado por dos circuitos sumadores de voltaje y un circuito amplificador diferencial. Representación en diagrama de bloques del modelo electrónico. 2 se muestra el diagrama esquemático de la neurona electrónica. Finalmente. El modulo de respuesta R esta formado por un circuito comparador de voltaje con un voltaje de referencia proporcional al valor umbral ###. A pesar de esto. En ésta sólo se muestran una entrada excitadora y una inhibidora para facilitar la comprensión del diagrama. para esto tenemos que los componentes de entrada a los sumadores son potenciometros. y un modulo generador de respuesta R. El modulo integrador ∫ está formado por un circuito integrador de voltaje con ganancia unitaria. 3. Los tres módulos de nuestro modelo electrónico están implementados con dispositivos analógicos. El modulo ∑ implementa a la suma total ponderada de las señales excitatorias e inhibitorias. De esta forma.

Sin embargo. Adicionalmente. Este último comportamiento se ilustra en la fig. Podemos considerar que los circuitos neuronales elementales son los siguientes: a) las neuronas aisladas. b) las neuronas con una autosinápsis y c) los circuitos de dos neuronas. 3b. 3a. una componente también periódica debida a un comportamiento oscilatorio del potencial neuronal. A diferencia de esto. una vez que el potencial neuronal ha alcanzado su valor umbral. Respuesta de la neurona con autosinápsis. Diagrama esquemático de la neurona electrónica. Ahora bien. Esto es. Este comportamiento se ilustra en la fig.partir del conocimiento del comportamiento de circuitos más pequeños. Esto constituye un fenómeno de histéresis y. se puede observar que la respuesta de la neurona aparece retrasada respecto a la presentación de la señal externa. Figura 2. en consecuencia. los fenómenos de histéresis generados son diferentes. (a) (b) Figura 3. para nuestro modelo de neurona el comportamiento de la neurona aislada y de la neurona con una autosinápsis excitatoria coinciden. la neurona presenta una respuesta periódica de frecuencia constante mientras no cambie la señal externa. la neurona con una autosinápsis inhibidora presenta. el retardo característico de la neurona aislada y de las dos clases de neuronas con autosinápsis es el mismo. 4 . como se ilustra en la fig. En particular. podemos establecer que la neurona presenta fenómenos de memoria a corto plazo. Se eligen estos circuitos en particular porque son relativamente fáciles de describir. además de la respuesta periódica propia de la neurona.

Este circuito se caracteriza por presentar un comportamiento oscilatorio de ambos potenciales neuronales si los pesos de conexión se ajustan de la manera adecuada [6]. Esto es. Circuito de dos neuronas. 5 está formada por dos clases de comportamientos oscilatorios. Diagrama de histéresis y fenómeno de memoria a corto plazo.Figura 4. 5. como se ilustra en la fig. Figura 5. sin embargo. (b) Diagramas de histéresis y fenómeno de memoria a corto plazo. a saber: la oscilación de los potenciales neuronales y la oscilación generada por el módulo de respuesta de las neuronas. (a) Respuesta neuronal. Estos dos bloques básicos se conectan de acuerdo al patrón de . El siguiente bloque básico de construcción lo forman los circuitos de dos neuronas. En esta figura se puede observar que la respuesta de ambas neuronas es aparentemente la misma. Para ilustrar el método de análisis modular. la respuesta neuronal toma la forma de dos trenes de pulsos cuadrados de frecuencias y ciclos de trabajo diferentes superpuestos como se ilustra en la fig. Ahora bien. (a) (b) Figura 6. De estos circuitos tal vez uno de los más interesantes es el que se ilustra en la fig. 6b. vamos a considerar un circuito de tres neuronas formado por dos de los bloques básicos: una neurona con una autosinápsis positiva y el circuito de dos neuronas recién ilustrado. Comportamiento del circuito de dos neuronas. la respuesta de las neuronas del circuito de la fig. 6a. los fenómenos de histéresis que generan son diferentes.

en una primera aproximación. CONCLUSIONES En este trabajo hemos ilustrado el método modular para el estudio de circuitos neuronales análogos. bajo estas condiciones. Finalmente. 5. Circuito de tres neuronas. Hemos ilustrado como el estudio de bloques básicos de construcción de circuitos neuronales arbitrarios permite entender. De hecho. 3 y 8 y en las fig. los cambios en las respuestas neuronales también se reflejan en los fenómenos de memoria a corto plazo que ahora exhiben las neuronas. Comportamiento del circuito de tres neuronas.conexión que se muestra en la fig. Figura 7. A partir de esta información inicial. Los resultados del experimento se muestran en la fig. 7 se establece una relación de cooperatividad y competencia entre los dos bloques de construcción. uno puede emprender un estudio detallado de los comportamientos neuronales que resulten interesantes. nosotros creemos que el desarrollo de sistemas neuronales analógicos jugará un papel fundamental en el desarrollo futuro del campo de redes neuronales artificiales. tanto desde un punto de vista teórico como aplicado. consideremos como cambia el comportamiento de las diferentes neuronas del circuito respecto al que muestran en los bloques básicos de construcción. REFERENCIAS . 6. Los parámetros del circuito de tres neuronas se ajustaron de manera tal que los potenciales neuronales muestran un comportamiento oscilatorio autónomo. AGRADECIMIENTOS Este trabajo fue patrocinado por el CONACyT bajo el proyecto 4316-A9406. 8. Al comparar los comportamientos observados en las fig. (b) Diagramas de histéresis y fenómenos de memoria a corto plazo. 6 y 8 se hacen claros las interacciones entre los bloques de construcción del circuito de tres neuronas. (a) (b) Figura 8. el comportamiento de todo un circuito. Como es de esperarse. podemos decir que en el circuito de la fig. (a) Respuestas neuronales. 4. 7.

(1995). S. Massachusetts). 339343. K. A. L. H.. (1995). (1995). [3] Choi. (The MIT Press. Pérez. Stinchcombe. S. 304-309. Neural information processing and VLSI (Kluwer Academic Publishers.. J. [5] Soclof. M. Cambridge. J. E. [2] Wang. and Blum. Neural Networks 2. K. M.. Design and applications of analog integrated circuits (Prentice Hall. (1991)... Quintana. X. B. The handbook of brain theory and neural networks. Massachusetts). 820. and Hernández. G. The handbook of brain theory and neural networks. [6] Herrera. and White.[1] Hornik. J. [4] Hammerstrom. 359-366 (1989). Instrumentation & Development 3 (7).. Cambridge. 25 – 33 (1997). Massachusetts). "Dynamics and bifurcation of neural networks".. M. . Englewood Cliffs. (The MIT Press. "Digital VLSI for neural networks". 300.. and Sheu. Arbib.. New Jersey). Boston. D. Arbib.