Advertisement

Kybernetik

, Volume 15, Issue 3, pp 127–145 | Cite as

On some properties of stochastic information processes in neurons and neuron populations

Mathematical model approach
  • Yasuo Matsuyama
  • Katsuhiko Shirai
  • Kageo Akizuki
Article

Abstract

The information in the nervous spike trains and its processing by neural units are discussed. In these problems, our attention is focused on the stochastic properties of neurons and neuron populations. There are three subjects in this paper, which are the spontaneous type neuron, the forced type neuron and the reciprocal inhibitory pairs.
  1. 1.

    The spontaneous type neuron produces spikes without excitatory inputs. The mathematical model has the following assumptions. The neuron potential (NP) has the fluctuation and obeys the Ornstein-Uhlenbeck process, because the N P is not so perfectly random as that of the Wiener process but has an attraction to the rest value. The threshold varies exponentially and the NP has the constant lower limit. When the NP reaches the threshold, the neuron fires and the NP is reset to a certain position. After a firing, an absolute refractory period exists. In discussing the stochastic properties of neurons, the transition probability density function and the first passage time density function are the important quantities, which are governed by the Kolmogorov's equations. Although they can be set up easily, we can rarely obtain the analytical solutions in time domain. Moreover, they cover only simple properties. Hence the numerical analysis is performed and a good deal of fair results are obtained and discussed.

     
  2. 2.

    The forced type neuron has input pulse trains which are assumed to be based on the Poisson process. Other assumptions and methods are almost the same as above except the diffusion approximation of the stochastic process. In this case, we encounter the inhomogeneous process due to the pulse-frequency-modulation, whose first passage time density reveals the multimodal distribution. The numerical analysis is also tried, and the output spike interval density is further discussed in the case of the periodic modulation.

     
  3. 3.

    Two types of reciprocal inhibitory pairs are discussed. The first type has two excitatory driving inputs which are mutually independent. The second type has one common excitatory input but it advances in two ways, one of which has a time lag. The neuron dynamics is the same as that of the forced type neuron and each neuron has an identical structure. The inputs are assumed to be based on the Poisson process and the inhibition occurs when the companion neuron fires. In this case, the equations of the probability density functions are not obtained. Hence the computer simulation is tried and it is observed that the stochastic rhythm emerges in spite of the temporally homogeneous inputs. Furthermore, the case of inhomogeneous inputs is discussed.

     

Keywords

Spike Train Neuron Fire Excitatory Input Stochastic Property Transition Probability Density 
These keywords were added by machine and not by the authors. This process is experimental and the keywords may be updated as the learning algorithm improves.

Zusammenfassung

Die in der Nervenimpuls-Sequenz enthaltene Information und ihre Verarbeitung durch neurale Einheiten werden besprochen. Bei diesen Problemen richtet sich unsere Aufmerksamkeit auf die stochastischen Eigenschaften der Neuronen und der Neuronenpopulationen. Diese Abhandlung hat drei Themen, und zwar das Neuron des spontanen Typs, das Neuron des erzwungenen Typs und die wechselseitig sich hemmenden Paare.
  1. 1.

    Das Neuron des spontanen Typs produziert Spikes ohne daß erregende Eingänge vorhanden sind. Das mathematische Modell enthält die folgenden Annahmen: Das Neuronenpotential (NP) folgt in seiner Schwankung dem Ornstein-Uhlenbeck-Prozeß, weil es nicht so völlig zufällig verläuft wie das eines Wiener-Prozesses, sondern eine Attraktion zum Restwert aufweist. Die Schwelle besitzt variable Exponentialwerte und das NP eine konstante untere Grenze. Wenn das NP die Schwelle erreicht, feuert das Neuron, und das N P wird auf eine bestimmte Position zurückgesetzt. Nach einer Erregung stellt sich eine absolute Refraktärperiode ein. Bei der Diskussion der stochastischen Eigenschaften der Neuronen sind die Funktion der Dichte der Übergangswahrscheinlichkeit und die Funktion der Dichte der Erstdurchgangszeit wichtige quantitative Größen, die durch die Kolmogorowschen Gleichungen beherrscht werden. Obwohl diese leicht aufzustellen sind, können wir nur in seltenen Fällen eine analytische Lösung in der Zeitdimension bekommen. Überdies erklären die Lösungen nur einfache Eigenschaften. Daher wird die numerische Analyse angewendet, womit sich eine ganze Anzahl von guten Ergebnissen erhalten und behandeln lassen.

     
  2. 2.

    Das Neuron des erzwungenen Typs erhält die Eingangs-Spike-Sequenzen, von denen wir annehmen können, daß sie auf dem Poissonschen Prozeß beruhen. Andere Annahmen und Methoden sind nahezu gleich, wenn man von der Diffusionsapproximation des stochastischen Prozesses absieht. In diesem Fall begegnen wir dem unhomogenen Prozeß, der auf der Pulsfrequenzmodulation beruht, dessen Dichte der Erstdurchgangszeit eine multimodale Verteilung zeigt. Auch eine numerische Analyse wird durchgeführt, und die Intervallverteilung der Ausgangs-Spike-Sequenzen wird im Fall der periodischen Modulation behandelt.

     
  3. 3.

    Zwei Typen der sich wechselseitig hemmenden Paare werden erörtert. Der erste Typ besitzt zwei erregende Eingänge, die voneinander unabhängig sind. Demgegenüber besitzt der zweite Typ einen allgemeinen, erregenden Eingang, der aber auf zwei Wegen erfolgt, wobei einer von beiden eine Zeitverzögerung enthält. Es zeigt sich, daß die Neuronendynamik die gleiche ist wie bei dem Neuron des erzwungenen Typs. Von den Eingangsgrößen kann angenommen werden, daß sie dem Poissonschen Prozeß folgen, und daß eine Inhibition auftritt, wenn das Begleitneuron feuert. In diesem Fall läßt sich die Wahrscheinlichkeitsdichte nicht erhalten. Daher wird eine Computersimulation versucht, aus der hervorgeht, daß der stochastische Rhythmus vorliegt, wohingegen die Eingangs-Spike-Sequenzen vom temporalhomogenen Poisson-Typ sind. Es wird auch der Fall von unhomogenen Eingangsgrößen erörtert.

     

Preview

Unable to display preview. Download preview PDF.

Unable to display preview. Download preview PDF.

References

  1. Akizuki, K., Shirai, K., Matsuyama, Y.: Behavior of a neuron with pulse-frequency-modulated inputs. Proc. AICA, H5/1-H5/6, Tokyo, The Society of Analog Technique of Japan (1971)Google Scholar
  2. Capocelli, R.M., Ricciardi, L. M.: Diffusion approximation and first passage time problem for a model neuron. Kybernetik 8, 214–223 (1971)Google Scholar
  3. Chandrasekhar, S.: Stochastic problems in physics and astronomy. Rev. Mod. Phys. 15, 1–89 (1943)Google Scholar
  4. Cox, D.R., Lewis, P.A.W.: The statistical analysis of series of events. London: Methuen 1966Google Scholar
  5. Dietz, K.: Erzeugung multimodaler Intervallverteilungen durch Ausdünnung von Erneuerungs-Prozessen. Kybernetik 4, 131–136 (1968)Google Scholar
  6. Eccles, J.C., Ito, M., Czentágothai, T.: The cerebellum as a neuronal machine. Berlin-Heidelberg-New York: Springer 1967Google Scholar
  7. Feller, W.: The parabolic differential equations and the associated semi-groups of transformation. Ann. Math. 55, 468–519 (1952)Google Scholar
  8. Fuller, A.T.: Analysis of nonlinear stochastic systems by means of the Fokker-Planck equation. Int. J. Control 9, 603–655 (1969)Google Scholar
  9. Gerstein, G.L., Mandelbrot, B.: Random walk model for the spike activity of single neurons. Biophys. J. 4, 41–68 (1964)Google Scholar
  10. Gluss, B.: A model for neuron firing with exponential decay of potential resulting in diffusion equation for probability density. Bull. Math. Biophys. 29, 233–243 (1967)Google Scholar
  11. Ito, K., McKean, Jr., H. P.: Diffusion processes and their sample paths. Berlin-Heidelberg-New York: Springer 1965Google Scholar
  12. Johannesma, P.I.M.: Diffusion models for the stochastic activity of neurons. In: Caianiello,E.R. (Ed.): Neural networks. Berlin-Heidelberg-New York: Springer 1968Google Scholar
  13. Kiang, N.Y.-S., Watanabe, T., Thomas, E.C., Clark, L.F.: Discharge patterns of single fibers in the cat's auditory nerve. Cambridge, Mass.: MIT Press 1965Google Scholar
  14. Matsuyama, Y., Shirai, K., Akizuki, K.: On stochastic dynamics of a neuron and a kind of neuron group. In: Iberall,A.S., Guyton,A.C. (Eds.): Regulation and control in physiological systems. Pittsburgh: Instrument Society of America 1973Google Scholar
  15. Pecher, C.: La fluctuation d'excitabilité de la fibre nervese. Arch. Int. Physiol. 49, 129–152 (1939)Google Scholar
  16. Perkel, D.H., Gerstein, G.L., Moore, G.P.: Neuronal spike trains and stochastic point process. II. Simultaneous spike trains. Biophys. J. 7, 419–440 (1967)Google Scholar
  17. Reiss, R.F.: A theory and simulation of rhythmic behavior due to reciprocal inhibition in small nerve nets. Proc. of 1962 AFI PS Spring Joint Computer Conference 21, 171–194 (1962)Google Scholar
  18. Segundo, J.P., Perkel, D.H., Wyman, H., Hegstad, H., Moore, G.P.: Input-output relation in computer-simulated nerve cells. Kybernetik 4, 157–171 (1968)Google Scholar
  19. Siebert, W.M.: Some implications of the stochastic behavior of primary auditory neurons. Kybernetik 2, 206–215 (1965)Google Scholar
  20. Siegert, A.J.F.: On the first passage time probability problem. Phys. Rev. 81, 617–623 (1951)Google Scholar
  21. Ten Hoopen, M.: Probabilistic firing of neurons considered as a first passage time problem. Biophys. J. 6, 435–451 (1966)Google Scholar
  22. Weiss, T.F.: A model of the peripheral auditory system. Kybernetik 3, 153–175 (1966)Google Scholar
  23. Wilson, D. M., Waldron, I.: Models for the generation of the motor output pattern in flying locusts. Proc. IEEE 56, 1058–1064 (1968)Google Scholar

Copyright information

© Springer-Verlag 1974

Authors and Affiliations

  • Yasuo Matsuyama
    • 1
  • Katsuhiko Shirai
    • 1
  • Kageo Akizuki
    • 1
  1. 1.Department of Electrical EngineeringWaseda UniversityTokyoJapan

Personalised recommendations