Connectionism, Artificial Neural Networks and Reading

Abstract

Connectionism, which is a novel approach to human intellectual abilities, has challenged the basic assumptions and tenets of top-down and interactive approaches of the 1960s and 1970s to human cognitive processing and reading. Connectionism has specifically dealt with reading in order to understand and model the cognitive processes and intellectual properties underlying this significant skill. It has also embraced a more bottom-up approach to reading, an orientation which attaches great importance to pattern recognition governed by parameters, weights, connections and constraints in lieu of rules and symbols. Although the great majority of studies which applied connectionism have concentrated on how words are recognized, a considerable amount of scholarly work also has targeted at understanding syntactic parsing and pronouncing words. To date, connectionism has contributed to the understanding and modeling human reading and attracted the attention of researchers working in various fields such as linguistics, psychology, and artificial intelligence to a considerable extent. This paper aims to provide fundamental information about the connectionist approaches and neural network modeling that suggest an alternative to the classical theory of the mind while accounting for the cognitive processes that underlie human reading.  The paper also compares the connectionist approaches to traditional approaches to reading, such as bottom-up, top-down and interactive approaches. Finally, it reviews several connectionist models that have proved to be highly influential in the relevant literature. 

Keywords

• Connectionism,artificial neural networks,linguistics,cognitive psychology,reading

Bağlantıcılık, Yapay Sinir Ağları ve Okuma

Abstract

Bağlantıcılık (connectionism) insanın bilişsel becerilerini anlamaya ve modellemeye yönelik alternatif bir yaklaşımdır. Bağlantıcılığın uygulandığı alanlar arasında insanoğlunun gerçekleştiği en önemli eylemlerden biri olan okumanın temelinde yatan bilişsel süreçleri anlama ve modelleme de bulunmaktadır. Bağlantıcılık, 1960 ve 1970'lerde yaygın bir şekilde kullanılan ve insanın bilişsel işleme süreçlerini ve okuma becerisini açıklamaya çalışan yukarıdan-aşağıya (top-down) ve etkileşimli (interactive) yaklaşımların temel varsayımlarını sorgulamıştır. Bağlantıcılık yaklaşımı, okuma süreçlerinin nasıl gerçekleştiğini açıklarken aşağıdan-yukarıya (bottom-up) bir yaklaşımı benimsemiş, kurallar ve semboller yerine parametreler, ağırlıklar, bağlantılar ve kısıtlamalar tarafından yönetilen bir örüntü tanıma yöntemini benimsemiştir (artificial neural networks). Dilbilim, psikoloji, felsefe ve yapay zeka literatüründe bağlantıcılık yaklaşımını temel alarak insanın okuma süreçlerini irdelemeyi hedefleyen önemli sayıda akademik çalışma bulunmasına ve bu yaklaşımın okuma becerisini anlamaya yönelik büyük bir katkı potansiyeli olmasına rağmen, bağlantıcılık yaklaşımının tanınırlığı henüz düşük düzeydedir. Bu makalede, okuma becerisinin altında yatan bilişsel süreçleri anlamaya ve açıklamaya çalışan bağlantıcılık yaklaşımları ve yapay sinir ağ modellemesi hakkında temel bilgiler sunulmuştur. Buna ek olarak, bağlantıcılık yaklaşımı, özellikle okuma alanyazında yaygın bir biçimde kullanılan geleneksel yapıdaki aşağıdan yukarıya, yukarıdan aşağıya ve etkileşimli yaklaşımlar gibi diğer yaklaşımlarla karşılaştırılmıştır. Son olarak, ilgili alanyazında oldukça etkili olduğu kanıtlanmış bağlantıcılık modellerine de yer verilmiş ve bu yaklaşımın okuma becerisini anlama ve modellemeye ilişkin potansiyeline ve kısıtlılıklarına değinilmiştir. 

Keywords

• Bağlantıcılık,yapay sinir ağları,dilbilim,bilişsel psikoloji,okuma

References

1. Carver, R. P. (1977). Toward a theory of reading comprehension and raiding. Reading Research Quarterly, 13, 8-63. Eysenck, M. W., & Keane, M. T. (2010). Cognitive psychology: A student's handbook (6th ed.). New York: Psychology Press. Foorman, B. R. (1994). The relevance of a connectionist model of reading for “The great debate”. Educational Psychology Review, 6(1), 25-47. Gao, L. (2006). Toward a cognitive processing model of MELAB reading test item performance. Spaan Fellow Working Papers in Second or Foreign Language Assessment, 4, 1-40. Goodman, K. S. (1967). Reading: A psycholinguistic guessing game. Journal of the Reading Specialist, 6, 126-135. Gough, P. B. (1972). One second of reading. Visible Language, 6(4), 291-320. Hebb, D. O. (1949). The organization of behavior. New York: John Wiley & Sons. Hinton, G. E., & Shallice, T. (1991). Lesioning an attractor network: Investigations of acquired dyslexia. Psychological Review, 98(1), 74-95. Hulme, C., Snowling, M., & Quinlan, P. (1991). Connectionism and learning to read: Steps towards a psychologically plausible model. Reading and Writing, 3(2), 159-168. Hutzler, F., Ziegler, J. C., Perry, C., Wimmer, H., & Zorzi, M. (2004). Do current connectionist learning models account for reading development in different languages? Cognition, 91(3), 273-296. LaBerge, D., & Samuels, S. (1974). Toward a theory of automatic information processing in reading. Cognitive Psychology, 6, 293-323. McClelland, J. L., & Rumelhart, D. E. (1981). An interactive activation model of context effects in letter perception: Part 1. An account of basic findings. Psychological Review, 88(5), 375-407. McNeil, L. (2012). Extending the compensatory model of second language reading. System, 40, 64-76. Perfetti, R. (1991). A neural network to design neural networks. IEEE transactions on circuits and systems, 38(9), 1099-1103. Plaut, D. C. (2005) Connectionist approaches to reading, Eds. M. J. Snowling and C. Hulme. The Science of Reading: A Handbook. Oxford: Blackwell Publishing, 24–38. Plaut, D. C. (1996). Relearning after damage in connectionist networks: Toward a theory of rehabilitation. Brain and Language, 52, 25-82. Plaut, D. C., McClelland, J. L., Seidenberg, M. S., & Patterson, K. (1996). Understanding normal and impaired word reading: Computational principles in quasi-regular domains. Psychological Review, 103, 56-115. Rumelhart, D. E. (1977). Toward and interactive model of reading. Ed. S. Dornic. Attention and performance. Hillsdale, NJ: Erlbaum. Seidenberg, M. S., & McClelland, J. L. (1989). A distributed, developmental model of word recognition and naming. Psychological Review, 96, 523-568. Sejnowski, T. J., & Rosenberg, C. R. (1987). Parallel networks that learn to pronounce English text. Complex Systems, 1, 145-168. Smith, F. (1971). Understanding reading. New York: Holt, Rinehart & Winston. Stanovich, K. E. (1980). Towards an interactive compensatory model of individual differences in the development of reading fluency. Reading Research Quarterly, 16, 32-71.