Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi

Adem Kalınlı

EN TR

Training Elman Network For System Identifıcation Using Simulated Annealing Algorithm

Abstract

A special type of recurrent neural networks is the Elman network. Feedforward connections of the Elman network can be trained essentially as feedforward networks by means of the simple backpropagation algorithm, their feedback connections have to be kept constant. It is important to select correct values for the feedback connections for the training to convergence. However, finding these values can be a lengthy trial-and-error process. This paper describes the use of simulated annealing (SA) algorithm to train the Elman network for dynamic systems identification. The SA algorithm is an efficient random search procedure which can simultaneously obtain the optimal weight values of all connections.

Keywords

Simulated annealing,Elman network,system identification

References

[1] D.T. Pham and D. Karaboga, “Intelligent Optimisation Techniques: Genetic Algorithms, Tabu Search, Simulated Annealing and Neural Networks”, Advanced Manufacturing Series, Springer-Verlag, London, 2000.
[2] L.R. Medsker, L.C. Jain, “Recurrent Neural Networks, Design and Applications”, CRC Press, London, 2001.
[3] X. Liu, “Modelling and Prediction Using Neural Networks”, PhD Thesis, University of Wales College of Cardiff, Cardiff, UK, 1993.
[4] D.T. Pham, X. Liu, “Neural networks for identification, prediction and control”, London, Springer-Verlag, 1995.
[5] D.T. Pham, X. Liu, “Training of Elman networks and dynamic system modelling”, Int. Journal of Systems Science, Vol.27, No.2, pp.221–226, 1996.
[6] L. Yun, A. Häuβler., “Artificial evolution of neural networks and its application to feedback control”, Artificial Intelligence in Engineering, Vol.10, No.2, pp.143– 152, 1996.
[7] C.C. Ku, K.Y. Lee, “Diagonal recurrent neural networks for dynamic systems control”, IEEE Trans. on Neural Networks, Vol.6, No.1, pp.144–156, 1995.
[8] D.T. Pham, X. Liu, “Dynamic system identification using partially recurrent neural networks”, Journal of Systems Engineering, Vol.2, No.2, pp.90–97, 1992.
[9] D.T. Pham, S.J. Oh, “A recurrent backpropagation neural network for dynamic system identification”, Journal of Systems Engineering, Vol.2, No.4, pp.213–223, 1992.
[10] J.L. Elman, “Finding Structure in Time”, Cognitive Science, Vol.14, pp.179-211, 1990.

[11] D.T. Pham., D. Karaboga, “Training Elman and Jordan networks for system identification using genetic algorithms”, Artificial Intelligence in Engineering, Vol.13, pp.107-117, 1999.
[12] D. Karaboga and A. Kalınlı, “Training Recurrent Neural Networks Using Tabu Search Algorithm”, 5th Turkish Symposium on Artificial Intelligence and Neural Networks, pp.293-298, Türkiye, 1996.
[13] A. Kalınlı, D. Karaboga, “Geribeslemeli Yapay Sinir Ağlarının Paralel Tabu Araştırma Algoritması Kullanarak Eğitilmesi”, 11th Turkish Symposium on Artificial Intelligence and Neural Networks (TAINN’2002), ss.261-270, İstanbul, Haziran 20-21, 2002.
[14] A. Kalınlı, “ Geribeslemeli Yapay Sinir Ağlarının Genetik Operatörlere Dayalı Tabu Araştırma Algoritması Kullanarak Eğitilmesi”, Doktora tezi, Fen Bilimleri Enstitüsü, Erciyes Üniversitesi, Kayseri, 1996.
[15] S. Kirkpatrick, C.D. Gelatt, M.P. Vecchi, “Optimization by Simulated Annealing”, Science, Vol.220, pp.671-680, 1983.
[16] K.A. Dowsland, “Simulated Annealing. In Modern Heuristic Techniques for Combinatorial Problems”, (Editor, Reeves, C.R.), McGraw-Hill, 1995.
[17] N. Metropolis, A. Rosenbluth, M. Rosenbluth, A. Teller and E. Teller, “Equation of The State Calculation by Fast Computing Machines”, Journal of Chemical Physics, Vol.21, pp.1087-1092, 1953.
[18] S. Jhonson, C. Aragon, L. Mccgeoch and C. Schevon, “Optimization By Simulated Annealing: An Experimental Evaluation, Part-I, Graph Partitioning”, Operations Research, Vol.37, pp.865-892, 1989.
[19] D.T. Pham, X. Liu, “Identification of linear and nonlinear dynamic systems using recurrent neural networks”, Artificial Intelligence in Engineering, Vol.8, pp.90– 97, 1993.
[20] D.E. Rumelhart, J.L. McClelland, “Explorations in the Micro-Structure of Cognition, Parallel Distrubuted Processing 1”, Cambridge, MA: MIT Press, 1986.

Details

Primary Language

Turkish

Subjects

Electrical Engineering

Journal Section

Research Article

Authors

Adem Kalınlı

Publication Date

December 31, 2002

Submission Date

July 1, 2002

Acceptance Date

July 1, 2002

Published in Issue

Year 1970 Volume: 15 Number: 2

IZ

https://izlik.org/JA97UT28DZ

APA

Kalınlı, A. (2002). Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi. Eskişehir Osmangazi Üniversitesi Mühendislik Ve Mimarlık Fakültesi Dergisi, 15(2), 25-42. https://izlik.org/JA97UT28DZ

AMA

1.Kalınlı A. Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi. Eskişehir Osmangazi Üniversitesi Mühendislik ve Mimarlık Fakültesi Dergisi. 2002;15(2):25-42. https://izlik.org/JA97UT28DZ

Chicago

Kalınlı, Adem. 2002. “Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi”. Eskişehir Osmangazi Üniversitesi Mühendislik Ve Mimarlık Fakültesi Dergisi 15 (2): 25-42. https://izlik.org/JA97UT28DZ.

EndNote

Kalınlı A (December 1, 2002) Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi. Eskişehir Osmangazi Üniversitesi Mühendislik ve Mimarlık Fakültesi Dergisi 15 2 25–42.

IEEE

[1]A. Kalınlı, “Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi”, Eskişehir Osmangazi Üniversitesi Mühendislik ve Mimarlık Fakültesi Dergisi, vol. 15, no. 2, pp. 25–42, Dec. 2002, [Online]. Available: https://izlik.org/JA97UT28DZ

ISNAD

Kalınlı, Adem. “Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi”. Eskişehir Osmangazi Üniversitesi Mühendislik ve Mimarlık Fakültesi Dergisi 15/2 (December 1, 2002): 25-42. https://izlik.org/JA97UT28DZ.

JAMA

1.Kalınlı A. Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi. Eskişehir Osmangazi Üniversitesi Mühendislik ve Mimarlık Fakültesi Dergisi. 2002;15:25–42.

MLA

Kalınlı, Adem. “Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi”. Eskişehir Osmangazi Üniversitesi Mühendislik Ve Mimarlık Fakültesi Dergisi, vol. 15, no. 2, Dec. 2002, pp. 25-42, https://izlik.org/JA97UT28DZ.

Vancouver

1.Adem Kalınlı. Elman Ağının Sımulated Annealıng Algoritması Kullanarak Sistem Kimliklendirme İçin Eğitilmesi. Eskişehir Osmangazi Üniversitesi Mühendislik ve Mimarlık Fakültesi Dergisi [Internet]. 2002 Dec. 1;15(2):25-42. Available from: https://izlik.org/JA97UT28DZ

Training Elman Network For System Identifıcation Using Simulated Annealing Algorithm

Training Elman Network For System Identifıcation Using Simulated Annealing Algorithm

Abstract

Keywords