Fa01v01 Algoritması: Yeni Bir Dinamik Yapay Sinir Ağı Algoritması

Yıl 2013, Cilt: 23 Sayı: 1, 61 - 98, 01.03.2013

Erkam Güreşen Gülgün Kayakutlu

Öz

Yapay sinir ağları yapıları oluşturulurken, kara kutu yaklaşımının benimsenmesinin etkisiyle, her zaman çıktı sinir hücresi sayısı sabitlenmektedir. Mevcut bir yapay sinir ağına hiçbir zaman yeni bir çıktı sinir hücresi eklenmemektedir. Bu durum yapay sinir ağlarının hiçbir zaman yeni bir yetenek veya beceri kazanamamasına sebep olmaktadır.Bu çalışmanın amacı mevcut bir yapay sinir ağına yeni beceri ve yetenek kazandırmak amacıyla yeni çıktı sinir hücreleri ekleyebilen bir algoritma geliştirmektir. Böyle bir algoritmanın geliştirilebilmesi için öncelikle mevcut bir beceriyi arttırma ve düzeltme ile yeni bir yetenek kazandırma kavramlarının birbirinden ayrıştırılması gerekmektedir. Daha sonra ise yeni çıktı sinir hücresi oluşturma ve en uygun olanı tespit etme yöntemlerinin geliştirilmesi gerekmektedir. Bu çalışmada yeni eklenecek çıktı sinir hücresi adaylarını tespit etmek için çeşitli yöntemlerle bir aday havuzu oluşturuldu. Oluşan bu aday havuzundan K’nın L’li çapraz geçerliliğinde en uygun adaylar tespit edildi. Geliştirilen algoritma ve yöntemleri uygulamak için JAVA programlama dili kullanılarak NeuroBee adlı bir yazılım geliştirildi ve tüm uygulamalar bu yazılım kullanılarak yapıldı. Uygulama için ise ve, veya ve özel veya mantık problemlerinin birleşiminden oluşan bir problem oluşturuldu. Bu problemde farklı sayıda gizli sinir hücreleri için sıfır çıktı sinir hücresine sahip çok katmanlı algılayıcılar ile çözüme başlandı. Daha sonra üç çıktı sinir hücreli yapı oluşuncaya kadar FA01V01 algoritması çalıştırıldı. Elde edilen yapay sinir ağları geri yayılım (backpropagation) algoritması ile eğitildi. Aday havuzundan yeni eklenecek çıktı sinir hücrelerinin seçimi için K’nın L’li çapraz geçerliliği (L of Kcrossvalidation) yöntemi gelişitirildi. Önerilen algoritmanın performansını karşılaştırmak için ise NeuroSolutions programının sunduğu çok katmanlı algılayıcılar (ÇKA) kullanılarak, farklı sayıda gizli sinir hücreleri için üç çıktı sinir hücreli olarak eğitildi. Yapılan istatistiksel testler sonucunda ortalama hata karesi açısından FA01V01 algortiması ile oluşturulan ÇKA’lar ile sabit yapılı ÇKA’lar arasında fark olmadığı, ancak FA01V01 ile oluşturulan ÇKA’lar için geri yayılım algoritmasının daha az sayıda iterasyona ihtiyaç duyduğu tespit edilmiştir

Anahtar Kelimeler

FA01V01 algoritması, yapay sinir ağı, mantık problemleri

Fa01v01 Algorithm: A New Dynamic Neural Network Algorithm

Öz

Due to black-box structure, number of outputs isalways fixed while constructing artificial neural
networks (ANNs). Thusnone of the existing algorithms adds new outputs to an existing ANN. This lack of
ability disables ANNs to learn new abilities or gain new properties.
Purpose of this study is to represent a new ANN constructing algorithm forenabling ANNs to learn new
abilities or gain new properties.To represent such an algorithm, definitions of increasing or correcting an
existing ability, and gaining a new ability concepts must be differentiated. Then new method for creating new
output neurons and selecting best fitted one, must be developed. This study proposes different methods to
create a candidate pool for selecting best suitable one. A new concept of L of K cross-validation is used to
select best suitable output neuron from this candidate pool. For all these concepts described above, a new
JAVA based software is developed and named NeuroBee. All applications of these concepts are done by
using this software.
For comparisons a joint logic problem from well-known logic problems; AND, OR and XOR.In this
problem construction ANNs are started with zero output neurons and then using FA01V01 constructed up to
three output neurons. After adding each new output neuron back-propagation algorithm is used for training
ANNs. Constructed ANNs are compared to ANNs produced from NeuroSolutions software with fixed number
of output neurons during training.
Statistical tests showed that ANNs produced from FA01V01 or NeuroSolutions has no difference in
terms of mean square error (MSE). But FA01V01 has a clear advantage over NeuroSolutions with respect to
number of backpropagation iterations.

Anahtar Kelimeler

FA01V01 algorithm, artificial neural network, logic problems