Training of Artificial Neural Networks Via Modern Meta-Huristic Algorithms

Abstract

Bu tezin amacı, doğrusal olmayan problemlerin optimizasyonunda kullanılan ve iyi bir sınıflandırma aracı olan Yapay Sinir Ağlarının (YSA) eğitimini sağlamaktır. Tezin amacına uygun olarak YSA mimarilerinden Çok Katmanlı Algılayıcı (Multilayer Perceptron -MLP) kullanılmıştır. MLP eğitiminde olasılıksal algoritma çeşidi olan modern sezgisel-üstü algoritmalar eğitmen olarak seçilmiştir. Algoritmaların genel performansını ölçmek ve performans üstünlüğünü karşılaştırmak için Ackley, Easom, Egg Crate, Griewank, Quartic, Rosenbrock, Schwefel, Sphere ve Step kriter fonksiyonları kullanılmıştır. MLP eğitimi için UCI veri bankasından XOR, İris, Meme Kanseri, Kalp Hastalıkları ve Balloon veri setleri alınmıştır. Tezde dört uygulama yapılmıştır. Uygulamalardan ilki Harris Şahinleri Optimizasyonu sezgisel-üstü algoritmasının (HHO) diğer algoritmalarla karşılaştırılması yapılarak üstünlükleri gösterilmiştir. İkinci uygulamada modern sezgisel-üstü algoritmaların global kısıtlı optimizasyon problemlerinin çözümü gösterilerek Atom Arama Optimizasyonu'nun (ASO) performans üstünlüğü istatistiki olarak ispat edilmiştir. Üçüncü uygulamada MLP eğitimi yapılarak Sinüs Kosinüs Algoritması (SCA) ve HHO algoritmaları karşılaştırılmıştır. Son uygulamada ise önerilen hibrid ASO-SA algoritması (hASO-SA) ile problem çözümündeki sezgisel-üstü algoritmaların dezavantajları ortadan kaldırılmıştır. Performans avantajı istatistiki olarak gösterilerek MLP eğitiminde üstün sınıflandırma becerisi, diğer sezgisel-üstü algoritmalarla karşılaştırılarak açıklanmıştır.The purpose of this thesis is to provide ANN training, which is a good classification tool used in optimization problems. In accordance with the purpose of the thesis, Multilayer Perceptron (MLP) is used from ANN architectures. Modern meta-heuristic algorithms which are probabilistic algorithm types in MLP training are selected as trainers. Ackley, Easom, Egg Crate, Griewank, Quartic, Rosenbrock, Schwefel, Sphere and Step bencmark functions are used to measure the overall performance of the algorithms and to compare performance advantage. XOR, Iris, Breast Cancer, Heart Diseases and Balloon datasets were taken from the UCI database to demonstrate the closeness of the classification rates to reality in MLP education. Four applications were made in the thesis. In the first application, the advantages of Harris Hawks Optimization algorithm (HHO) were compared with other algorithms. In the second application, the performance advantages of the Atom Search Algorithm (ASO) has been statistically demonstrated by showing the solution of the global constrained optimization problems of the modern meta-heuristic algorithms. In the third application, the Sine Cosine Algorithm (SCA) and HHO algorithms were compared by making MLP training. In the fourth aplication, through proposed hybrid ASO-SA algorithm (hASO-SA) has been to eliminated by the disadvantages of the meta-heuristic algorithms in the problem solution. By showing the performance advantage statistically, high classification skill in MLP education is explained by comparing with other meta-heuristic algorithms.