Destek vektör makinesi sınıflandırma algoritması için genişletilmiş Gauss çekirdeği ve uygulamaları

Abstract

Bu çalışmanın genel amacı makine destek vektör makinesi algoritmasında çekirdek fonksiyonu olarak kullanılmaya uygun ve etkili yeni çekirdek fonksiyonlarının Gauss çekirdeğinin Bernstein fonksiyonları yardımıyla genişletilmesi ile elde edilmesi ve yeni çekirdeklerin etkililiğinin ve teorik olarak çekirdek fonksiyonu olmaya uygunluğunun araştırılmasıdır. Çalışmada, öncelikle denetimli öğrenme yöntemlerinden biri olan sınıflandırma problemleri üzerinde en etkili ve sıklıkla kullanılan destek vektör makinesi algoritması tanıtılmıştır. Sınıflandırma görevleri için kullanılan diğer tekniklerden bahsedilerek destek vektör makinelerinin avantajları ve matematiksel bir alt yapıya sahip olması bakımından öne çıktığı gösterilmiştir. Destek vektör makinesi gibi pek çok makine öğrenmesi yönteminde matematiksel alt yapının kullanılması ile yöntemin etkililiğinin ve kapsam genişliğinin artırıldığı görülmektedir. Bu çalışma ile de destek vektör makinelerinin çekirdek fonksiyonlarının çeşitlendirilmesi için kullanılabilecek bir fonksiyonlar sınıfı olan Bernstein fonksiyonları ele alınmıştır. Bu çalışmada gösterilmiştir ki Bernstein fonksiyonları kullanılarak elde edilen tamamen monoton fonksiyonların her biri Mercer koşulu olarak isimlendirilen destek vektör makinesi için çekirdek olma şartını sağlamaktadır. Bu çalışmanın en önemli katkısı bu şekilde bir bakış açısı yardımıyla yeni çekirdek fonksiyonları oluşturmak için bir yöntem vermesidir. Daha önce literatürde klasik tipte çekirdek fonksiyonları olan polinom, lineer, sigmoid çekirdek fonksiyonları sıklıkla kullanılmıştır. Ancak Gauss fonksiyonu çekirdekler içerisinde en sık kullanılan ve genel olarak veri setleri üzerinde en iyi sonuç veren bir fonksiyondur. Dolayısıyla çalışmanın sınırları üstel fonksiyonun üssü konumunda bulunan Bernstein fonksiyonları yardımıyla oluşturulan genişletilmiş Gauss çekirdeklerini kapsayacak şekilde çizilmiştir. Bu çalışmada sunulan Bernstein fonksiyonları ile elde edilmiş genişletilmiş Gauss çekirdekleri Mercer koşulunu sağlama bakımından analiz edilmiştir. Sonrasında, teorik sonuçlar uygulama veri setleri üzerinde yazılan Python kodları yardımıyla sayısal olarak analiz edilmiş ve yeni çekirdeklerin klasik Gauss çekirdeği ile karşılaştırarak etkililiği gösterilmiştir.The general aim of this study is to obtain effective new kernel functions suitable for use as kernel function in support vector machine algorithm by expanding the Gaussian kernel with the help of Bernstein functions and to investigate the effectiveness of new kernels and their suitability as kernel functions theoretically. In the study, first of all, the most effective and frequently used Support Vector Machine algorithm on classification problems from supervised learning methods is introduced. By mentioning other techniques used for classification tasks, it has been shown that Support Vector Machines stand out in terms of their advantages and having a mathematical background. In many machine learning methods such as Support Vector Machine, it is seen that the effectiveness and scope of the method are increased by the use of mathematical infrastructure. In this study, Bernstein functions, a class of functions that can be used to diversify the kernel functions of Support Vector Machines, are discussed. In this work, it is shown that each of the completely monotonic functions obtained using Bernstein functions satisfies the kernel condition for the support vector machine called the Mercer condition. The most important contribution of this study is that it provides a method for constructing new kernel functions with the help of such a perspective. In the literature, classical type kernel functions such as polynomial, linear, sigmoid kernel functions have been used frequently. However, the Gaussian function is the most frequently used among kernels and generally gives the best results on datasets. Therefore, the boundaries of the study are drawn to cover the expanded Gaussian kernels created with the help of Bernstein functions, which are in the exponential position of the exponential function. Extended Gaussian kernels obtained with the Bernstein functions presented in this study are analyzed in terms of meeting the Mercer condition. Afterwards, the theoretical results are analyzed numerically with the help of the Python codes on the classical datasets and the effectiveness of the new kernels was demonstrated.