Görüntü sınıflandırma için derin öğrenme ile bayesçi derin öğrenme yöntemlerinin karşılaştırılması

Abstract

Temel evrişimli derin öğrenmede ağ mimarisi oluşturulurken iç katman sayısını belirleyen ağın derinliğinin ve ağın eğitimi öncesinde öğrenme oranı, momentum ve L2 düzeltmesi gibi öğrenme parametrelerinin başlangıç değerlerinin belirlenmesi gerekir. Bu da çözülmesi gereken ayrı bir optimizasyon problemidir. Bayesçi derin öğrenme ağ mimarisini ve öğrenme parametrelerinin uygun başlangıç değerlerini bulmak için Bayesçi optimizasyon tekniklerini kullanır. Bu tez çalışmasında, temel evrişimli derin öğrenme ile Bayesçi derin öğrenme popüler bir görüntü sınıflandırma problemi üzerinde karşılaştırılmıştır. Her iki yöntemin birbirine göre performansları, avantajları ve dezavantajları ilgili sınıflandırma problemi üzerinde değerlendirilmiştir. Bayesçi derin öğrenme, test veri kümesi üzerindeki sınıflandırma performansını önemli bir derecede arttırmasına rağmen ağın yapısının ve öğrenme parametrelerinin başlangıç değerlerinin optimizasyonu ek bir zaman maliyeti oluşturmuştur.

When constructing network architecture in basic convolutional deep learning, it is necessary to determine the depth of the network which specifies the number of inner layers, and the initial values of learning parameters such as learning rate, momentum and L2 regularization before training of the network. This is also a separate optimization problem that needs to be solved. Bayesian deep learning uses Bayesian optimization techniques to find the network architecture and appropriate initial values of the learning parameters. In this thesis, basic convolutional deep learning and Bayesian deep learning are compared on a popular image classification problem. The performance, advantages and disadvantages of both methods are evaluated on the related classification problem. Although Bayesian deep learning significantly increased the classification performance on the test dataset, Bayesian optimization of the network structure and initial values of the learning parameters introduced an additional time cost.