Duygu Analizinde Transformer Tabanlı Modellerin Karşılaştırılması

Abstract

Duygu analizi metinlerden duygu çıkarımı yapan yapay zeka çalışmasıdır. Son dönemlerde bu alanda yapılan çalışmalar ve alana olan rağbet bu alan ile ilgili çalışmaları da artırmıştır. Çeşitli makine öğrenmesi algoritmaları, derin öğrenme yöntemleri ve son zamanlarda Transformer tabanlı modeller duygu analizi konularında oldukça yaygın bir şekilde kullanılmaya başlamıştır. Bu çalışma duygu analizi problemlerinde kullanılmak üzere Transformer tabanlı modellerin karşılaştırılması için yapılmıştır. Çalışmada biri 61121 satır ve diğeri 5937 satırdan oluşan iki ayrı veri seti kullanılmıştır. Araştırmada kullanılan veri setleri öncelikli olarak temizlik ve ön hazırlık aşamalarından geçirilmiş ve Transformer tabanlı modellerin kullanımı için hazır hale getirilmiştir. Daha sonra on ayrı Transformer modeli için ayrı ayrı notebooklar çalıştırılmış ve sonuçları raporlanmıştır. Her bir notebook beş epoch boyunca çalıştırılmış ve hem uzun veri seti için hem de az örneklem sayısına sahip veri seti için sonuçlar karşılaştırılmıştır. Çalışma sonucunda Transformer tabanlı modellerin performansı karşılaştırılmış olup çeşitli parametre ve metrik kullanımları durumundaki sonuçları gözlemlenmiştir. Genel oalarak yüksek orandaki başarı performansları ve hızlı çalışabilme yetenekleri Transformer tabanlı modellerin duygu analizi çalışmalarında büyük oranda kullanılması gerektiğini göstermiştir. Böylece diğer birçok Doğal Dil İşleme (NLP) görevinde olduğu gibi duygu analizi çalışmalarında da Transformer tabanlı modeller başarılı sonuçlar vermeye devam edecektir. Daha fazla parametre ayarı ve modele özgü ince ayarlarla gelecekte yüksek performanslı modeller kullanılabilecek olup gerçek dünya problemlerinde de çok daha büyük başarılara imza atılabilecektir. Anahtar kelimeler: Doğal dil işleme, Duygu analizi, Transformer modellerSentiment analysis is an artificial intelligence task that involves extracting emotions from texts. In recent years, the increasing interest and studies in this field have significantly contributed to the development of sentiment analysis research. Various machine learning algorithms, deep learning methods, and more recently, transformerbased models have become widely used in sentiment analysis tasks. This study was conducted to compare transformer-based models for use in sentiment analysis problems. Two separate datasets were used in the study: one consisting of 61121 entries and the other consisting of 5937 entries. The datasets used in the research were first subjected to cleaning and preprocessing steps to prepare them for use with transformer-based models. Subsequently, separate notebooks were run for ten different transformer models, and their results were documented. Each notebook was run for five epochs, and results were compared for both the large dataset and the smaller dataset with fewer samples. As a result of the study, the performance of transformer-based models was compared, and their outcomes under various parameters and metric usages were observed. In general, the high performance and fast processing capabilities of transformer models have demonstrated that they should be widely employed in sentiment analysis tasks. Thus, just as in many other Natural Language Processing (NLP) tasks, transformer-based models are expected to continue delivering successful results in sentiment analysis as well. With further parameter tuning and model-specific optimizations, highly performant models could be utilized in the future, achieving even greater success in real-world applications. Keywords: Natural language processing, Sentiment analysis, Transformer models