Detection and Censorship of Abusive Sounds in Turkish Videos Using Deep Learning and Audio Processing Methods

Abstract

Sosyal mecralardaki içeriklerin sayısı ve çeşitliliği her geçen gün artmaktadır. Bunun yanında internete erişebilen kullanıcılar bütün içeriklere doğrudan ulaşabilmektedir. Bu ortamlara yüklenen içeriklerin belirli filtrelerden geçmemesi ve toplumun ahlaki yapısını bozabilecek söylemlerin sansürlenmemesi sorun teşkil etmektedir. Özellikle çocuklar duydukları kelime ve kelime gruplarını doğru ya da yanlış olarak ayırmadan günlük hayatlarında kullanmaktadırlar. İçeriklerin artışındaki hız, kontrol ve sansür gibi işlemlerin uygulanma noktasında aynı oranda bir zorluk ortaya çıkarmaktadır. İçeriklerin sayısı bu kadar hızlı artarken manuel yöntemler kullanılarak, yüksek doğruluk ile sansür uygulamak mümkün olmamaktadır. Bu soruna bir çözüm üretebilmek için en az bahsedilen artış hızı ile aynı hızda ve mümkün oldukça az insan müdahalesi ile çalışan otonom sistemlere ihtiyaç vardır. Bu kapsamda yapay zeka ve ses işleme yöntemleri kullanılarak, videolardaki ya da ses dosyalarındaki küfürlü seslerin bilgisayarlar tarafından otomatik olarak tespit edilmesi ve sansürlenmesi sureti ile bir çalışma yapılmıştır. Tez sürecinde, çeşitli yöntemler ile toplanan küfür seslerinden oluşan bir ses veri seti oluşturulmuştur. Tahmin ve sınıflandırma aşamasında, Evrişimsel Sinir Ağı (CNN) ve Tekrarlayan Sinir Ağı (RNN) modelleri, oluşturulan veri seti kullanılarak eğitilmiş ve karşılaştırılmıştır. Tez kapsamında, belirlenen 3 tane Türkçe küfür için sinir ağları eğitilmiştir. Son durumda Türkçe küfür içeren videoyu girdi olarak alıp, küfürlü seslerin sansürlendiği, video çıktısı oluşturma kabiliyetine sahip bir uygulama geliştirilmiştir.

The number and variety of content on social media is increasing day by day. In addition, all users with access to the Internet can directly access all content. It is a problem that the content uploaded to these environments does not pass through certain filters and that the discourses that may disrupt the moral structure of the society are not censored. Especially children use the words and phrases they hear in their daily lives without distinguishing them as true or false. The speed in the increase of content creates a difficulty at the same rate at the point of implementation of processes such as control and censorship. While the number of content increases so quickly, it is not possible to censor with high accuracy by using manuel methods. In order to produce a solution to this problem, autonomous systems that work at the same rate as the increase rate mentioned and with as little human intervention as possible are needed. In this context, a study was carried out by automatically detecting and censoring the abusive sounds in videos or audio files by using artificial intelligence and sound processing methods. In the process of the thesis, a sound data set consisting of profanity sounds collected by various methods was created. In the estimation and classification phase, Convolutional Neural Network (CNN) and Recurrent Neural Network (RNN) models were trained and compared using the generated data set. Within the scope of the thesis, neural networks were trained for 3 determined Turkish swear words. In the last case, an application has been developed that takes the video containing profanity in Turkish as input and has the ability to create a video output, in which the abusive sounds are censored.