Yapay zekâ teknolojilerinin hızla yaygınlaşması, yasa dışı içerik üretebilen modelleri de gündeme taşıyor. ABD'deki Massachusetts Teknoloji Enstitüsü (MIT) araştırmacıları ise bu soruna çözüm olabilecek yeni bir yöntem geliştirdi.
Araştırmacılar, yapay zekâ modelinin yasa dışı çocuk cinsel istismarı içerikleri üretme kapasitesine sahip olup olmadığını, modele tek bir görüntü bile oluşturtmadan tespit edebilen bir denetim sistemi geliştirdi.
Yeni yöntemde yapay zekânın ürettiği sonuçlar yerine modelin iç çalışma yapısı analiz ediliyor. Böylece hem yasa dışı içerik üretilmemiş oluyor hem de tehlikeli modeller güvenli şekilde belirlenebiliyor.
Yapılan testlerde sistem, çocuk cinsel istismarı materyali üretmek üzere özel olarak uyarlanmış yapay zekâ modellerini yüzde 100 doğrulukla tespit etmeyi başardı.
Araştırmacılar, geliştirilen yöntemin açık kaynaklı yapay zekâ modellerini barındıran platformlarda kullanılabileceğini belirtiyor.
Böylece zararlı modeller, yaygınlaşmadan önce tespit edilerek kaldırılabilecek veya sisteme yüklenmeleri engellenebilecek.
Son yıllarda yapay zekâ ile üretilen yasa dışı içeriklerde büyük artış yaşandığı belirtilirken, Ulusal Kayıp ve İstismar Edilen Çocuklar Merkezi verilerine göre, 2025 yılında yapay zekâ tarafından oluşturulan 1,5 milyondan fazla çocuk cinsel istismarı materyali ihbarı yapıldı. Bir önceki yıl bu sayı yaklaşık 67 bin seviyesindeydi.
MIT ekibi, geliştirdikleri yöntemin yalnızca çocukların korunmasına katkı sağlamayacağını, aynı zamanda yapay zekâ güvenliğinin güçlendirilmesi ve dijital platformların daha güvenli hale getirilmesi açısından da önemli bir adım olduğunu vurguluyor.
