BBCİngiltere’de çocukların internet güvenliğiyle ilgili çalışma yürüten Internet Watch Foundation (IWF), çocukların cinsel tacize uğramasıyla ilgili yapay zeka ile üretilmiş manzaralara dikkat çekti ve hükümete bu hususta harekete geçme daveti yaptı.
Görüntüleri inceleyen ve taciz içerikli imajları kaldıran vakıf, yapay zeka ile üretilmiş manzaraların arttığına dikkat çekiyor.
Vakıf, sonbaharda İngiltere’nin mesken sahipliğinde yapılacak birinci yapay zeka global güvenlik tepesinde Başbakan Rishi Sunak’ın bu mevzuda adım atmasını istiyor.
IWF yapay zeka ile üretilmiş manzaraları geçen ay birinci defa listelemeye başladı.
Bu cins manzaraların dünyanın birçok yerinden albüm halinde paylaşıldığı ve kimilerinin fotoğraf kadar gerçekçi göründüğü belirtiliyor.
Vakfın CEO’su Susie Hargreaves, “Şu anda bu imajları çok sayıda görmüyoruz, ancak hata işleyenlerin çok sayıda gerçekçi çocuk cinsel istismarı imajları üretme potansiyeli var” dedi.
5 yaşındaki kız çocuklarının cinsel durumlarda çıplak poz verdiğini gösteren birtakım imajların redakte edilmiş versiyonlarından BBC’ye örnekler gösterdi.
IWF, internette çocuk istismarı içeriklerini etkin olarak arama yetkisine sahip dünyadaki yalnızca üç yardım kurumundan biri.
Yapay zeka ile üretilmiş imajları listelemeye 24 Mayıs’ta başlayan vakıf 5 haftada 29 web sitesinde araştırma yaptı ve yapay zeka manzaraları içeren galerileri paylaşan 7 web sitesi tespit etti.
Görüntülerin tam sayısı verilmese de yapay zeka ile üretilmiş onlarca görselin yasa dışı sitelerde paylaşılan gerçek istismar malzemeleri ortasına karıştığı belirtildi.
Bunlardan kimileri, uzmanların Kategori A olarak sınıflandırdığı, cinsel birleşme manzaralarıydı.
Çocuk cinsel istismarı manzaraları oluşturmak çabucak hemen her ülkede yasa dışı.
Hargreaves’e nazaran, “Şimdi bu gelişen teknolojinin önüne geçmek için bir talihimiz var, lakin mevzuatın bunu dikkate alması ve bu yeni tehdit ışığında emele uygun olması gerekiyor”.
Başbakan Sunak, İngiltere’nin yapay zeka güvenliği konusunda dünyanın birinci global tepesine konut sahipliği yapma planlarını Haziran ayında açıklamıştı.
Hükümet, yapay zekanın risklerini kıymetlendirmek ve milletlerarası eşgüdümlü aksiyon planlarıyla bunların nasıl azaltılabileceğini tartışmak üzere uzmanları ve kanun yapıcıları bir ortaya getirmeyi hedeflediğini belirtiyor.
Çalışmalarının bir kesimi olarak, IWF analistleri istismar imgelerindeki eğilimleri kaydediyor. Örneğin, son vakitlerde çocukların kendi çektikleri görüntüleri yahut manzaraları göndermeye zorlandığı istismar içerikleri artış gösteriyor.
Vakıf, yapay zeka ile üretilen imajların artış göstermesinde kaygı ediyor.
2022 yılında IWF, çocuklara yönelik cinsel istismar manzaraları içeren 250.000’den fazla web sayfasını kaydetmiş ve çevrimdışı hale getirmeye çalıştı.
Uzmanlar ayrıyeten forumlarda, çocukların gerçeğe en yakın imgelerinin nasıl oluşturulacağına dair ipuçları paylaşanlar ortasındaki konuşmaları da kaydetti.
Yapay zekanın istismar imgeleri yaratması için ne formda manipüle edileceğine, açık kaynak yapay zeka modellerinin nasıl indirileceğine ve güvenlik bariyerlerinin nasıl kaldırılacağına dair açıklamalara rastladılar.
Çoğu yapay zeka manzara oluşturucu, kullanıcıların yasaklı sözler yahut tabirlerle içerik oluşturmasını engellemek için katı kurallar içerse de, açık kaynak araçlar fiyatsız olarak indirilebiliyor ve kullanıcının istediği biçimde değiştirilebiliyor.
‘Görüntüler önemli ziyan verebilir’
BBC, ergenlik çağındaki kız çocuklarının cinselleştirilmiş imgelerini oluşturmak için Stable Diffusion’ın özel bir versiyonunu kullanan bir yapay zeka imaj üreticisiyle konuştu.
Japon erkek ürettiği “sevimli” imajları savunarak “tarihte birinci defa gerçek çocuklar istismar edilmeden çocuk manzaraları yapılabildiğini” söyledi.
Ancak uzmanlar imajların önemli ziyan verebileceğini söylüyor.
ABD’de cinsel kabahatler işleyenler ve pedofiller konusunda uzman Dr. Michael Bourke, “Yapay zeka ile üretilen imajların bu eğilimleri artıracağına, bu sapkınlığı güçlendireceğine ve dünyanın dört bir yanındaki çocuklara daha fazla ziyan verme riski taşıdığına hiç kuşkum yok” dedi.
Stable Diffusion’ın geliştiricilerinden Profesör Bjorn Ommer, Ağustos 2022’de platformu açık kaynak haline getirme kararını savundu ve o vakitten bu yana yüzlerce akademik araştırma projesinin ortaya çıktığını söyledi.
Ommer bunun kendisinin ve grubunun kararını haklı çıkardığını ve araştırmayı durdurmanın gerçek olmadığını öne sürüyor.
“Bunun dünya çapında, global bir gelişme olduğu gerçeğiyle yüzleşmemiz gerekiyor. Bunu durdurmak, demokratik olmayan ülkelerde bu teknolojinin global olarak gelişmesini durdurmayacaktır. Süratle ilerlediğini gördüğümüz bu gelişmeyi dikkate alıp risk giderecek adımlar atmamız gerekiyor” diyor.
Modelin geliştirilmesini finanse eden Stability AI, Stable Diffusion’ın yeni versiyonlarını geliştiren şirketlerden biri. Şirket röportaj teklifini reddetti fakat daha evvel yaptığı açıklamada yapay zeka versiyonlarının yasa dışı ya da ahlaka alışılmamış gayelerle berbata kullanılmasını yasakladığını söylemişti.
