SynthID isimli bu araç, Google Cloud‘un makine tahsili platformu Vertex‘te barındırılan AI imaj oluşturucusu Imagen ile kullanıcılarına sunulacak. Imagen kullanıcıları, imajları oluşturduktan sonra filigran ekleyip eklememeyi tercih edebilecekler. Bu sayede, yapay zeka tarafından üretilen içeriğin gerçekmiş üzere gösterilmesi yahut telif hakları ihlalleri daha uygun engellenebilecek.

İLK BÜYÜK TEKNOLOJİ ŞİRKETİ

Google DeepMind’ın CEO’su Sundar Pichai, şirketin modellerini baştan itibaren filigran ve öteki güvenlik tedbirleriyle tasarladığını söz etti. SynthID, bu alanda adım atan birinci büyük teknoloji şirketi olma özelliğini taşıyor.

SynthID, iki hudut ağı kullanarak çalışıyor. Yepyeni bir manzarayla çabucak hemen tıpkı görünen değiştirilmiş bir imaj oluşturarak gözle görülemeyen bir desen yaratıyor. İkinci hudut ağı, bu deseni tespit edebilirken, kullanıcılara manzaranın filigran içerip içermediğini yahut içerme mümkünlüğünü bildiriyor.

Google DeepMind‘ın bu adımı, yapay zeka tarafından üretilen içeriğin doğruluğunu ve güvenilirliğini artırmayı amaçlayan değerli bir gelişme olarak bedellendiriliyor. Lakin, uzmanlar şimdi filigran sistemlerinin büsbütün kusursuz olmadığını ve vakit içinde daha da geliştirilmesi gerektiğini belirtiyorlar.

Google yapay zeka ile oluşturulmuş görselleri ortaya çıkartacak! yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.

SynthID isimli bu araç, Google Cloud‘un makine tahsili platformu Vertex‘te barındırılan AI manzara oluşturucusu Imagen ile kullanıcılarına sunulacak. Imagen kullanıcıları, manzaraları oluşturduktan sonra filigran ekleyip eklememeyi tercih edebilecekler. Bu sayede, yapay zeka tarafından üretilen içeriğin gerçekmiş üzere gösterilmesi yahut telif hakları ihlalleri daha güzel engellenebilecek.

İLK BÜYÜK TEKNOLOJİ ŞİRKETİ

Google DeepMind’ın CEO’su Sundar Pichai, şirketin modellerini baştan itibaren filigran ve başka güvenlik tedbirleriyle tasarladığını söz etti. SynthID, bu alanda adım atan birinci büyük teknoloji şirketi olma özelliğini taşıyor.

SynthID, iki hudut ağı kullanarak çalışıyor. Orjinal bir manzarayla çabucak hemen tıpkı görünen değiştirilmiş bir imaj oluşturarak gözle görülemeyen bir desen yaratıyor. İkinci hudut ağı, bu deseni tespit edebilirken, kullanıcılara imgenin filigran içerip içermediğini yahut içerme mümkünlüğünü bildiriyor.

Google DeepMind‘ın bu adımı, yapay zeka tarafından üretilen içeriğin doğruluğunu ve güvenilirliğini artırmayı amaçlayan değerli bir gelişme olarak bedellendiriliyor. Fakat, uzmanlar şimdi filigran yollarının büsbütün kusursuz olmadığını ve vakit içinde daha da geliştirilmesi gerektiğini belirtiyorlar.

Google yapay zeka ile oluşturulmuş görselleri ortaya çıkartacak! yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.

Çocukların mahremiyetinin dijital ortamda da korunması gerektiğine dikkat çeken Bulut, “Tüm bilgilerimizi dijital ortamda paylaşıyoruz, çocukların bilgilerinin kayıt altına alınmaması, silinmesi gerekmektedir. Dijital ortama takip sistemi gelebilir, örneğin çocuğun cinsel istismarına dair görüntü yahut imgeleri izlemeye yönelik aramalar yapıldığında bu sistem bunu tespit etmeli, bunu engellemeli somut olayın özelliğine nazaran gerekirse bu sitelere önlemler, yaptırımlar uygulanmalıdır. Çocuğun yüksek faydasının üstün tutularak bu durumun kişilik haklarına muhalif olmayacağı kanaatindeyim” diye konuştu.

(Çağla Gül Bulut)

“UYUMLULUK ŞART”

Yapay zekâ ile çocuk istismarı figürlerinin üretilmesinin ileriki etaplarının çocuğun cinsel istismarı hatası olduğuna dikkat çeken Bulut şöyle devam etti:

“Sahte ya da gerçek, bu görsellerin üretilmesi de yayılması da kabahattir. Bu takip sistemiyle bunları üreten yahut yayanlar da tespit edilmelidir. Kaldı ki bu içerikleri paylaşan şahıslar bu içerikleri üreten eser sahipleri olduklarından direkt sorumludur. Şu an için çocuk haklarına dair yasal düzenlemeler dijital ortamı husus almamaktadır. Artık dijital çağa uyumlu hami ve önleyici önlemlerin alınması, kanunların ve yaptırımların dijital çağa uyumlu hale getirilmesi gerekmektedir.”

(Ali Murat Kırık)

Marmara Üniversitesi İrtibat Fakültesi Görsel Bağlantı Tasarımı Anabilim Kısmı Lideri Doç. Dr. Ali Murat Kırık ise, yapay zekanın çocuk istismarı konusunda önemli bir tehdit haline geldiği ihtarında bulundu. Kırık, “Pedofili ve istismarcılar yapay zekâ uygulamalarını bu gayeyle tercih edebilmekte, sözlerle sağladıkları komutları uygulamaya girerek bebek ve çocuk görselleri oluşturabilmektedir. Daha sonra bunları çeşitli ağlar üzerinden satışa çıkarabilmekteler” dedi.

Yapay zekâ eseri çocuk görselleri istismara davetiye çıkartıyor: Üretilmesi de yayılması da cürüm yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.