Deepfake teknolojisi ile yapılan dolandırıcılık, bir finans çalışanına 25 milyon dolar kaybettirdi.

Deepfake teknolojisinden yararlanılarak oluşturulan sahte içerikler, insanların yüz ifadelerini ve ses tonlarını gerçekçi bir şekilde taklit edebildiği için kötü niyetli kişiler tarafından kullanılma potansiyeline sahip. Bu durum, potansiyel mağdurların yanıltılmasına ve maddi kayıplara neden oluyor.

Hong Kong polisinin yaptığı açıklamaya göre bir finans çalışanı, bu tür bir dolandırıcılık olayında 25 milyon dolar kaybetti. Dolandırıcıların, deepfake teknolojisi kullanarak şirketin CFO’sunu taklit ettiği ortaya çıktı.

Olay, çalışanın şirketin Birleşik Krallık’ta çalışan CFO’dan geldiği iddia edilen bir mesaj almasıyla başladı. Söz konusu mesaj, gizli bir işlem gerçekleştirilmesi gerektiğini belirtiyordu. İlk etapta çalışan, bunun bir dolandırıcılık girişimi olduğunu düşündü. Ancak yapılan video konferansta CFO’nun sesine ve görüntüsüne çok benzeyen biri bulunuyordu.

Deepfake, genellikle yapay zekâ veya makine öğrenmesi tekniklerini kullanarak oluşturulan sahte veya manipüle edilmiş bir video veya ses kaydı olarak tanımlanıyor.

Hong Kong polisi, bu karmaşık dolandırıcılık olayının ardında deepfake teknolojisinin kullanıldığı bir dizi suçun olduğunu belirtti. Geçen cuma günü düzenlenen basın toplantısında, polis altı kişinin tutuklandığını açıkladı. Bu dolandırıcılık şemasının, geçen yıl temmuz ve eylül ayları arasında, kayıp olarak bildirilen 8 Hong Kong kimlik kartıyla 90 kredi başvurusu ve 54 banka hesabı açılmasını içerdiğini belirtti.

Şüphelilerin, kimlik kartlarındaki kişileri taklit etmek için deepfake teknolojisini kullanarak yüz tanıma sistemlerini kandırdığı belirtildi. Dolandırıcılık olayı, çalışanın şirket merkeziyle iletişime geçmesiyle ortaya çıktı. Bu olay, finans sektöründe deepfake teknolojisinin giderek artan bir tehdit olarak görüldüğünü ve yetkililerin bu tür suçları önlemek için çaba sarf ettiğini gösteriyor.

Deepfake teknolojisi ile 25 milyon dolarlık vurgun yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.

Bunlar ortasında Brad ve Pitt ve Angelina Jolie’nin yer aldığı bir The Shining kesiti, Charlize Theron’un yüzünün yerleştirildiği Captain Marvel ve Will Smith’in Neo’yu canlandırmış üzere göründüğü The Matrix görüntüleri vardı.

Tümünde oyuncuların yüzleri sinema kesitlerine deepfake teknolojisiyle yerleştirilmişti.

Katılımcılara ayrıyeten hakikaten var olan yeni çevrim sinemalar de izletildi.

Independent Türkçe’de yer alan habere nazaran bulgular, iştirakçilerin ortalama yüzde 49’unun deepfake görüntülerin gerçek olduğuna inandığını gösterdi. Bu iştirakçiler sinemaları nitekim hatırladığını ileri sürüyordu.

Hatta yüzde 41’i Captain Marvel’ın yine çevriminin özgününden daha düzgün olduğunu söylerken, yüzde 12’si de The Matrix’in yine çevrimini daha düzgün bulduğunu lisana getirdi.

İrlanda’daki University College Cork’tan yanlış bilgi araştırmacısı Gillian Murphy, “Gelişmekte olan teknolojilerle ilgili kaygılarımıza dayanarak distopik gelecek varsayımlarına çabucak dalmamalıyız” dedi.

Aynı vakitte araştırmanın başyazarı olan Murphy, DailyBeast’e verdiği röportajda şu sözleri kullandı:

Evet, deepfake’in neden olduğu çok önemli ziyanlar var. Fakat var olabileceğini varsaydığımız problemleri çözmek için ivedi etmeden evvel, her vakit birinci etapta bu ziyanlara dair delil toplamalıyız.

Öte yandan araştırmacılar, deepfake’in ekstra bir tehlike oluşturmayablileceği görüşünde.

Zira deneyin ikinci etabında deepfake’li imgeler yerine iştirakçilere metinler verildi. Bu metinlerde de ünlü sinemaların hiç çekilmemiş yine çevrimleri ve bu sinemalarda hiç oynamamış oyuncuların isimleri geçiyordu.

Bu yazılı tanımların de iştirakçilerin değerli bir kısmında geçersiz anılar canlandırabildiği görüldü.

Murphy, “Bulgularımız, mevcut yanlış bilgi biçimlerinin ötesinde, eşsiz derecede güçlü bir deepfake tehdidi önermiyor” diye konuştu.

Öte yandan araştırmacı, bu çalışmada sadece kısa müddetli belleğe odaklandıklarını da kelamlarına ekledi:

Deepfake’ler yanlış bilgi yaymak için daha güçlü bir araç olabilir, zira örneğin viral olma olasılıkları daha yüksek yahut uzun vadede daha akılda kalıcı.

Deepfake nedir?

Türkçedeki birebir sözcük karşılığı “derin sahte” olan deepfake kabaca birinin yüzünü dijital olarak öteki birinin bedenine monte edip elde ettiğiniz manzarayı istediğiniz üzere kullanmanıza imkan tanıyan bir teknoloji. Hasılı internetten kolaylıkla ulaşılabilen algoritmalar sayesinde A bireyinin yüzü B şahsına montajlanabiliyor.

İnternet kullanıcıları, deepfake içeriğe birinci sefer 2017’de maruz kaldı. O yıl anonim bir Reddit kullanıcısı, Scarlett Johansson üzere ünlülerin deepfake’le oluşturulmuş düzmece pornografik imgelerini yayımlamıştı.

Yapay zeka algoritmalarının sağlam bir deepfake örneği oluşturabilmesi için bol ölçüde görüntü kaydı gerekiyor. Bu da internet ortamında çok sayıda manzarası olan ünlülerle daha gerçekçi deepfake’ler oluşturulmasını sağlıyor.

Deepfake kullanılarak insanların zihnine düzmece anılar yerleştirdi yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.

Bunlar ortasında Brad ve Pitt ve Angelina Jolie’nin yer aldığı bir The Shining kesiti, Charlize Theron’un yüzünün yerleştirildiği Captain Marvel ve Will Smith’in Neo’yu canlandırmış üzere göründüğü The Matrix görüntüleri vardı.

Tümünde oyuncuların yüzleri sinema kesitlerine deepfake teknolojisiyle yerleştirilmişti.

Katılımcılara ayrıyeten hakikaten var olan yeni çevrim sinemalar de izletildi.

Independent Türkçe’de yer alan habere nazaran bulgular, iştirakçilerin ortalama yüzde 49’unun deepfake görüntülerin gerçek olduğuna inandığını gösterdi. Bu iştirakçiler sinemaları nitekim hatırladığını ileri sürüyordu.

Hatta yüzde 41’i Captain Marvel’ın tekrar çevriminin özgününden daha düzgün olduğunu söylerken, yüzde 12’si de The Matrix’in yine çevrimini daha düzgün bulduğunu lisana getirdi.

İrlanda’daki University College Cork’tan yanlış bilgi araştırmacısı Gillian Murphy, “Gelişmekte olan teknolojilerle ilgili kaygılarımıza dayanarak distopik gelecek iddialarına çabucak dalmamalıyız” dedi.

Aynı vakitte araştırmanın başyazarı olan Murphy, DailyBeast’e verdiği röportajda şu tabirleri kullandı:

Evet, deepfake’in neden olduğu çok önemli ziyanlar var. Lakin var olabileceğini varsaydığımız meseleleri çözmek için çabuk etmeden evvel, her vakit birinci etapta bu ziyanlara dair ispat toplamalıyız.

Öte yandan araştırmacılar, deepfake’in ekstra bir tehlike oluşturmayablileceği görüşünde.

Zira deneyin ikinci etabında deepfake’li manzaralar yerine iştirakçilere metinler verildi. Bu metinlerde de ünlü sinemaların hiç çekilmemiş yine çevrimleri ve bu sinemalarda hiç oynamamış oyuncuların isimleri geçiyordu.

Bu yazılı tanımların de iştirakçilerin kıymetli bir kısmında uydurma anılar canlandırabildiği görüldü.

Murphy, “Bulgularımız, mevcut yanlış bilgi biçimlerinin ötesinde, eşsiz derecede güçlü bir deepfake tehdidi önermiyor” diye konuştu.

Öte yandan araştırmacı, bu çalışmada sadece kısa periyodik belleğe odaklandıklarını da kelamlarına ekledi:

Deepfake’ler yanlış bilgi yaymak için daha güçlü bir araç olabilir, zira örneğin viral olma olasılıkları daha yüksek yahut uzun vadede daha akılda kalıcı.

Deepfake nedir?

Türkçedeki birebir sözcük karşılığı “derin sahte” olan deepfake kabaca birinin yüzünü dijital olarak diğer birinin bedenine monte edip elde ettiğiniz manzarayı istediğiniz üzere kullanmanıza imkan tanıyan bir teknoloji. Velhasıl internetten kolay kolay ulaşılabilen algoritmalar sayesinde A şahsının yüzü B bireyine montajlanabiliyor.

İnternet kullanıcıları, deepfake içeriğe birinci sefer 2017’de maruz kaldı. O yıl anonim bir Reddit kullanıcısı, Scarlett Johansson üzere ünlülerin deepfake’le oluşturulmuş geçersiz pornografik imajlarını yayımlamıştı.

Yapay zeka algoritmalarının sağlam bir deepfake örneği oluşturabilmesi için bol ölçüde görüntü kaydı gerekiyor. Bu da internet ortamında çok sayıda imgesi olan ünlülerle daha gerçekçi deepfake’ler oluşturulmasını sağlıyor.

Deepfake kullanılarak insanların zihnine düzmece anılar yerleştirdi yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.

Yapılan açıklamada yer alan bilgilere nazaran “fotoğraf yahut görüntüleri müstehcen içeriğe dönüştürülen” kurbanların sayısında önemli bir artış yaşandı.

Suçlular, insanların olağan fotoğraflarını yapay zekâ araçlarıyla ‘müstehcen’ fotoğraflara dönüştürerek şantaj yapıyor. FBI, bilhassa ebevenylerin çocuklarını siber hatalılardan muhafazası gerektiğininin altını çizdi. 

Antivürüs yazılım şirketi ESET, deepfake görüntülerinden korunmak için insanların yapması gerekenleri açıkladı. 

Kişisel olarak Deepfake’ten korunmak için yapılması gerekenler şöyle:

• Fotoğraf, görüntü ve öbür ferdî içerikleri paylaşırken her vakit iki kere düşünün. Teorik olarak, en temiz içerik bile makûs emelli bireyler tarafından müsaadeniz olmadan deepfake bir içeriğe dönüştürülebilir.
• Sosyal medya hesaplarınızdaki kapalılık ayarlarını öğrenin. Profilleri ve arkadaş listelerini kapalı yapmak mantıklıdır, böylelikle fotoğraflar ve görüntüler sadece tanıdığınız bireylerle paylaşılır.
• Tanımadığınız bireylerden gelen arkadaşlık isteklerini kabul ederken her vakit dikkatli olun.
• Tanımadığınız şahıslara asla içerik göndermeyin. Bilhassa makul içerikleri görmek için baskı yapan bireylere karşı dikkatli olun.
• Çevrimiçi ortamda sıra dışı davranmaya başlayan “arkadaşlara” karşı dikkatli olun. Hesapları ele geçirilmiş olabilir. İçerik ve farklı bilgiler elde etmek için kullanılabilir.
• Sosyal medya hesaplarınızın güvenliğini sağlamak için her vakit karmaşık, eşsiz parolalar ve çok faktörlü kimlik doğrulama (MFA) kullanın.
• Herkese açık olan şahsî bilgilerinizi yahut video/görüntülerinizi bulmak için kendinizi çevrimiçi ortamda tertipli olarak arayın.
• Bilginiz dışında internette yayımlanmış fotoğraf yahut görüntüleri bulmak için bilakis görsel arama yapmayı düşünün.
• Tanımadığınız bireylere asla para yahut canlı içerik göndermeyin. Gönderdiğiniz sürece daha fazlasını isteyeceklerdir.
• Herhangi bir cinsel zorlama faaliyetini polise ve ilgili toplumsal medya platformuna bildirin.
• Deepfake içeriği, yayımlandığı platforma bildirin.

Ebeveyn olarak ise yapılması gerekenler şöyle:

• Çevrimiçi ortamda ne kadar şahsî bilgi ve içeriğin herkese açık olarak paylaşıldığını belirlemek için çocuklarınızla ilgili nizamlı çevrimiçi aramalar yapın.
• Çocuklarınızın çevrimiçi faaliyetlerini makul ölçüler içinde izleyin ve onlarla ferdî içerik paylaşmanın risklerini konuşun.
• Çocuklarınızın yüzlerinin göründüğü içerikleri paylaşırken iki sefer düşünün.

FBI uyardı: ‘Müstehcen’ deepfake görüntüleri arttı yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.

FİNANSAL DOLANDIRICILIK

Deepfake imgeler, hatalıların kurbanları tuzağa çekmek gayesiyle ünlüleri taklit etmek için geliştirdikleri imajların kullanıldığı toplumsal mühendislik tekniklerine mevzu olabiliyor. Örneğin geçen yıl Elon Musk’ın kuşkulu bir kripto para yatırım planından yüksek getiri vaat eden yapay olarak oluşturulmuş deepfake görüntüsü, kullanıcıların para kaybetmelerine neden oldu. Dolandırıcılar bunun üzere düzmece görüntüler yaratmak için ünlülerin imgelerini kullanıyor.

BÜYÜK ŞİRKETLER AMAÇ ALINIYOR

Deepfake görüntülerinin bir diğer kullanımı ise iş hayatında oluyor. Çalışanlar, siber hatalılar tarafından üst seviye şirket yöneticilerinin deepfake görüntüleri oluşturularak kandırılıyor.

Örneğin geçen aylarda Birleşik Arap Emirlikleri’ndeki bir banka müdürü, siber hatalılar tarafından ses deepfake’i kullanılarak kandırıldı. Hatalılar banka müdüründen 35 milyon dolar çaldı. 

Antivirüs yazılımı şirketi Kaspersky tarafından darknet üzerindeki deepfake görüntülerini oluşturma maaliyeti hakkında bir rapor yayınlandı. Yayınlanan raporda açıklanan bilgilere nazaran deepfake görüntüsü oluşturmanın epeyce maaliyetli olduğu yer aldı.

Düşük kalitedeki deepfake görüntüleri toplumun çok küçük bir kesmini kandırabiliyor. Beşerler yüz tabirindeki gecikmeleri yahut çene halindeki bulanıklığı fark edebiliyor. 

MALİYETİ 20 BİN ABD DOLARI

Bu nedenle, siber hatalılar bir atağa hazırlanırken büyük ölçüde dataya gereksinim duyuyor. Taklit etmek istedikleri kişinin fotoğrafları, görüntüleri ve sesleri üzere. Farklı açılar, ışık parlaklığı, yüz sözleri, hepsi kesin kalitede büyük rol oynuyor. Sonucun gerçekçi olması için kullanılan bilgisayarın gücünün de üst seviye olması gerekiyor. Tüm bunlar büyük ölçüde kaynak gerektiriyor ve bu kaynağa sadece az sayıda siber hatalı erişebiliyor. Bu nedenle deepfake sağlayabileceği tehlikelere karşın hala son derece ender bir tehdit olmaya devam ediyor ve sırf az sayıda insan bu dolandırılığa maruz kalıyor. Kaspersky’ın açıkladığı bilgilere nazaran bir deepfake görüntüsünün fiyatı 20 bin dolardan başlıyor. 

“BAZEN PRESTİJ RİSKLERİ ÇOK ÖNEMLİ SONUÇLAR DOĞURABİLİR”

Kaspersky Güvenlik Uzmanı Dmitry Anikin, husus ile ilgili açıklamasında şunları dedi:

“Deepfake’in işletmeler için oluşturduğu en önemli tehditlerden biri her vakit kurumsal bilgilerin çalınması değildir. Bazen prestij riskleri çok önemli sonuçlar doğurabilir. Yöneticinizin hassas hususlarda kutuplaştırıcı açıklamalar yaptığı bir görüntünün yayınlandığını düşünün. Şirket için bu durum pay fiyatlarında süratli bir düşüşe yol açabilir. Lakin, bu türlü bir tehdidin riskleri son derece yüksek olmasına karşın, deepfake oluşturmanın maliyeti ve çok az saldırganın yüksek kaliteli bir deepfake oluşturabilmesi nedeniyle bu biçimde hücuma uğrama bahtınız son derece düşüktür. Bu hususta yapabileceğiniz şey, deepfake görüntülerin temel özelliklerinin farkında olmak ve size gelen sesli ileti ve görüntülere kuşkuyla yaklaşmaktır. Ayrıyeten, çalışanlarınızın deepfake’in ne olduğunu ve nasıl fark edebileceklerini anladıklarından emin olun. Örneğin sarsıntılı hareket, cilt tonunda kaymalar, garip göz kırpma yahut hiç göz kırpmama üzere işaretler belirleyici olacaktır.”

Deepfake görüntülerinin sayısı her yıl yüzde 900 oranında artıyor! yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.

Deepfakeler, gerçek olanlardan ayırt edilmesi sıkıntı olabilen manipüle edilmiş görüntüler. Lakin, bu deepfakelerin tespiti için çalışmalar da yapılıyor.

Binghamton Üniversitesi’nde Dr. Umur Aybars Çiftçi, deepfake teknolojisinin tespitinde yeni metotlar geliştiriyor.

Dr. Umur Aybars Çiftçi ve Dr. Prensip Demir, bir görüntüde konuşan kişinin gerçek olup olmadığını tespit etmek için kalp atışını kullanabilen bir teknoloji geliştirdi.

Independent Türkçe’den Esra Öz’ün haberine nazaran bu teknoloji, insan bedenindeki kalp atışının yarattığı ufak renk değişikliklerini tespit ederek görüntüdeki kişinin gerçekliğini doğrulayabiliyor.

Kalp atım suratı ölçülerek tespit edilebiliyor

Vücudumuzdaki kanın damarlarımıza pompalanması sırasında meydana gelen ufak değişiklikler, kanın içindeki hemoglobinin oksijen taşıması sırasında yüzümüzde ufak bir renk değişikliği yaratır.

Bu değişiklik, olağan kamera sistemleri tarafından tespit edilebilir lakin, insan gözü tarafından fark edilmez.

Ancak, bu değişiklikler, yüzdeki kılcal damarların yoğunluğuna, kalbin pozisyonuna ve kişinin yaşına bağlı olarak değişebilir.

Araştırma takımı, bu değişiklikleri ölçmek için derin öğrenme algoritması kullanarak bir sistem geliştirdi.

Bu sistem, bir görüntüdeki kişinin kalp atışını tahlil ederek, gerçekliği doğrulanabilir yahut kuşkulu olan görüntüleri tespit edebiliyor.

Örneğin, bir deepfake görüntüsünde kalp atışı gerçek insanlarınkinden farklıdır ve bu nedenle sistem, deepfake görüntüleri tespit edebilir.

Bu teknoloji, uydurma görüntülerin yayılmasını önlemek için kullanılabilir. Bilhassa, manipüle edilmiş görüntülerin toplumsal medyada yayılması ve toplumun algısını değiştirmesi konusunda tasa duyuluyor.

Ancak, bu teknolojinin kullanımı da kimi etik soruları gündeme getiriyor.

Kalp atışlarının kılcal damarlar yoluyla ölçülebildiği söyleyen Çiftçi, “PPG ismi verilen bir teknoloji, parmaklardaki renk değişikliklerini kullanarak kalp atışlarını ölçebiliyor ve bu teknoloji zati hastanelerde kullanılıyor” dedi.

“Benzer bir teknoloji, yüzdeki kılcal damarlar yoluyla kalp atışlarını ölçebilir, lakin bu teknolojinin daha fazla geliştirilmesi gerekiyor” diyen Çiftçi, kelamlarını şöyle sürdürdü:

Kamera kullanarak kalp atışlarını ölçmek için, kılcal damarlardaki renk değişikliklerinin tespit edilmesi gerekiyor. Kameraların kalitesi değerli olmakla birlikte, olağan cep telefonu kameraları yahut bilgisayar kameraları kullanılarak da bu teknolojinin tespiti yapılabilir.

Göz hareketlerini tahlil ederek deepfakeler tespit edilebiliyor

Bir öbür projede Dr. Çiftçi ve Dr. Demir, göz hareketlerini tahlil ederek deepfakelerin nasıl tespit edilebileceğini araştırıyor.

Dr. Umur Aybars Çiftçi, araştırmayla ilgili şu bilgileri verdi:

Dr. Çiftçi ve Dr. Demir, bir kişinin gözlerinin odaklandığı yerdeki küçük farklılıkları ve göz bebeklerinin nasıl hareket ettiğini inceleyerek, bir görüntünün gerçek mi yoksa manipüle edilmiş mi olduğunu tespit etmenin bir yolunu buldu.

Bu teknoloji, gazetecilik ve siyaset de dahil olmak üzere çeşitli bölümlerde yanlış bilginin yayılmasını önlemeye yardımcı olmak için kullanılabilir.

Teknolojinin gelişmesiyle birlikte, rastgele bir görüntünün gerçek olup olmadığını tespit etmek artık çok daha kolay hale geldi.

Dr. Unsur Demir liderliğinde Trusted Media kümesi FakeCatcher teknolojisini yayımladı. Bu teknolojiler, yakın bir vakitte kimi firmalar tarafından eser haline getirilerek insanların kullanımına sunulacak.

Bu sayede, bir görüntü ya da bilginin gerçekliği hakkında süratli ve emniyetli bir biçimde bilgi edinilebilecek.

Ayrıca, olağan cep telefonlarında bile kalp atışını ölçmeye yönelik birtakım uygulamaları kullanabilir. Bu uygulamalar, hala birtakım yanlışlar içerse de genel olarak kullanıcılar için faydalı.

Gözlerinizin baktığı noktaları tespit etmek için ise olağan kameralar ve çağdaş oyun bilgisayarları yahut sanal gerçeklik kameraları kullanılabilir.

Bu teknolojiler, günlük hayatta farkında olmadan kullandığımız fakat epeyce yararlı olan araçlar.

Dr. Umur Aybars Çiftçi, tüm bu teknolojiler sayesinde, gerçekliğin doğrulanması ve takibi daha kolay hale geldiğini belirtti.

Korneadan da gerçeklik tespiti yapılabiliyor

Görsel tanıma teknolojileri süratle gelişiyor ve bu teknolojilerin hayatımızın birçok alanında kullanıldığını belirten Dr. Çiftçi, Korneadan gözlerin gerçek olup olmadığının tespiti edilebildiğini söyledi.

Çiftçi, bu teknolojinin korneadaki fotoğrafların birbirleriyle olan aynılığına bakarak, şayet birbirleriyle birebir değillerse iki gözün farklı lokasyonlarda olduğunu tespit ederek, bir fotoğrafın gerçek olup olmadığını anlayabildiğini belirtti

Deepfake görüntüleri tespit etmenin yolu: Kalp atışları yazısı ilk önce Habernetik - Haberdeki Benzersiz Etik üzerinde ortaya çıktı.