Düzmece videolar oluşturulmasını elde eden Deepfake teknolojisinin kötüye kullanım yolları açık bir halde görülebilse de, her gün yeni ve kimi zaman de acayip sayılabilecek örnekler ortaya çıkmaya devam ediyor. Philadelphia Inquirer ve Harrisburg’den Patriot News’in bildirdiği suretiyle polis, Pennsylvania, Chalfont sakini Raffaela Spone‘u, kızının amigo ekibi Victory Vipers‘tan rakiplerini kovdurmak için deepfake kullanmak suçuyla tutukladı. Kanun güçlerinin söylediğine bakılırsa Spone, AI tarafınca değiştirilerek gençlerin içki, sigara içerken yada çıplak bir halde görüldükleri fotoğrafları koçlara gönderdi.
Polis bu durumdan ilk olarak Temmuz ayında, kurbanlardan birinin anonim bir numaradan mesajlar alması ile haberdar oldu ve sonrasında benzer hikayeleri olan ötekiler de ortaya çıktı. Polis memurları, bu numaraları bir tele-pazarlama merkezli siteye ve sonrasında da Spone’un evinde kullanılan IP adresine takip ederek mesajları Spone’a bağladılar. Kadının akıllı telefonunda meydana getirilen bir araştırma ile de kendisini bahsi geçen numaralarla ilişkilendiren kanıtlar bulunmuş oldu.
Spone, bir evladı siber rahatsız etme etme ve ilgili suçlarla suçlanmakta. Polis, kızının annesinin davranışlarından haberi olduğuna yönelik herhangi bir kanıt bulunmamasından dolayı kıza karşı dava açmış değil.
Feysbuk, TikTok ve Twitter şeklinde toplumsal ağlar şimdiden deepfake’leri yasaklayarak yayılma ihtimallerini azalmaya çalışıyor. Sadece bu durum, direkt rahatsız etme davranışlarını etkilemiyor ve yaşanmış olan bu vaka da düzmece görsellerin oluşturulmasının kolaylığını ortaya çıkarıyor. İnandırıcı görünen bir görüntü yaratmak için bir uzman olmanız gerekmiyor. Her ne kadar deepfake’leri belirlemek için pek fazlaca araştırma bulunuyor olsa da, bu belirleme sistemleri anca fotoğraflardan şüphelenirseniz ve ciddi bir hasar yaratmadan yakalayabilirseniz işe yarıyor…