OpenAI, Sora’nın oyuncuların seslerini ve benzer görünümünü içeren videolar üretmesini engelleme sonucu aldı. Bu karar, artan endişelerin ve kimsenin rızası olmadan deepfake’lerin oluşturulmasının arkasından geldi.
OpenAI, geçtiğimiz haftalarda video üretme modeli Sora 2’yi resmen bizlerle buluşturmuştu. Ses desteğiyle gelen yeni model, kısa sürede toplumsal medyada viral olmayı başarırken bazı tartışmalı içeriklerin de ortaya çıkmasına niçin olmuştu.
Ünlüleri içeren deepfake görüntülerin sayısı bir fazlaca artmıştı.
Şimdi ise bu mevzuda Sora’ya mühim bir güncelleme geldi. OpenAI, Sora’nın güvenlik önlemlerini artırma sonucu aldı. Suni zekâ modeli, artık ünlülerin sesini ve benzer görüntülerini içeren videolar üretmeyecek.
Karar, oyuncuların artan endişelerinin arkasından alındı
ABD’de bulunan oyuncu sendikası SAG-AFTRA, Breaking Bad’den tanıdığımız Bryan Cranston ve öteki birkaç organizasyon ortak bir izahat yayımladı. Açıklamada iş birliği yaparak bu biçim bir kararın alınmasını sağladıklarını belirtti.
Cranston başta olmak suretiyle birçok oyuncu Sora 2 ve Sora uygulamasında ünlülerin deepfake görüntülerinin artması sebebiyle endişelerini dile getirmişti. Bunun oyuncuların herhangi bir rızası olmadan yapıldığının altı çizilmişti. Martin Luther King Jr. benzer biçimde zamanı figürler için de benzer bir durum görmüştük. King Jr.’ın ailesinin tepkilerinin arkasından OpenAI bu biçim içerik üretimini engellemişti.
Yeni kararla beraber artık bir tek izni alınan insanların benzer görüntüleri Sora ile oluşturulabilecek. Suni zekânın bu mevzuda büyük kaygı oluşturduğunu biliyoruz. Video modelleri geliştikçe maalesef bu şekilde içeriklerin sayısı artıyor, sanatçıların tepkileri büyüyor. Lüzumlu önlemler alınmazsa deepfake’lerin denetim edilemeyecek seviyelere geldiğini görebiliriz.
