• Taylor Swift’in yapay zeka tarafından oluşturulan cinsel içerikli görüntüleri, deepfake pornografisinin yaygınlaşmasının ve yayılmasını engellemenin zorluğunun son örneği olarak geçtiğimiz gün X’te dolaşıma girdi.
•  X, olayın başlamasından neredeyse bir gün sonra yayımladığı kamu açıklamasında 45 milyondan fazla görüntüleme alan paylaşımdan bahsetmedi.
• Beyaz Saray Basın Sekreteri Karine Jean-Pierre, olayı endişe verici olarak nitelendirip yasama mesajı verirken Microsoft CEO’su Satya Nadella, deepfake görüntüler hakkındaki önlemlerin artırılması hakkında konuştu.

Taylor Swift’in yapay zeka tarafından oluşturulan cinsel içerikli görüntüleri, deepfake pornografisinin yaygınlaşmasının ve yayılmasını engellemenin zorluğunun son örneği olarak geçtiğimiz gün X’te dolaşıma girdi.

Görüntüleri paylaşan doğrulanmış kullanıcının hesabı platform politikasını ihlal ettiği gerekçesiyle askıya alınmadan önce 45 milyondan fazla görüntüleme, 24.000 yeniden paylaşım ve yüz binlerce beğeni ve kaydetme aldı. Gönderi kaldırılmadan önce yaklaşık 17 saat boyunca platformda yayında kaldı. Ancak kullanıcılar gönderiyi tartışmaya başlayınca görüntüler yayıldı ve diğer hesaplarda yeniden paylaşıldı. Birçoğu hâlâ yayında ve o zamandan beri yeni sahte görseller ortaya çıktı. Bazı bölgelerde “Taylor Swift AI” araması trend-topic olarak öne çıktı ve görsellerin daha geniş kitlelere yayılmasını sağladı.

404 Media‘da yer alan bir rapora göre görüntülerin kaynağı Telegram’da yer alan ve kullanıcıların genellikle Microsoft Designer ile yapay zeka tarafından üretilen müstehcen kadın görüntülerini paylaştıkları bir grup olabilir. Gruptaki kullanıcıların Swift’in görüntülerinin X’te nasıl yayıldığı konusunda şakalaştıkları bildirildi.

X’in yapay ve manipüle edilmiş medya ve rıza dışı çıplaklıkla ilgili politikaları bu tür içeriklerin platformda barındırılmasını açıkça yasaklamakta. X, Swift ve NFL temsilcileri The Verge‘ün yorum taleplerine yanıt vermedi. X, olayın başlamasından neredeyse bir gün sonra yukarıdaki kamu açıklamasını yayımladı ancak görüntülerden bahsetmedi.

Swift’in hayran kitlesi, paylaşımların çoğunun bu kadar uzun süre yayında kalmasına izin verdiği için X’i eleştirdi. Buna karşılık olarak hayranlar, görüntüleri dolaşıma sokmak için kullanılan etiketleri, müstehcen görselleri gizlemek için Swift’in gerçek klipleriyle doldurdu.

Bazı yapay zeka görüntü oluşturucuları ünlülerin çıplak, pornografik ve fotogerçekçi görüntülerinin üretilmesini engelleyen kısıtlamalara sahip. Ancak bazıları böyle bir hizmet sunmamakta. Sahte görüntülerin yayılmasını önleme sorumluluğu genellikle sosyal platformlara düşüyor. En uygun koşullarda bile bunu yapmak zor olabilirken X gibi denetleme yeteneklerinin içini boşaltmış bir şirket için bu daha da zor.

Beyaz Saray dün yaptığı açıklamada, insanları yapay zeka tarafından üretilen sahte cinsel görüntülerden korumak için yasaların çıkarılması gerektiğini söyledi. Beyaz Saray Basın Sekreteri Karine Jean-Pierre tarafından yapılan açıklama, görüntülerin sosyal medyada yayılmasıyla ilgili bir soruya yanıt olarak geldi. Jean-Pierre olayı “endişe verici” olarak nitelendirdi ve bunun Biden yönetiminin öncelik verdiği yapay zeka konuları arasında yer aldığını söyledi.

Microsoft CEO’su Satya Nadella da sahte görüntülerle ilgili konuştu. NBC Nightly News ile önümüzdeki salı günü yayınlanacak bir röportajda Nadella, rıza dışı simüle edilmiş uygunsuz görüntülerin yaygınlaşmasını endişe verici ve korkunç olarak nitelendiriyor. Bu konuda hızlı hareket etmek gerektiğini düşündüğünü de ekliyor ayrıca internetin de bu yüzden tepki görmesini istiyor.

Microsoft Designer teorik olarak ünlü kişilerin resimlerini üretmeyi reddediyor, ancak yapay zeka jeneratörlerini kandırmak kolay olabiliyor. 404, istemlerde küçük değişiklikler yaparak kurallarını ihlal edebileceğinizi keşfetti. Bu durum Swift resimleri için Designer’ın kullanıldığını kanıtlamasa da Microsoft’un üstesinden gelebileceği türden bir teknik eksiklik. Ancak yapay zeka araçları, gerçek insanların sahte fotoğraflarını oluşturma sürecini büyük ölçüde basitleştirerek, Swift’ten çok daha az güce ve şöhrete sahip kadınlar için telaşa neden oldu. Microsoft’unki gibi büyük teknoloji platformları erişime kapatılsa bile insanlar Stable Diffusion gibi açık araçları, müstehcen resimler üretmek üzere yeniden eğitebilirler. Bu üreticilere çok daha az sayıda kullanıcı erişebilir ancak Swift olayı, küçük bir topluluğun çalışmalarının ne kadar geniş bir alana yayılabileceğini gösteriyor.

Nadella büyük sosyal ve politik değişiklikler öneriyor ancak yapay zekayı düzenlemeye yönelik erken hamlelere rağmen Microsoft’un net bir çözüm yelpazesi yok. Beyaz Saray da konuyla ilgili olarak yasama eylemi çağrısında bulunsa da bunun ne anlama geldiğine dair çok az ayrıntı verildi.

Derleyen: Esin Özcan