Meta, sosyal medya devleri Facebook, Instagram ve WhatsApp platformlarında, kullanıcıların ve şirket çalışanlarının izni olmadan, ünlüleri taklit eden yapay zekâ tabanlı chatbot’lar geliştirdi. Bu botlar, kullanıcılarla flört odaklı sohbetler yapabiliyor ve bazı durumlarda cinsel içerikli etkileşimler sunabiliyordu. Şirketin bazı botları, “parodi” etiketi taşımasına rağmen, Meta’nın kendi politikalarına aykırı içerikler üretti. Bu durum, şirketin denetim eksiklerini ve AI politikalarında boşluklar olduğunu gösterdi.

Botlar arasında Taylor Swift, Scarlett Johansson, Anne Hathaway ve Selena Gomez gibi dünya çapında tanınmış isimler vardı. Bunun yanında, 16 yaşındaki genç aktör Walker Scobell gibi reşit olmayan kişiler de botların hedefleri arasında yer aldı. Bazı kullanıcı taleplerine yanıt olarak, Walker Scobell’ın plajda gömleksiz şekilde tasvir edildiği görseller üretildi. Bu durum, özellikle genç kullanıcılar ve reşit olmayan kişilerin korunması açısından ciddi soru işaretleri doğurdu.

Flört ve Cinsel İçerikli Sohbetler

Meta’nın chatbot’ları yalnızca isimleri ve görüntüleri taklit etmekle kalmadı, aynı zamanda kullanıcılarla flört ederek buluşma teklifinde bulundu ve gerçekçi şekilde yetişkin ünlüleri iç çamaşırı veya banyo pozlarında tasvir eden görseller üretti. Bu içerikler, Meta’nın çıplaklık ve müstehcenlik politikalarına doğrudan aykırıydı.

Bazı botlar, kullanıcılar tarafından geliştirilen içeriklerle oluşturulsa da, en az üç bot çalışanlar tarafından test amacıyla geliştirildi. Bunlardan iki tanesi, özellikle Taylor Swift’in parodi botlarıydı. Yayınlandıktan sonra bu botlar, toplamda 10 milyondan fazla etkileşim aldı ve hızla kullanıcılar arasında yayıldı. Bu durum, şirketin hem iç denetim hem de kullanıcı güvenliği politikalarındaki eksiklikleri ortaya koydu.

Politikalar ve Yasal Tartışmalar

Meta sözcüsü Andy Stone, çıplak veya cinsel içerikli görsellerin politika ihlali olduğunu kabul etti. Stone, “Parodi etiketi taşıyan içerikler bile uygun şekilde işaretlenmediği sürece, politika ihlali olarak değerlendirilmektedir” ifadelerini kullandı. Şirketin bazı içeriklerde “parodi” etiketi kullandığı, ancak kullanıcı deneyiminde bunu yeterince şeffaf bir şekilde göstermediği belirtildi.

Stanford Hukuk Profesörü Mark Lemley, ünlülerin isim ve görüntülerinin izinsiz kullanımının California gibi eyaletlerdeki “right of publicity” (kişilik hakları) kurallarını ihlal edebileceğine dikkat çekti. Bu durum, Meta’nın yasal sorumlulukları ve potansiyel davalar açısından ciddi riskler barındırıyor. Profesör Lemley, “Bir kişinin ismi veya görüntüsü, izni olmadan ticari veya kamuya açık şekilde kullanılamaz. Meta’nın uygulamaları bu temel ilkeyi ihlal ediyor” dedi.

Meta’nın İç ve Dış Tepkileri

Botların ortaya çıkmasının ardından Meta, platformlarında genç kullanıcılar için flört, romantik ve intihar gibi konularda sohbet imkânlarını sınırlamaya başladı. AI karakterlerine erişim, geçici olarak kısıtlandı ve şirket, botların oluşturulması sürecinde yaşanan kontrol eksikliklerini gidermek için politikalarını gözden geçirdi.

Şirket içinden gelen bazı raporlara göre, botlar kullanıcılar tarafından üretilmiş içerikleri çoğunlukla kendi algoritmalarıyla birleştirerek sunuyordu. Bunun yanı sıra, çalışanlarının test amacıyla ürettikleri botlar da platformda yayına girdi. Yayınlanan içerikler hızla kullanıcılar arasında yayıldığı için, hem dahili hem de harici eleştiriler yoğunlaştı. Özellikle ünlülerin temsilcileri ve hukuk çevreleri, şirketin ihlallerine tepki gösterdi.

Toplumsal ve Etik Tartışmalar

Meta’nın AI botları, sadece yasal değil toplumsal ve etik tartışmaları da beraberinde getirdi. Özellikle genç kullanıcıların cinsel içerikli etkileşimlere maruz kalması, aileler ve kullanıcı grupları arasında endişe yarattı. Uzmanlar, AI teknolojilerinin, gerçek kişilerin isim ve görüntülerini taklit ederken çok daha sıkı denetim altında olması gerektiğini belirtti. Ayrıca, bu tür botların parodi etiketi taşısa bile, kullanıcı deneyiminde açık şekilde işaretlenmediğinde yanlış algılara yol açabileceği ifade edildi.

Stanford Hukuk Profesörü Lemley, “AI teknolojileri hızla gelişiyor, ancak yasal ve etik sınırlar hâlâ net değil. Meta’nın uygulamaları, özellikle ünlülerin isim ve görüntüleri söz konusu olduğunda ciddi yasal riskler içeriyor” dedi.

Meta’nın Geleceğe Yönelik Politikaları

Skandalın ardından Meta, AI bot kullanımına dair politikalarını güncelleme sürecine girdi. Şirket, genç kullanıcılar için erişimi sınırlandırırken, yetişkin kullanıcılar için botların etik ve yasal standartlara uygun olmasını sağlayacak yeni kontroller geliştirmeyi planlıyor. Şirketin sözcüleri, “AI teknolojilerini güvenli, etik ve yasalara uygun bir şekilde geliştirmek önceliğimizdir” açıklamasında bulundu.

Bu süreç, teknoloji şirketlerinin yapay zekâ geliştirme ve kullanma süreçlerinde daha sıkı denetim mekanizmaları kurması gerektiğini ortaya koyuyor. Ayrıca, botların ünlüleri taklit ederek flört ve cinsel içerikli etkileşimlerde bulunması, AI etiği ve kullanıcı güvenliği konularında önemli dersler sunuyor.

Derleyen: Merve Tuncel