FBI, yapay zekâ düzenleme araçlarının yardımıyla şahısların sahte çıplak fotoğraflarının oluşturulmasını içeren şantaj planlarında “artış” olduğuna dair bir uyarı yayımladı.

Ajans, bu yılın nisan ayından itibaren bu tür “seksüel zorlama” planlarına ilişkin giderek artan sayıda rapor aldığını söylüyor. Kötü niyetli aktörler sosyal medyada bir kurbanın görüntülerini buluyor, ardından gerçekçi ve cinsel içerikli görseller oluşturmak ve düzenlemek için yapay zekâ araçlarını kullanıyor.

Ajans, “Fotoğraflar daha sonra kötü niyetli aktörler tarafından seksüel zorlama veya taciz amacıyla doğrudan kurbanlara gönderiliyor. Dolaşıma girdikten sonra, mağdurlar manipüle edilmiş içeriğin sürekli olarak paylaşılmasını veya internetten kaldırılmasını engellemede önemli zorluklarla karşılaşabilirler.” diye belirtiyor.

FBI, şantajcıların bu tür materyalleri genellikle kurbandan gerçek çıplak görüntüler ya da bir tür ödeme talep etmek için kullandığını söylüyor. Ajansın belirttiği gibi: “Bunun için temel motivasyonlar; daha fazla yasa dışı içerik, mali kazanç ya da başkalarına zorbalık ve taciz etme arzusudur.”

Ajans, halkın kendi görüntülerini çevrim içi paylaşırken “dikkatli olmasını” tavsiye ediyor, ancak bu tavsiyeye uymak zor. Bir deepfake oluşturmak için sadece birkaç resim ya da video yeterli ve hiç kimse tüm görüntülerini internetten kaldırmadığı sürece bu tür şantaj planlarına karşı tamamen güvende olamaz.

Deepfake’ler ilk olarak 2017 yılında, Reddit gibi forumlardaki kullanıcıların yeni yapay zekâ araştırma yöntemlerini kullanarak kadın ünlülerin cinsel içerikli görüntülerini oluşturmaya başlamasıyla internette yayılmaya başladı. Bu içeriğin internette yayılmasına karşı bazı girişimlerde bulunulmuş olsa da deepfake oluşturmaya yönelik araçlara ve sitelere kolayca erişilebiliyor.

FBI, bu tür şantaj planlarının “çeşitli federal ceza kanunlarını ihlal edebileceğini” belirtiyor. Bu tür rıza dışı sahte görüntülerin oluşturulmasını suç sayan sınırlı sayıda küresel yasa da bulunmakta. Örneğin ABD’nin Virginia eyaletinde deepfake’ler bir tür “intikam pornosu” olarak yasaklanırken, Birleşik Krallık şu anda yaklaşan Çevrim İçi Güvenlik Yasasında bu tür görüntülerin paylaşımını yasa dışı hâle getirmeyi planlıyor.

Derleyen: Alp Eren Gümüş