• Meta; Facebook, Instagram ve Threads’te yapay zeka tarafından üretilen içerikleri tespit edip etiketleyeceğini duyurdu.
• Meta’nın AI tarafından oluşturulan içeriği tanımlamaya yönelik ortak standartlar geliştirmek için Partnership on AI (PAI) gibi endüstri kuruluşlarıyla birlikte çalıştığı vurgulandı.
• Şirket gözlemlemeye ve öğrenmeye devam edeceğini, sektörle iş birliği çalışmalarına ve hükümetler ile sivil toplumla diyalog içinde olmaya devam edeceğini ifade etti.

Meta, bu sabah yayımladığı yeni bir yazıyla Facebook, Instagram ve Threads’te yapay zeka tarafından üretilen içerikleri tespit edip etiketleyeceğini duyurdu. Ancak “yapay zeka tarafından üretilen tüm içerikleri tespit etmenin henüz mümkün olmadığı” uyarısında bulundu.

Duyuru, şarkıcı Taylor Swift’in pornografik yapay zeka tarafından üretilen deepfake’lerinin Twitter’da viral hale gelmesinden iki hafta sonra geldi ve hayranların ve meclis üyelerinin kınamalarına ve küresel manşetlere yol açtı. Ayrıca Meta, 2024 ABD seçimleri öncesinde yapay zeka tarafından üretilen görüntüler ve üzerinde oynanmış videolarla başa çıkma baskısı altında.

Meta’nın küresel ilişkiler başkanı Nick Clegg, yapay zeka tarafından üretilen içeriklerin yaygınlaşması için henüz erken olduğunu belirterek, bu içeriklerin yaygınlaşmasıyla birlikte, toplum genelinde sentetik olan ve olmayan içeriklerin belirlenmesi için ne yapılması ve yapılmaması gerektiği konusunda tartışmalar yaşanacağını ifade etti. Şirket gözlemlemeye ve öğrenmeye devam edeceğini, sektörle iş birliği çalışmalarına ve hükümetler ile sivil toplumla diyalog içinde olmaya devam edeceğini ifade etti.

Yazıda, Meta’nın AI tarafından oluşturulan içeriği tanımlamaya yönelik ortak standartlar geliştirmek için Partnership on AI (PAI) gibi endüstri kuruluşlarıyla birlikte çalıştığı vurgulandı. Meta AI görüntüleri için kullanılan filigranların PAI’nin en yaygın uygulamalarıyla uyumlu olduğu belirtildi.

Meta, kullanıcıların Facebook, Instagram ve Threads’e gönderdikleri görüntüleri yapay zeka tarafından üretildiklerine dair endüstri standardı göstergeleri tespit edebildiğimizde etiketleyeceğini söyledi. 

Clegg, Meta’nın yaklaşımının “şu anda teknik olarak mümkün olanın en ileri noktasını temsil ettiğini” yazdı ve ekledi: “İçerikte görünmez işaretler olmasa bile, yapay zeka tarafından oluşturulan içeriği otomatik olarak tespit etmemize yardımcı olabilecek sınıflandırıcılar geliştirmek için çok çalışıyoruz. Aynı zamanda, görünmez filigranları kaldırmayı veya değiştirmeyi daha zor hale getirmenin yollarını arıyoruz.”

Temmuz 2023’te yedi şirket Başkan Biden’a filigran da dahil olmak üzere YZ güvenliğini artırmak için somut adımlar atacaklarına dair söz vermişti. Ağustos ayında Google DeepMind, dijital bir filigranı doğrudan bir görüntünün piksellerine yerleştirerek insan gözüyle algılanamayan ancak tanımlama için algılanabilir hale getiren SynthID adlı yeni bir filigran aracının beta sürümünü yayımladı.

Ancak şu ana kadar, dijital filigranlar ister görünür ister görünmez olsun kötü aktörleri durdurmak için yeterli değil. Ekim ayında Wired, Maryland Üniversitesi Bilgisayar Bilimleri Profesörü Soheil Feizi’nin “Bu noktada güvenilir bir filigranımız yok, hepsini kırdık” sözlerini aktardı. Feizi ve araştırmacı arkadaşları kötü niyetli kişilerin filigranlama girişimlerinden kaçmasının ne kadar kolay olduğunu incelediler.

Clegg, bu uygulamanın görüntülerle sınırlı olduğunu ve ses ve video üreten yapay zeka araçlarının şu anda bu işaretleri içermediğini ancak şirketin insanların çevrim içi olarak yayımlandığında bu içeriği ortaya çıkarmasına ve etiket eklemesine izin vereceğini belirtti.

Derleyen: Esin Özcan