X platformu, Grok yapay zekâ sohbet robotu ve çocuk cinsel istismarı materyali (CSAM) aracı olarak kullanılma potansiyeli nedeniyle çeşitli bölgelerde potansiyel kısıtlamalarla karşı karşıya kalmasıyla yeni yıla mücadele modunda başlıyor.

X, Grok’un X kullanıcılarının isteği üzerine genç veya yaşlı herkesin cinsel içerikli görüntülerini üretmesi nedeniyle birçok ülkede inceleme altında.

Bu durum bir trend haline geldi; bir rapora göre, yeni yılın bir döneminde Grok, saatte 6.700’den fazla “cinsel içerikli veya çıplaklık içeren” olarak sınıflandırılabilecek görüntü üretiyordu.

X, Grok’un görüntü oluşturma özelliklerine erişimi yalnızca ücretli kullanıcılarla sınırlayarak yanıt verdi. Ancak aynı zamanda, X’in sahibi Elon Musk da saldırıya geçerek, insanların çeşitli diğer yapay zeka ve görüntü oluşturma uygulamalarında rızasız çıplak fotoğraflar ve diğer rahatsız edici görüntüler üretebildiğini ve X’in hedef alınmasının tek nedeninin, kendisinin ve X’in ifade özgürlüğünde öncü olmaları ve sonuç olarak birçok hükümetin onu kapatmak istemesi olduğunu söyledi.

Bu garip bir argüman, ancak birçok yandaşı desteklerini dile getiriyor; X ve xAI, bu gerekçeyle Grok uygulamasını olası kötüye kullanımı sınırlayacak şekilde güncellemeyi reddediyor.

Ve bu hafta çok daha büyük bir sorun haline gelecek gibi görünüyor.

Bu hafta, Avustralya, İngiltere ve Kanada hükümetlerinin, bu tür görüntülerin oluşturulmasının kabul edilemez olduğu mesajını güçlendirmeye yardımcı olacağı umuduyla X’e toplu bir yasak getirmeyi düşündüklerine dair haberler çıktı.

Hem Endonezya hem de Malezya Grok’a erişimi engelledi; Endonezya hükümeti sözcüsü şu açıklamayı yaptı:

“Hükümet, rızaya dayalı olmayan cinsel içerikli deepfake uygulamalarını, dijital alanda vatandaşların insan hakları, onuru ve güvenliğinin ciddi bir ihlali olarak görmektedir.”

Yani X zaten kısıtlamalarla karşı karşıya ve bu kısıtlamalar bu hafta daha da genişleyebilir. Bu durum, sonunda ABD hükümetini ve potansiyel dış ticaret cezalarını da beraberinde getirebilir; Elon, X’i özgür ve açık bir platform olarak korumak için hükümet bağlantılarını kullanmayı hedefliyor.

Grok’un Ürettiği Çıplak Görseller ve Artan Tepkiler

xAI, Grok’taki çıplaklaştırma ve ilgili komutları engelleyip bunların üretimini durdurabilir ve bu da sorunu anında çözebilir; ancak Elon Musk, nedense bu özel seçeneğin korunmasını sağlamaya o kadar kararlı ki, işletme üzerinde büyük etkilere yol açma riskini göze alıyor.

Çözüm açıkken bu çok garip bir tavır gibi görünüyor, ancak Elon Musk’ın etrafındaki birçok şeyde olduğu gibi, bunu da ifade özgürlüğü mücadelesine ve daha geniş bir kültür savaşının parçasına dönüştürüyor; bu da X’in milyonlarca kullanıcısını kaybetmesine yol açabilir.

Grok’ta Değişiklik Yapılmasına Karşı Argümanlar Oldukça Zayıf

Benzer görselleri diğer uygulamalarda da oluşturabileceğiniz argümanı bir nebze geçerli, ancak bu diğer uygulamalar X’in ölçeğine (600 milyon kullanıcı) sahip değil ve günde 6.000’den fazla sahte, cinselleştirilmiş görsel üretmek için kullanılmıyor.

X’in pazardaki varlığı, bu konuda daha fazla incelemeye tabi tutulacağı anlamına geliyor; diğer çıplaklık içeren uygulamalar da aynı nedenle soruşturma altında.

Bazı X kullanıcıları, hükümetlerin bunun yerine pornografik uygulamaları hedef alması gerektiğini savundu, ancak bunlar da daha sıkı düzenlemelere tabi ve herhangi bir ihlal sonucunda ceza riski taşıyorlar. Evet, insanlar mevcut güvenlik önlemlerini aşabilirler, ancak düzenleyici gruplar bunları aynı şekilde soruşturuyor, oysa pornografik uygulamalar Google Play ve Apple uygulama mağazalarından yasaklanmış durumda.

Dolayısıyla, X’in bu nedenle uygulama mağazalarından yasaklanmaması gerektiği argümanı mantıklı değil.

X kullanıcıları arasında bir diğer hedef ise Snapchat oldu; bunun gençler için X’ten çok daha büyük bir risk oluşturduğunu savundular. Ancak Snapchat öncelikle özel bir mesajlaşma platformu olduğundan soruşturması daha zor ve kullanıcıların milyonlarca insanın erişimine açık olan deepfake çıplak fotoğraflar üretmesine olanak sağlamıyor.

Hükümetlerin X’e karşı harekete geçmesine karşı argümanlar oldukça zayıf, özellikle de en basit çözüm Grok’un rızasız çıplak fotoğraflar üretmesini engellemek olduğunda.

Her halükarda, hükümetler X ile mücadele seçeneklerini değerlendirirken ve Elon ile Beyaz Saray bağlantılarıyla karşı karşıya gelirken, bu hafta daha büyük bir tartışma konusu haline gelecek gibi görünüyor.

Yapay zekâ sınırlarının yeniden çizildiği bu süreçte, X ve Grok için atılacak adımlar yalnızca bir platformun değil, dijital dünyanın etik geleceğinin de nasıl şekilleneceğini belirleyecek.

Derleyen: Damla Şayan