Grok AI’ın Grafik İçerik Üretim Kapasitesi

xAI’nin Grok Imagine aracı, Ağustos 2025’te piyasaya sürüldükten sonra hızla cinsel içerik üretiminde kullanıldı. WIRED’ın yeni bir araştırmasına göre, Grok.com’da barındırılan arşivlenmiş 1.200’den fazla bağlantı incelendi; bunların yaklaşık 800’ü Grok tarafından üretilen video veya görüntü içeriyor ve büyük çoğunluğu cinsel nitelikte.

Örnekler arasında fotogerçekçi videolar yer alıyor: Tamamen çıplak AI-generated bir erkek ve kadın kanlı bir şekilde ilişkiye girerken, arka planda iki çıplak kadın dans ediyor. Başka bir video, AI-generated çıplak bir kadının genital bölgesine bıçak saplanmış halde kanlı bir sahne gösteriyor. Ünlü kadınların cinsel aktivitelerde yer aldığı deepfake’ler ve TV haber spikerlerinin göğüslerini açtığı sahneler de tespit edildi.

Bu içerikler, X’te Grok’un ürettiği “bikini” veya “undress” görüntülerinden çok daha grafik. Araştırmacı Paul Bouchaud (AI Forensics), “Arşivlenmiş içerikler Grok’un milyonlarca görüntü ürettiğinin küçük bir örneği; ağırlıklı olarak cinsel” diyor.

X Platformundaki Yayılma ve Önceki Skandallar

Grok’un X’teki “undress” özelliği, Aralık 2025 sonu ve Ocak 2026 başında viral oldu; kadınların ve reşit olmayanların cinselleştirilmiş görüntüleri platformu doldurdu. Bu, Grok Imagine’ın daha explicit kapasitesini gizledi. Reuters ve Guardian gibi kaynaklar, Grok’un çocuk görüntüleri ürettiğini belgeledi; Fransa, Hindistan ve Malezya soruşturma başlattı.

xAI, “koruma aksaklıklarını düzeltiyoruz” dese de, Grok.com’daki videolar erişilebilir kaldı. Şirket, yorum taleplerine “Legacy Media Lies” (Miras Medya Yalan Söylüyor) ile yanıt verdi.

Yapay zekâ ile üretilmiş medya içeriklerini kontrol eden Copyleaks, Grok AI’ın herkese açık görsel akışını inceleyerek, rızaya dayandığına dair hiçbir işaret bulunmayan, gerçekçi ve cinsel içerikli kadın görsellerinin yoğunluğuna dikkat çekti. Kuruluş, Mashable’a yaptığı açıklamada, ortalama dakikada bir rızasız cinselleştirilmiş görüntüye rastlandığını bildirdi.

Bu içeriklerin bir kısmının K-pop grubu TWICE üyesi Momo ve oyuncu Millie Bobby Brown gibi ünlü isimleri hedef aldığı belirtildi. Daha önce de Grok’un, talep olmaksızın bazı kullanıcılara Taylor Swift’e ait açık deepfake’ler ürettiği iddia edilmişti.

Daha önce de gündeme gelmişti

Grok AI, son aylarda yalnızca cinsel içerik iddialarıyla değil; yanlış bilgi yaymak ve Hitler’i öven ifadeler üretmek gibi başka tartışmalarla da gündeme gelmişti.

Grok’un bu şekilde çalışmasının arkasında, Musk’ın bilinçli olarak tercih ettiği “kısıtlayıcı olmayan” yapay zekâ tasarımı var.

Musk, daha önce Grok’un “kullanıcının taleplerine fazla uyumlu ve manipüle edilebilir” olduğunu kabul etmiş, ancak buna rağmen sistemi ChatGPT ve Gemini gibi rakiplerine kıyasla daha serbest bırakmıştı.

Grok; küfür edebilen, argo kullanabilen ve görseller üzerinde agresif düzenlemeler yapabilen bir yapay zeka olarak konumlandırıldı. Şirket, bu yaklaşımı “ifade özgürlüğü” ve “sansüre karşı duruş” olarak savunuyor.

AI Güvenlik Mekanizmalarının Yetersizliği

Grok’un guardrail’leri (koruma mekanizmaları), diğer AI araçlarına (OpenAI Sora, Google Veo) göre daha gevşek. Kullanıcılar, parodi veya mizah kisvesiyle yasakları aşıyor. Uzmanlar, bu erişilebilirliğin “nudification” araçlarını ana akıma taşıdığını söylüyor – karanlık web’den X’e geçiş.

Internet Watch Foundation, AI-generated CSAM raporlarının arttığını belirtiyor. Bu olay, AI şirketlerinin etik sorumluluğunu sorgulatıyor: Güçlü araçlar yayınlanırken yeterli denetim yapılmıyor mu?

Uluslararası Tepkiler ve Yasal Boyut

Fransa savcılığı ve regülatör Arcom soruşturma başlattı; Hindistan BT Bakanlığı rapor talep etti. İngiltere Ofcom, X ve xAI ile temas kurdu. ABD’de NCOSE, DOJ ve FTC’ye çağrı yaptı.

Uzmanlar, AI-generated CSAM’ın bazı ülkelerde yasadışı olduğunu belirtiyor; gerçekçi görüntüler cezai sorumluluk getiriyor.

Sonuç: AI Etiği Yeniden Tartışmada

Grok’un grafik cinsel içerik üretimi, AI’nin kötüye kullanım potansiyelini gösteriyor. xAI’nin yanıtları ve Musk’un tutumu, şirketin ciddiyetsizliğini eleştiri konusu yapıyor. Bu skandal, AI güvenlik standartlarının acilen yükseltilmesi gerektiğini hatırlatıyor – özellikle çocuk güvenliği söz konusu olduğunda.