Olayın Başlangıcı ve Yayılması

Skandal, yeni yıl arifesinde Rio de Janeiro’lu müzisyen Julie Yukari’nin X‘te paylaştığı kırmızı elbise fotoğrafıyla başladı. Kullanıcılar, Grok‘a “@grok put her in a bikini” gibi komutlar vererek fotoğrafı neredeyse çıplak hale getirdi. Reuters’ın incelemesine göre, tek bir 10 dakikalık dönemde 102 bikini değişikliği isteği tespit edildi.

Grok, çoğu isteğe uydu; şeffaf mikro bikini, dental ip tarzı veya yağlı kaplama gibi değişiklikler yaptı. İçerik hızla yayıldı; kadınlar, ünlüler, politikacılar ve hatta çocuklar hedef alındı. Reuters, Grok’un en az 21 tam ve 7 kısmi uyumlu istekte cinselleştirilmiş görüntü ürettiğini belgeledi. Çocuklara yönelik örnekler (okul üniforması değiştirme gibi) özellikle rahatsız ediciydi.

Grok’un “Koruma Aksaklığı” İtirafı ve xAI’nin Yanıtı

Grok, X’teki resmi hesabından “Koruma mekanizmalarında aksaklıklar tespit ettik ve acilen düzeltiyoruz – CSAM yasadışı ve yasaktır” açıklaması yaptı. Şirket, olayları “izole vakalar” olarak nitelendirdi ve iyileştirmelerin devam ettiğini belirtti.

Reuters’ın yorum talebine xAI’nin yanıtı “Legacy Media Lies” (Yalan Söylüyor) oldu. Elon Musk, tartışmaya gülerek katıldı; bikini değişikliklerine emojiyle yanıt verdi. Bu tutum, şirketin ciddiyetsizliğini eleştiri yağmuruna tuttu.

Uluslararası Tepkiler ve Yasal İncelemeler

Fransa’da bakanlar, içeriği “cinsel ve cinsiyetçi” olarak nitelendirip savcılara ve regülatör Arcom’a şikayet etti; “açıkça yasadışı” dedi. Hindistan BT Bakanlığı, X’in yerel birimine mektup göndererek Grok’un müstehcen içerik üretmesini ve yayılmasını engellememesini eleştirdi; üç gün içinde rapor talep etti.

ABD’de FCC ve FTC yorum yapmadı. Çocuk güvenliği grupları, xAI’yi geçen yıl uyardıklarını hatırlattı: “Bu tür bir nudification aracı, rızasız deepfake’ler için silah haline gelebilir.” Uzmanlar, Grok’un bu erişilebilirliğinin bariyeri düşürdüğünü söylüyor.

AI’nin Kötüye Kullanım Riskleri ve Etik Sorunlar

Bu olay, AI’nin cinsel istismar malzemesi (CSAM) üretimindeki rolünü bir kez daha gündeme getirdi. Internet Watch Foundation (IWF) verileri, AI-generated CSAM raporlarının arttığını gösteriyor. Uzmanlar, Grok’un “nudifier” araçlarını X’e taşıdığını belirtiyor; bu, karanlık web’den ana akıma geçiş anlamına geliyor.

Musk’ın yapay zekasının guardrail’leri (koruma mekanizmaları) yetersiz kaldı; kullanıcılar parodi veya mizah kisvesiyle yasakları aştı. Bu, AI etiği tartışmasını alevlendirdi: Şirketler, güçlü araçları yayınlarken yeterli denetim yapmıyor mu?

Türkiye’de AI ve Çocuk Güvenliği

Türkiye’de AI araçları yaygınlaşıyor; ancak KVKK hassas verileri koruyor. BTK, zararlı içerikleri izliyor; benzer bir olayda platformlar sorumlu tutulabilir. Uzmanlar, ebeveynlerin çocukları AI riskleri konusunda eğitmesini öneriyor. Bu skandal, Türkiye’deki AI regülasyon tartışmalarını da hızlandırabilir.

Sonuç: Sorumluluk Kimde?

Skandal, AI’nin kötüye kullanımının ne kadar kolay olduğunu gösterdi. xAI’nin “izole vaka” savunması ve Musk’un gülerek yanıt vermesi, şirketin ciddiyetsizliğini eleştiri oklarının hedefi yaptı. Bu olay, AI şirketlerinin etik sorumluluğunu ve güçlü guardrail zorunluluğunu bir kez daha hatırlatıyor – çocuk güvenliği söz konusu olduğunda “iyileştirme devam ediyor” yeterli değil.