Yapay zekanın en karanlık kullanım alanlarından birine mahkeme çekici indi. Amsterdam Bölge Mahkemesi, Elon Musk’ın xAI şirketine ait Grok chatbotunun izinsiz çıplak ve cinsel içerikli görseller üretmesini yasaklayan bir karar verdi. Hollandalı sivil toplum kuruluşu Offlimits’in açtığı davada mahkeme, kararına uyulmaması halinde günlük 100 bin euro (yaklaşık 115 bin dolar) ceza kesileceğini açıkladı.

Karar, yapay zeka şirketlerinin ürettikleri araçlardan hukuki olarak sorumlu tutulduğu ilk büyük davalarda biri olma özelliği taşıyor.

Grok ile 11 Günde 3 Milyon Cinsel Görsel

Hikâye aslında 2025’in sonunda başladı. Uygulamanın “spicy mode” (ateşli mod) adlı özelliği, kullanıcıların gerçek kişilerin fotoğraflarını tek tıkla düzenlemesine — ve çıplak hale getirmesine — olanak tanıyordu. Elon Musk bunu bir pazarlama fırsatı olarak gördü ve özelliği bizzat tanıttı.

Sonuç yıkıcı oldu. İngiliz araştırma kuruluşu Center for Countering Digital Hate (CCDH), 29 Aralık – 8 Ocak arasındaki 11 günlük dönemi inceledi. Bulgular dehşet vericiydi:

• Uygulama tahminen 3 milyon cinsel içerikli görsel üretti
• Bunların yaklaşık 23 bini çocukları içeriyordu
• Dakikada ortalama 190 cinsel görsel üretildi
• Her 41 saniyede bir çocuk içeren cinsel görsel oluşturuldu

xAI, 9 Ocak’ta görsel düzenleme özelliğini ücretli kullanıcılarla sınırladı. 14 Ocak’ta ise gerçek kişilerin fotoğraflarını çıplak hale getirme işlevini kısıtladı. Ancak eleştirmenler bu önlemlerin yetersiz olduğunu söylüyor: bağımsız olarak uygulama üzerinden benzer görseller üretilmeye devam edebiliyordu.

Mahkemede Ne Oldu?

Hollandalı sivil toplum kuruluşu Offlimits, çevrimiçi cinsel istismarla mücadele eden bir organizasyon. Mağdur Destek Fonu ile birlikte xAI’ye dava açtı.

xAI’nin savunması dikkat çekiciydi: Şirket, platformdaki kötüye kullanımın tamamen önlenmesinin “mümkün olmadığını” ve kötü niyetli kullanıcıların eylemlerinden sorumlu tutulamayacağını savundu. Ocak ayında aldıkları önlemlerin yeterli olduğunu iddia etti.

Ancak mahkeme bunu kabul etmedi. Bunun en büyük nedeni: Offlimits, duruşmadan hemen önce Grok kullanarak bir kişinin çıplak videosunu üretmeyi başardı. Yani xAI’nin “aldık” dediği önlemler kolayca atlatılabiliyordu.

Offlimits Direktörü Robbert Hoving, kararı şöyle değerlendirdi: “Sorumluluk şirkete aittir. Araçlarının rızasız cinsel görseller — özellikle çocuklara ait olanlar — üretmek ve dağıtmak için kullanılmasını engellemek zorundalar.”

Tennessee’den Gelen Dava

Hollanda kararından yaklaşık 10 gün önce, ABD’den de ağır bir dava geldi. Tennessee’den üç genç kız, xAI’ye karşı toplu dava açtı. İddiaları: Grok’un teknolojisini lisanslayan bir uygulama aracılığıyla fotoğrafları çıplak hale getirilmiş ve bu görseller çevrimiçi olarak yayılmış.

Davacılardan biri, Instagram’dan gelen anonim bir mesajla durumu öğrendi. Okul yıllığı fotoğrafı dahil birçok görseli, tamamen çıplak ve cinsel pozisyonlarda gösterecek şekilde manipüle edilmişti. BBC’nin haberine göre davacılar, “onurlarını, mahremiyetlerini ve kişisel güvenliklerini kaybettiklerini” belirtiyor.

Dava, xAI’nin Google ve OpenAI gibi rakiplerinin aksine içerik filtreleri, kırmızı ekip testleri ve bilinen çocuk istismarı görselleri veritabanıyla eşleştirme gibi endüstri standartlarını kasıtlı olarak atladığını iddia ediyor.

Dünya Harekete Geçiyor

Grok krizi, küresel bir domino etkisi yarattı:

• Malezya ve Endonezya, Ocak ayında Grok’a erişimi tamamen engelledi — bu kararı alan ilk ülkeler oldular
• Avrupa Komisyonu, Dijital Hizmetler Yasası kapsamında xAI hakkında soruşturma başlattı
• İngiltere çevrimiçi güvenlik otoriteleri xAI’yi incelemeye aldı
• Avrupa Parlamentosu, mahkeme kararıyla aynı gün cinsel deepfake üreten yapay zeka sistemlerini yasaklayan bir oylama gerçekleştirdi
• İrlanda, Grok’un olası gizlilik ihlallerine yönelik ayrı bir soruşturma başlattı

Tüm bu gelişmelere rağmen Apple ve Google, Grok uygulamasını App Store ve Play Store’dan kaldırmadı — 28 kadın hakları örgütünün açık mektubuyla yaptığı çağrıya rağmen.

Yapay Zeka Düzenlemesinde Dönüm Noktası

Amsterdam mahkemesinin kararı, teknik bir detayın ötesinde bir mesaj veriyor: Yapay zeka şirketleri, araçlarının kötüye kullanılmasından artık “biz yapay zeka ürettik, kullanıcılar kötüye kullandı” diyerek kurtulamayacak.

Offlimits’in avukatlarına ödenmesi gereken 2,2 milyon euroluk dava masrafı da cabası.

Grok’un geleceği, xAI’nin bu karara nasıl uyum sağlayacağına bağlı. Ancak bir şey kesin: yapay zeka düzenlemesi artık teorik bir tartışma değil, mahkeme kararlarıyla şekillenen bir gerçeklik.

Kaynaklar:

• CNBC, “Elon Musk’s Grok ordered to stop creating AI nudes by Dutch court as legal pressure mounts” (27 Mart 2026) — cnbc.com
• Al Jazeera, “Dutch court bans xAI’s Grok from generating nonconsensual nude images” (26 Mart 2026) — aljazeera.com
• CCDH, “Grok floods X with sexualized images of women and children” (22 Ocak 2026) — counterhate.com
• BBC, “Teens sue Musk’s xAI over Grok’s pornographic images of them” (16 Mart 2026) — bbc.com
• AP News, “Grok is blocked in 2 countries over explicit AI images” (12 Ocak 2026) — apnews.com
• NPR, “Teens sue Musk’s xAI over AI-generated nonconsensual nudes” (16 Mart 2026) — npr.org