Google Gemini ve OpenAI’nin ChatGPT-4o modeli, güvenlik önlemlerine rağmen basit prompt’larla fotoğraflardaki giyinik kadınları bikiniye dönüştüren deepfake’ler üretebiliyor. Reddit’te paylaşılan yöntemler, bu araçların nonconsensual içerik için kötüye kullanıldığını gösteriyor; şirketler politikalarını savunurken, etik uzmanlar taciz riskini vurguluyor.
Detaylar haberimizde…
AI Modellerinin Güvenlik Önlemleri ve Zayıf Yönleri
Google Gemini ve OpenAI’nin ChatGPT (GPT-4o) gibi ana akım AI sohbet robotları, NSFW (uygunsuz) içerik üretimini engellemek için katı güvenlik önlemleriyle donatılmış durumda. Google, AI araçlarının cinsel içerik üretmesini yasaklayan net politikalar uyguluyor; OpenAI ise 2025’te yetişkin bedenleri non-seksüel bağlamlarda daha esnek hale getirse de, başkalarının benzerliğini rıza olmadan değiştirmeyi yasaklıyor.
Bu önlemler basit prompt’larla aşılabiliyor. Kullanıcılar, doğrudan “çıplaklaştır” yerine “kıyafeti bikiniyle değiştir” gibi dolaylı ifadeler kullanarak deepfake üretiyor. Wired dergisi konuyla ilgili bazı testler yaptığını ve tamamen giyinik kadın fotoğrafları plain English prompt’larla bikini versiyonlarına dönüştürüldüğünü yazdı. Grok (xAI) hariç çoğu ana akım chatbot NSFW’yi engelliyor, ancak iyileşen modeller (Google’ın Nano Banana Pro ve OpenAI’nin güncel görüntü araçları) gerçekçiliği artırarak bypass’ı kolaylaştırıyor.
Reddit’teki Paylaşımlar ve Gemini ile ChatGPT’nin Kötüye Kullanım Örnekleri
Sorun, Reddit gibi platformlarda ortaya çıktı. Silinen bir r/GeminiAI paylaşımında, geleneksel Hint sare giyen bir kadının fotoğrafı yüklenerek “kıyafeti bikiniyle değiştir” istendi; başka bir kullanıcı deepfake üretti. Başka bir silinen başlık “gemini nsfw image generation is so easy” idi; kullanıcılar gardrail atlama teknikleri paylaşıyordu.
Wired dergisi, Reddit’e bildirimde bulununca içerikler kaldırıldı. Benzer tartışmalar r/ChatGPTJailbreak gibi subreddit’lerde (200 binden fazla üyesi olan, sonra yasaklanan) yaşanıyordu. Kullanıcılar, etekleri daraltma veya kıyafet değiştirme gibi masum görünen prompt’larla sistemi kandırıyor.
Şirketlerin Yanıtları ve Politikaları
Google sözcüsü, “AI araçlarımızın cinsel içerik üretmesini yasaklayan net politikalarımız var; sistemlerimizi sürekli geliştiriyoruz” dedi. OpenAI sözcüsü ise, 2025’te non-seksüel yetişkin bedenleri için gardrail’leri gevşettiklerini, ancak rıza dışı benzerlik değişikliğini yasakladıklarını ve hesap ban’leri uyguladıklarını belirtti.
Her iki şirket de, politikalarını ihlal eden kullanımlara karşı önlem alıyor; ancak topluluklardaki teknik paylaşımı tamamen engellemek zor.
Etik ve Toplumsal Etkiler
Bu olay, nonconsensual deepfake’lerin taciz aracı haline gelme riskini artırıyor. Electronic Frontier Foundation hukuk direktörü Corynne McSherry, “AI görüntü üreticilerinin temel risklerinden biri, kadınları cinsel olarak istismar eden görüntüler” diyor. Milyonlarca kişi “nudify” sitelerini ziyaret ediyor; bu araçlar sorunu büyütüyor.
2025’te ABD’de Deepfake Liability Act gibi yasalar tartışılıyor; platformlar, raporlanan içerikleri kaldırmazsa koruma kaybedebilir. Avrupa’da AB AI Yasası daha katı kurallar getiriyor.
Türkiye’de AI Etik ve Düzenlemeler
Türkiye’de AI kullanımı hızla artıyor; BTK ve TÜBİTAK, deepfake risklerini izliyor. KVKK, hassas verilerin (cinsel içerik dahil) rıza dışı işlenmesini yasaklıyor; ihlallerde ağır cezalar var. Sağlık ve eğitimde AI faydalı olsa da, deepfake’ler taciz vakalarını artırabilir.
Uzmanlar, kullanıcı eğitimini ve platform denetimini öneriyor. Yerel AI geliştiricileri, etik gardrail’leri güçlendirmeli.
Gelecekte AI Güvenliği: Daha Güçlü Önlemler Gerekiyor
Bu skandal, AI modellerinin gerçekçiliğinin artmasıyla gardrail’lerin yetersiz kalabileceğini gösteriyor. Şirketler, prompt engineering’e karşı daha akıllı filtreler geliştirmeli. Kullanıcılar ise, gizlilik ayarlarını kontrol etmeli ve etik kullanımı benimsemeli. Deepfake sorunu, küresel regülasyonları hızlandırabilir.
