OpenAI’ın yüzlerce dış yükleniciye saatte 50 doların üzerinde ödeme yaparak gerçek ChatGPT konuşmalarını okutup özetlettiği ve puanlattığı “Project Lily” adlı gizli program, 404 Media’nın soruşturmasıyla gün yüzüne çıktı. Haberin ardından iki ChatGPT kullanıcısı, şirketi konuşmalarının gizliliği konusunda yanıltmakla suçlayarak Çarşamba günü toplu dava açtı. Gelişme, OpenAI’ın zaten kabarık olan dava dosyasına yeni bir madde daha ekliyor.

Project Lily Nasıl İşliyor?

404 Media gazetecisi Joseph Cox’un 14 Eylül’de yayımladığı ve sızdırılan iç belgelere dayanan araştırmaya göre üçüncü taraf personel şirketleri üzerinden çalışan yükleniciler, kullanıcının isteğini okuyor, amacını özetliyor, ChatGPT’nin ürettiği dört farklı yanıtı karşılaştırıyor ve bunları birden yediye kadar puanlıyor. İnceleyiciler yanıtların doğruluğunu kontrol etmiyor; bunun yerine sızdırılan eğitim kılavuzları onlara “yapay zeka diline özgü” ifadeleri cezalandırmayı ve aşırı yaltakçı yanıtları reddetmeyi öğütlüyor. OpenAI kullanıcı adlarını kaldırıp istemleri otomatik bir gizlilik filtresinden geçirdiğini, ancak bu filtrenin kusursuz olmadığını kabul etti. Yüklenicilere göre incelenen istemlerin üzerinde kişinin mesleğini, konumunu veya geçmiş konuşmalarını özetleyen bir “kullanıcı anıları” bölümü de görüntülenebiliyor.

Toplu Dava ve Avrupa’da Artan Baskı

Law360’ın haberine göre iki ChatGPT kullanıcısı, OpenAI aleyhine açtıkları toplu davada şirketin kullanıcıları konuşmalarının gizliliği konusunda yanılttığını öne sürüyor. Dava, OpenAI’ın hâlihazırda karşı karşıya olduğu haksız ölüm davaları, telif hakkı talepleri ve üçüncü taraflarla veri paylaşımına ilişkin ayrı bir Kaliforniya gizlilik davasının bulunduğu kalabalık dosyaya ekleniyor. Avrupa’da ise baskı zaten yükseklerde: İtalya’nın veri koruma otoritesi, kullanıcı verilerinin yeterli hukuki dayanak olmadan işlendiği gerekçesiyle OpenAI’a 15 milyon euro ceza kesmişti. Avrupa Birliği Adalet Divanı’nın EDPS-SRB kararı da şirketlerin kullanıcıları bilgilendirme yükümlülüğünün veri toplama anında başladığını ortaya koyuyor.

Kullanıcılar Paylaşımdan Nasıl Vazgeçebilir?

Ücretsiz, Plus ve Pro hesaplarda “Modeli herkes için iyileştir” ayarı varsayılan olarak açık geliyor; Enterprise, Business ve Education aboneliklerinde ise bu ayar varsayılan olarak kapalı. Gelecekteki konuşmalarının incelemeye gitmesini istemeyen kullanıcıların Ayarlar ve Veri Kontrolleri bölümünden bu seçeneği manuel olarak kapatması gerekiyor. Ancak bu vazgeçme işlemi geriye dönük çalışmıyor; yani daha önce yapılmış konuşmalar hâlâ incelemeye açık kalabiliyor. 900 milyonu aşkın haftalık ChatGPT kullanıcısını ilgilendiren bu detay, tartışmanın odağında yer alıyor.