404 Media’nın elde ettiği iç belgeler, Microsoft Copilot’a yüklenen fotoğrafların ve yazılan komutların yüzlerce sözleşmeli çalışan tarafından incelendiğini ortaya koydu. Yüzler bulanıklaştırılmadan gösteriliyor ve Microsoft, kullanıcıların bu insan incelemesinden vazgeçemeyeceğini doğruladı.

Yükleniciler Neyi Görüyor?

28 Eylül’de yayımlanan soruşturmaya göre yüklenicilere kullanıcının orijinal komutu, yüklediği fotoğraf ve Copilot’un ürettiği iki farklı düzenleme sunuluyor. Çalışanlardan hangi düzenlemenin daha iyi olduğunu seçmeleri isteniyor. Değerlendirme dört ölçüte dayanıyor: komuta uygunluk, görüntünün geri kalanının bozulmadan kalması, görünür hataların olmaması ve genel görsel kalite.

Sansürsüz Yüzler ve Sorunlu İçerik

Yükleniciler içerik moderatörü olarak çalışmıyor; yalnızca kaliteyi puanlamaları ve bir insan izleyici olarak içgüdülerine güvenmeleri isteniyor. Bir yüklenici, yüzlerin her zaman sansürsüz gösterildiğini ve komutların büyük bölümünün cinsel içerikli ya da rıza açısından şüpheli olduğunu söyledi. Çalışanlar ayrıca röntgencilik içeren fotoğraflar ve yeme bozukluğunu özendiren içeriklerle karşılaştıklarını aktardı. Çalışanları sağlayan şirketlerden birinin, araştırma katılımcısı toplayan Prolific olduğu belirtiliyor.

Microsoft’un Gizlilik Vaadi ile Gerçek Arasındaki Fark

Microsoft’un gizlilik sayfası, yapay zeka eğitimine hazırlanırken yüklenen görsellerdeki yüzlerin bulanıklaştırıldığını söylüyor. Ancak bu ifade model eğitimi bölümünde yer alıyor ve derecelendirme sürecinden farklı bir işlem hattını kapsıyor olabilir. Aynı sayfada, bazı konuşmaların ürün geliştirme ve dijital güvenlik amacıyla insan denetimine tabi tutulduğu ve bundan vazgeçme seçeneğinin bulunmadığı da yazıyor.

Kullanıcılar konuşmalarının model eğitiminde kullanılmasını reddedebiliyor. Ancak hiçbir belge, bu ayarın insan denetçileri yüklenen içeriklerden uzak tuttuğunu söylemiyor. Ayrıca Copilot’u hiç kullanmayan biri de, başkasının yüklediği bir fotoğrafta yer alarak bu sürecin içine girebilir. Microsoft, kullanıcılardan başkalarının görüntülerini izinsiz paylaşmamasını istiyor; fakat bunu engelleyen teknik bir önlem bulunmuyor.

Haber, bu ay başında OpenAI yüklenicilerinin gerçek ChatGPT konuşmalarını okuduğunu gösteren benzer bir soruşturmanın ardından geldi ve yapay zeka şirketlerinin insan incelemesi uygulamalarına yönelik tartışmayı büyütüyor.