- Yapay zeka devi OpenAI, ChatGPT tarafından üretilen metinlerde filigran kullanmaktan vazgeçebilir.
- Şirketin kararı almasında, kullanıcıların filigranlı içerikler nedeniyle ChatGPT’yi daha az kullanabilecekleri endişesi etkili oldu. OpenAI’nin iç araştırmaları, kullanıcıların yaklaşık %30’unun filigranlı içerik durumunda platformu daha az kullanacağını ortaya koydu.
Filigranlama: Yapay Zeka İçeriklerinin Kimlik Kartı
Dijital dünyada filigranlama, bir içeriğin kaynağını ve orijinalliğini doğrulamak için kullanılan bir yöntemdir. Tıpkı bir sanat eserine veya banknota işlenen görünmez işaretler gibi, filigranlar da metinlere, görsellere veya videolara yerleştirilebilir. Yapay zeka çağında filigranlama, özellikle ChatGPT gibi araçlar tarafından üretilen içeriklerin insan tarafından mı yoksa makine tarafından mı oluşturulduğunu belirlemede kritik bir rol oynar.
Nasıl Çalışır?
OpenAI’nin ChatGPT metinlerinde kullandığı filigranlama yöntemi, metnin kelime ve kelime öbeklerini tahmin etme şeklini değiştirerek tespit edilebilir bir desen oluşturmayı içerir. Bu desen, insan gözüyle fark edilmez, ancak özel olarak tasarlanmış algoritmalar tarafından kolayca tanınabilir. Bu sayede, filigranlı bir metnin ChatGPT tarafından oluşturulduğu yüksek bir doğrulukla tespit edilebilir.
Eğitimciler ve Kullanıcılar Arasındaki Çelişki
Bu tür bir sistem, öğrencilerin yapay zeka tarafından yazılmış ödevleri teslim etmelerini engellemeye çalışan eğitimciler için faydalı olabilir. OpenAI tarafından yaptırılan bir ankette, dünya genelinde insanların dörtte biri yapay zeka ile yazılmış metinleri tespit edebilecek bir aracı desteklediğini belirtti.
Ancak, OpenAI tarafından yapılan başka bir ankette, ChatGPT kullanıcılarının yaklaşık yüzde 30’u filigranlama özelliği kullanıma sunulursa yazılımı daha az kullanacaklarını ifade etti. Bu durum, OpenAI’nin kararını etkileyen önemli bir faktör olarak görülüyor. Şirket, kullanıcı deneyimini olumsuz etkilememek adına filigranlama teknolojisini şimdilik rafa kaldırmış gibi görünüyor.
OpenAI’den Alternatif Çözümler
OpenAI, filigranlama yerine “meta veri yerleştirme” gibi daha az tartışmalı ancak henüz kanıtlanmamış yöntemleri denemeyi düşünüyor. Şirket, bu yöntemin ne kadar iyi çalışacağını bilmek için henüz erken olduğunu ancak kriptografik olarak imzalandığı için yanlış pozitif sonuçlar vermeyeceğini belirtiyor. Bu yaklaşım, hem yapay zeka tarafından oluşturulan metinlerin tespit edilmesini sağlayabilir hem de kullanıcı deneyimini olumsuz etkilemeyebilir.
Gelecekte Neler Bekleniyor?
OpenAI’nin filigranlama teknolojisini kullanıma sunmama kararı, yapay zeka etiği ve kullanıcı deneyimi arasındaki hassas dengeyi gözler önüne seriyor. Şirketin gelecekte bu teknolojiyi nasıl kullanacağı veya alternatif çözümlere yönelip yönelmeyeceği merakla bekleniyor. Bu gelişmeler, yapay zeka teknolojilerinin toplum tarafından kabul görmesi ve etik bir şekilde kullanılması açısından önemli bir dönüm noktası olabilir.
Derleyen: Enis Yabar
