Erişilebilir yapay zekânın ortaya çıkışı, sahte görüntüler oluşturmayı her zamankinden daha kolay hale getirse de yapay zekâ dil araçları, yanlış bilgilerin çürütülmesine yardımcı olabilir.
Sahte haberlerin baş döndürücü hızla yayıldığı dünyada, gerçeği kurgudan ayırt etmek giderek zorlaşıyor. Dünyada, doğru haberciliği teşvik etmeyi amaçlayan projelere ve politikalara harcanan zaman ve milyonlarca dolara rağmen yapay zekâ gelene kadar ideal haberler çok uzaktaydı.
Yapay zekâ, sahte haberlerin maskesinin düşürülmesinde önemli rol oynayabilir. Bu güç, öncelikle GPT-4 gibi büyük dil modellerinin hızlı büyümesinden geliyor.
Örneğin, anonim geliştiriciler bilgilerin doğruluğunu geliştirmek için yapay zekâyı kullanarak oluşturulmuş bir araç olan AI Fact Checker’ı ortaya koydu. Bir kullanıcı denetleyiciye bir iddia girdiğinde platform, internette güvenilir kaynaklar arar, verileri analiz eder ve bu bilgileri girilen iddia ile karşılaştırır. Daha sonra denetleyici iddianın doğru mu, yanlış mı yoksa belirsiz mi olduğunu belirler ve vardığı sonuçları desteklemek için kaynaklar sağlar.
AI Fact Checker’ın işlevselliği bazı haberlerle test edildi ve son haberleri, geçmiş olayları ve çeşitli bilgileri kontrol eden araç %100 doğruluk seviyesi gösterdi. Ancak araç iş, hizmet ve yatırım araçları fiyatlarıyla ilgili haberleri danışmaya gelince tökezledi. Araç bu konuda tahmin haberleriyle gerçek fiyat davranışlarını birbirine karıştırmaya başladı.
Diğer AI araçları da aynı problemi hedefliyor: Google’ın Fact Check Tool, Full Fact ve FactInsect en ünlüleri arasında.
AI Fact Checker, Google’ın aracı olan Fact Check Tool’un aksine “bu doğru” ya da “bu yanlış” şeklinde somut bir cevap vermiyor, ancak bir sonuca varmak için yeterli bilgiyi sağlıyor.
Microsoft, GPT-4’ü Edge tarayıcısına entegre ederek kullanıcılara bir AI bot sağladı. Bilgi için web’de arama yapamayan ve 2021’den önce sabit bir veri kümesine sahip olan ChatGPT’den farklı olarak GPT-4’e sahip yeni Bing, web’de gezinebilir, böylece anında doğru ve güncel yanıtlar sağlayabilir.
Madalyonun Diğer Yüzü
Yapay zekâ birden çok bilgi kaynağını saniyeler içinde takip edip karşılaştırabilse de haberleri doğrulamak için yapay zekâ algoritmalarının kullanılmasıyla ilişkili riskler de var. AI’ın bazı eksiklikleri şunlar:
- Kusurlu modelleri üzerine eğitim: Bir yapay zekâ algoritması yanlış veya önyargılı verilerle eğitilirse performansı olumsuz etkilenebilir ve yanlış sonuçlar verebilir.
- AI halüsinasyonları: AI algoritmaları makul görünen ancak gerçek temeli olmayan bilgiler üretebilir.
- Manipülasyona karşı güvenlik açığı: AI algoritmaları, öğrenme süreçlerine sahte veya önyargılı veriler enjekte etmek gibi saldırılara ve manipülasyonlara açık olabilir. Bu da modelin yanlış verileri doğru varsaymasına neden olur.
Tüm bunlar, özellikle insan etkileşimine dayanan modellerde veya onları yöneten merkezi bir varlığa bağlı olan modeller için endişe verici. OpenAI ve ChatGPT’de olan da tam olarak böyle!
Derleyen: Serap Atabey
