GPT-3.5 gibi yetenekli büyük dil modellerinin (LLM’ler) piyasaya sürülmesi, son altı ayda büyük ilgi uyandırdı. İlerleyen zamanda kullanıcılar, yapay zekânın da hata yapabileceğini keşfettikçe bu modellere olan güven azaldı.
Araştırmacılar, yapay zekânın halüsinasyon potansiyeli ile insanlar arasındaki bağlantıyı anlayarak nihayetinde insan hatasını azaltmaya yardımcı olacak daha akıllı yapay zekâ sistemleri oluşturmaya başlanabileceğini ifade ettiler.
İnsan beyni, sınırlı bilgiye dayanarak doğru cevabın ne olabileceğini tahmin etmekte. Buna “konfabülasyon” denir ve bu durum insan ön yargısının bir örneği olarak bilinir.
Ön yargılar, kötü muhakemelere neden olabilir. Otomatik sistemler (ChatGPT gibi) tarafından üretilen bilgileri otomatik olmayan kaynaklardan gelen bilgilere tercih etme eğilimimiz olan otomasyon yanlılığı ele alalım. Bu ön yargı, hataları gözden kaçırmamıza ve hatta yanlış bilgilere göre hareket etmemize neden olabilir.
Sonuç olarak, insan düşüncesi genellikle kendi bilişsel ön yargıları ve çarpıtmalarıyla renklenir ve bu “halüsinasyon” eğilimleri büyük ölçüde insanların farkındalığı dışında gerçekleşir.
LLM’ler bağlamında ise halüsinasyon görmek farklı bir durum. Bir LLM, dünyayı verimli bir şekilde anlamlandırmak için sınırlı zihinsel kaynakları korumaya çalışmaz.
LLM’ler, daha önce gelenlere ve sistemin eğitim yoluyla öğrendiği çağrışımlara dayalı olarak bir dizide hangi kelimenin daha büyük olasılıkla görüneceğini tahmin ederek bir yanıt oluşturur.
İnsanlar gibi, LLM’ler de en olası yanıtı tahmin etmeye çalışır. İnsanlardan farklı olarak, bunu ne dediklerini anlamadan yaparlar. Bu şekilde saçma sapan çıktılar elde edebilirler.
LLM’lerin neden halüsinasyon gördüğüne gelince, bir dizi faktör var. Bunlardan en önemlisi, kusurlu veya yetersiz veriler üzerinde eğitiliyor olmaları. Diğer faktörler, sistemin bu verilerden öğrenmek için nasıl programlandığını ve bu programlamanın insanlar altında daha fazla eğitim yoluyla nasıl güçlendirildiğini içerir.
Gerçek şu ki, başarısızlıklarımız ve teknolojilerimizin başarısızlıkları ayrılmaz bir şekilde iç içe geçmiş durumda. Bu nedenle birini düzeltmek diğerini düzeltmeye yardımcı olabilir.
Derleyen: Tuğba Akkesen
