- ASPIRE, tahmin yerine dürüstlüğü teşvik ederek yapay zeka etkileşimlerini daha güvenilir hale getirmeye hazırlanıyor.
- Google araştırmacıları yapay zekaya “bilmiyorum” demeyi öğreterek yapay zeka dünyasını sarsıyor.
- ASPIRE olarak adlandırılan bu yeni yaklaşım, bir cevaptan emin olmadığında yapay zekayı şüphe duymaya teşvik ederek dijital yardımcılarımızla etkileşim şeklimizde devrim yaratmayı planlıyor.
Google araştırmacıları yapay zekaya “bilmiyorum” demeyi öğreterek yapay zeka dünyasını sarsıyor. ASPIRE olarak adlandırılan bu yeni yaklaşım, bir cevaptan emin olmadığında yapay zekayı şüphe duymaya teşvik ederek dijital yardımcılarımızla etkileşim şeklimizde devrim yaratmayı planlıyor. EMNLP 2023 konferansında sergilenen yenilik, tamamen yapay zeka yanıtlarına “özen” duygusu aşılamakla ilgili. Açılımı “LLM’lerde Seçici Tahmini Geliştirmek için Öz Değerlendirme ile Adaptasyon” olan ASPIRE, yapay zeka için yerleşik bir güven ölçer gibi hareket ederek, cevaplarını sunmadan önce yapay zekanın kendi cevaplarını değerlendirmesine yardımcı oluyor.
Akıllı telefonunuzdan bir sağlık sorunu hakkında tavsiye istediğinizde ASPIRE sayesinde yapay zeka yanlış olabilecek bir cevap vermek yerine “Emin değilim” şeklinde yanıt verebilir. Bu sistem, yapay zekayı yanıtlarına bir güven puanı atayacak şekilde eğiterek yanıtına ne kadar güvenmemiz gerektiğini bize gösteriyor. Google’dan Jiefeng Chen ve Jinsung Yoon’un da aralarında bulunduğu ekip, daha güvenilir dijital karar alma süreçlerine doğru bir geçişin öncülüğünü yapıyor. Geliştirici ekip, yapay zekanın, özellikle de kritik bilgiler söz konusu olduğunda, sınırlarını bilmesinin ve bunları açıkça ifade etmesinin çok önemli olduğunu savunuyor.
Wisconsin-Madison Üniversitesinde araştırmacı olan ve makalenin ortak yazarı Chen, “LLM’ler artık dili daha önce görülmemiş düzeyde anlayabiliyor ve üretebiliyor ancak yüksek riskli uygulamalarda kullanımları sınırlı çünkü bazen sahip oldukları yüksek güvenle hata yapabiliyorlar.” dedi. Ekibin araştırmaları, ASPIRE ile donatılmış daha küçük yapay zeka modellerinin bile bu iç gözlem özelliğinden yoksun olan daha büyük modelleri geçebileceğini gösteriyor. Bu sistem esasen, bir insanın cevap vermek için daha uygun olabileceğini kabul eden daha güvenilir bir yapa yapay zeka yaratıyor.
ASPIRE, tahmin yerine dürüstlüğü teşvik ederek yapay zeka etkileşimlerini daha güvenilir hale getirmeye hazırlanıyor. ASPIRE, yapay zeka asistanınızın her şeyi bilen bir kâhin yerine düşünceli bir danışman olabileceği ve “bilmiyorum” demenin gelişmiş bir zekanın işareti olduğu mutlak geleceğin yolunu açıyor.
Derleyen: Fatma Ebrar Tuncel
