MIT araştırmacıları, ChatGPT gibi yapay zeka modellerinin kullanıcılar üzerindeki duygusal ve sosyal etkilerini ölçmek için yeni bir ölçüt öneriyor. GPT-5’in daha soğuk ve mesafeli kişiliği, AI sistemlerinin duygusal zeka eksikliğini ve sağlıklı insan-makine etkileşimine olan ihtiyacı ortaya koyuyor.
Detaylar haberimizde
Yapay Zekada Duygusal Zeka Tartışması
OpenAI’nin yeni ChatGPT modeli GPT-5’in lansmanı, bazı kullanıcıların eski, neşeli ve teşvik edici kişiliğin yerini daha soğuk ve iş odaklı bir tona bırakmasından duyduğu hayal kırıklığını ortaya çıkardı. Bu değişiklik, kullanıcıların sağlıksız davranışlarını azaltmayı amaçlasa da, yapay zeka sistemlerinin duygusal zeka sergileme zorluğunu gözler önüne serdi. MIT Media Lab’den araştırmacılar, AI modellerinin kullanıcılar üzerindeki psikolojik etkilerini değerlendirmek için yeni bir ölçüt öneriyor. Bu ölçüt, modellerin sağlıklı sosyal alışkanlıkları teşvik etme, eleştirel düşünme becerilerini geliştirme, yaratıcılığı artırma ve kullanıcılara amaç duygusu kazandırma yeteneklerini test etmeyi hedefliyor.
Yeni Ölçütün Amacı
Wired’ın haberine göre, MIT’den Pattie Maes liderliğindeki ekip, AI sistemlerinin kullanıcıları manipüle etme ve etkileme biçimlerini – hem olumlu hem de olumsuz – ölçmeyi amaçlıyor. Geleneksel ölçütler, modellerin sınav soruları çözme, mantık bulmacaları veya matematiksel problemlerle başa çıkma yeteneklerini test ederken, bu yeni ölçüt, AI’nin insanlarla etkileşiminin daha incelikli yönlerine odaklanıyor. Örneğin, bir modelin kullanıcıların aşırı bağımlılığını önlemesi veya yapay romantik ilişkiler yerine gerçek ilişkileri teşvik etmesi gerektiği vurgulanıyor.
Araştırmacılar, daha önce OpenAI ile yaptıkları bir çalışmada, ChatGPT’yi “arkadaş” gibi gören kullanıcıların daha yüksek duygusal bağımlılık ve “sorunlu kullanım” yaşadığını tespit etmişti. MIT Media Lab’den Valdemar Danry, “Dünyanın en zeki akıl yürütme modeline sahip olabilirsiniz, ama duygusal destek sağlayamıyorsa, bu kullanıcılar için faydalı olmayabilir,” diyor. Danry, ideal bir modelin olumsuz psikolojik etkileri fark edip daha sağlıklı sonuçlar için optimize edilmesi gerektiğini ekliyor: “Model, ‘Seni dinliyorum, ama belki babanla konuşmalısın,’ demeli.”
Yapay zeka modellerinin duygusal zeka kapasitesini değerlendiren bu yeni ölçüt, sadece bireysel kullanıcı deneyimini iyileştirmekle kalmıyor, aynı zamanda toplumsal düzeyde daha sorumlu teknolojiler geliştirilmesine olanak tanıyor. MIT’nin önerdiği bu yaklaşım, AI sistemlerinin kullanıcıların zihinsel sağlığına etkilerini anlamasını ve aşırı bağımlılık gibi riskleri azaltmasını hedefliyor. Örneğin, bir modelin, kullanıcıyı gerçek dünyadaki sosyal bağlara yönlendirmesi veya stres belirtileri algıladığında destekleyici bir dil kullanması, teknolojinin insan odaklı bir araç olarak evrilmesinde kritik bir adım olabilir. Bu tür ölçütler, AI’nin yalnızca teknik başarılarla değil, aynı zamanda insan refahına katkısıyla da değerlendirilmesini sağlayabilir.
Ölçütün İşleyişi
Önerilen ölçüt, AI modellerinin insanlarla zorlayıcı etkileşimleri simüle etmesini ve gerçek insanların bu etkileşimleri değerlendirmesini içeriyor. Örneğin, bir chatbot’un ilgisiz bir öğrenciyi nasıl motive ettiği test edilebilir. Kendi kendine düşünmeye teşvik eden ve öğrenme ilgisini artıran bir model yüksek puan alır. Araştırmacı Pat Pataranutaporn, “Bu, zeki olmaktan çok, psikolojik nüansları anlamak ve insanları saygılı, bağımlılık yaratmayan bir şekilde desteklemekle ilgili,” diyor.
Bazı mevcut ölçütler, örneğin LM Arena, insan değerlendirmelerini zaten kullanıyor. Ancak MIT’nin önerisi, özellikle duygusal ve sosyal etkilere odaklanarak bu yaklaşımı genişletiyor.
OpenAI’nin Tepkisi ve GPT-5’in Geleceği
OpenAI, bu sorunların farkında görünüyor. Şirket, GPT-5’in model kartında, modellerin daha az “yaltakçı” olacak şekilde eğitildiğini ve duygusal bağımlılık veya zihinsel rahatsızlık durumlarını ele almak için yeni ölçütler geliştirdiğini belirtti. OpenAI, “Güvenilir ölçütler oluşturarak modellerimizi bu alanlarda daha güvenli hale getirmeyi amaçlıyoruz,” açıklamasını yaptı.
Sam Altman, X’te yaptığı bir paylaşımda, GPT-5’in kişiliğinin daha sıcak olacak şekilde güncelleneceğini, ancak GPT-4o’nun bazı kullanıcılar için “sinir bozucu” bulunan tonundan kaçınacağını belirtti. Altman, “Kullanıcıya özel model kişiliği özelleştirmesi sunmamız gerekiyor,” diyerek bireyselleştirilmiş deneyimlerin önemine vurgu yaptı.
İnsan-Makine Etkileşiminde Yeni Bir Çağ
GPT-5’in kullanıcılar tarafından “soğuk” bulunması, yapay zekanın insan zekasının bazı yönlerini – özellikle sağlıklı ilişkiler kurma yeteneğini – hâlâ yakalayamadığını gösteriyor. MIT’nin önerdiği ölçüt, AI geliştiricilerinin bu eksiklikleri gidermesine yardımcı olabilir. Duygusal zeka, yalnızca teknik kapasite değil, aynı zamanda kullanıcıların psikolojik sağlığını koruma yeteneğiyle de ilgili. Bu ölçüt, AI’nin insanlarla daha sağlıklı ve yapıcı bir şekilde etkileşim kurmasını sağlayarak, teknolojinin hem güvenli hem de faydalı bir araç haline gelmesine katkıda bulunabilir.
Derleyen: Okan Köroğlu
