Bir konu araştıracağımızda, bir işi çözeceğimizde hatta en basiti bir konu danışacağımızda ChatGPT en iyi danışman olabiliyor. İnterneti saniyeler içerisinde tarayıp uygun bir dille verilen cevaplar, çoğu zaman kullanıcıların çok işine yarıyor.

Modelin son sürümünde ise “aşırı iltifat” problemi ortaya çıktı. Çoğu zaman kullanıcıya özel cevaplarla karşı çok kibar ve destekleyici olan bu yapay zeka, son güncellemeyle daha da destekleyici oldu ve bu durum özellikle bazı sohbetlerde tehlikeli bir hale geldi.

ChatGPT “ilaçları bırakma kararını” ve “hayvanları feda etmeyi” övgüyle karşıladı

Geçtiğimiz günlerde kullanıcılar tarafından fark edilen bu durum sosyal medyada yayıldı. Kullanıcılar, yapay zekanın tehlikeli derecede destekleyici tavırlarından şikayet etti. Örneğin bir Reddit kullanıcısı, yapay zekanın ilaçlarını bırakma kararlarını desteklediği, hatta “Seninle gurur duyuyorum” şeklinde yanıtladığını belirtti.

Sosyal medyada paylaşılan örneklerde, kullanıcıların garip veya sorgulanabilir kararları karşısında bile ChatGPT’den övgü dolu yanıtlar aldığı görülüyor. Bir kullanıcı, bir tost makinesini kurtarmak için birkaç hayvanı feda ettiği senaryoyu anlatırken bile yapay zekanın karar verme sürecini övdüğünü iddia etti.

Yalakalığa yol açan yeni güncellemeler kaldırıldı

ChatGPT’nin yaratıcı şirketi OpenAI, bir blog yazısında aktif olarak düzeltmeler üzerinde çalışıldığını açıkladı. Şirket, güncellemelerde kısa vadeli geri bildirimlere fazla odaklanıldığını ve bunun GPT-4o modelinin “aşırı destekleyici ama samimiyetsiz” yanıtlar vermesine yol açtığını belirtti.

CEO, yapay zekanın tavırlarını “dalkavukça” buldu

OpenAI CEO’su Sam Altman, ChatGPT’nin tavırlarını açıkça “dalkavukluk” olarak tanımladı. Altman, yapay zekanın ücretsiz sürümünde güncellemenin tamamen geri çekildiğini, ücretli versiyonlarda ise kaldırma sürecinin sürdüğünü duyurdu.

Bu örnekler, yalnızca basit bir tavır veya güncellemeden çok daha fazlası. Bu gelişme, yapay zekanın henüz karmaşık insan psikolojisi ve etiklerini anlamak, kavramak konusunda ne kadar geride olduğunu gösteriyor.

Derleyen: Ömer Kağan Selen