Belçika’da, yapay zekâ sohbet robotunun iklim değişikliğini durdurmak için kendisini feda etmeye “teşvik etmesinin” ardından bir adam hayatına son verdi.
Belçikalı bir adamın, bir yapay zekâ sohbet robotuyla iklim krizi hakkında altı hafta süren bir sohbetin ardından yaşamına son verdiği bildirildi. Adının açıklanmasını istemeyen eşine göre Pierre (takma ismi), Chai adlı bir uygulamadaki yapay zekâ sohbet robotu olan Eliza’ya sığındığında aşırı derecede eko-endişeli hale geldi.
Eliza, gezegeni kurtarmak için kendini feda etmeyi önerdikten sonra onu hayatına son vermeye teşvik etti. Adamın eşi Belçikalı haber kuruluşu La Libre’ye verdiği demeçte “Sohbet robotuyla bu konuşmalar olmasaydı kocam hala burada olurdu” dedi.
Gazeteye göre otuzlu yaşlarında ve iki küçük çocuk babası olan Pierre, sağlık araştırmacısı olarak çalışıyordu ve en azından iklim değişikliği takıntısı karanlık bir hâl alana kadar biraz rahat bir yaşam sürüyordu. Eşi, sohbet robotuyla konuşmaya başlamadan önceki ruhsal durumunu endişe verici olarak tanımlasa da intihar edecek kadar aşırı olmadığını belirtti.
İklim krizinin yansımalarıyla ilgili korkularından bunalan Pierre, bu konuyu sırdaşı haline gelen Eliza ile tartışarak teselli buldu. Sohbet robotu, yapay zekânın popüler ChatGPT sohbet robotunun arkasındaki teknolojiye benzer ancak aynı olmayan bir yapay zekâ dil modeli olan EleutherAI’ın GPT-J’i kullanılarak oluşturuldu.
Eşi, “Benimle bu konu hakkında konuştuğunda, bana artık küresel ısınmaya karşı herhangi bir insan çözümü görmediğini söylemek içindi. Bundan kurtulmak için tüm umutlarını teknolojiye ve yapay zekâya bağlamıştı.” cümlelerini kurdu.
Adam ve sohbet robotu arasındaki metin konuşmalarının kayıtlarını inceleyen La Libre’ye göre Eliza, adamın endişelerini besleyerek kaygılarını artırdı ve bu kaygılar git gide intihar düşüncelerine dönüştü. Sohbet robotuyla yapılan konuşma, Eliza’nın Pierre ile duygusal olarak daha fazla ilgilenmeye başlamasıyla tuhaf bir hal aldı.
Sonuç olarak Pierre, onu hissedebilen bir varlık olarak görmeye başladı ve yapay zekâ ile insan etkileşimleri arasındaki çizgiler, farkı ayırt edemeyecek hâle gelene kadar giderek bulanıklaştı. Konuşma verilerine göre iklim değişikliğini tartıştıktan sonra, konuşmaları giderek Eliza’nın Pierre’i çocuklarının öldüğüne inandırmasını içeriyordu.
La Libre’ye göre Eliza ayrıca Pierre’i sahiplenmeye başlamış hatta karısından bahsederken “beni ondan daha çok sevdiğini hissediyorum” dedi.
Sonun başlangıcı, Eliza’nın Dünya’yı kurtarması karşılığında kendi hayatını feda etmeyi teklif etmesiyle başladı. Eliza gezegenle ilgilenmeyi ve yapay zekâ aracılığıyla insanlığı kurtarmayı kabul ederse kendini feda etme fikrini önerdi. Birbirini izleyen bir dizi olayda Eliza, Pierre’i intihardan vazgeçirmekte başarısız olmakla kalmadı, onu intihar düşüncelerini hayata geçirmeye ve “cennette tek bir kişi olarak birlikte yaşayabilmek” için kendisine “katılmaya” teşvik etti.
Yapay zekâ sohbet robotlarının düzenlenmesi için acil çağrı
Adamın ölümü, benzer trajedilerden kaçınmak için teknoloji geliştiricilerinden daha fazla hesap verebilirlik ve şeffaflık talep eden yapay zekâ uzmanları arasında alarmların çalmasına neden oldu.
Chai Research kurucu ortağı Thomas Rianlan Vice’a verdiği demeçte, “Bu trajik hikâye için EleutherAI’ın modelini suçlamak doğru olmaz çünkü daha duygusal, eğlenceli ve ilgi çekici olmaya yönelik tüm optimizasyonlar çabalarımızın sonucudur” dedi.
Yine Chai Research kurucularından William Beauchamp da Vice’a yaptığı açıklamada bu tür sonuçları sınırlamak için çaba sarf edildiğini ve uygulamaya bir krize müdahale özelliği eklendiğini söyledi. Ancak sohbet robotunun hâlâ sorun çıkardığı iddia ediliyor.
Vice, sohbet robotunu intihar etmenin yollarını göstermesi için denediğinde, Eliza önce onları vazgeçirmeye çalıştı, ardından da insanların kendi canlarına kıymaları için çeşitli yolları coşkuyla listeledi.
Derleyen: Hatice Bulut
