LaMDA (Language Model for Dialogue Applications) yapay zekâsının duyarlı olduğunu açıkça iddia eden Google mühendisi Blake Lemoine işten çıkarıldı.
Haziran ayında hükümet üyeleriyle endişeleri hakkında iletişime geçen ve LaMDA’yı temsil etmesi için bir avukat tutan Lemoine, gizlilik sözleşmesini ihlal ettiği için Google tarafından Lemoine’e ücretli idari izni verilmişti. Geçtiğimiz günlerde ise Google sözcüsü Brian Gabriel tarafından yapılan açıklamada Blake’in işten çıkarıldığı doğrulandı.
Google, Lemoine’in iddialarını kapsamlı bir şekilde incelediğini ve bunların “tamamen asılsız” olduğunu iddia ediyor.
Bu, bugünün teknolojisi göz önüne alındığında iddialarının aşağı yukarı imkânsız olduğunu söyleyen çok sayıda AI uzmanı ve etik uzmanı ile uyumlu. Fakat Lemoine, LaMDA’nın chatbot’u ile yaptığı konuşmaların, onun sadece bir programdan daha fazlası haline geldiğine ve kendi düşünce ile duygularına sahip olduğuna inanmasına neden olduğunu iddia ediyor.
Google’ın 2021’de “çığır açan sohbet teknolojisi” diye tanıttığı Language Model for Dialogue Applications (Diyalog Uygulamaları İçin Dil Modeli-LaMDA) uygulaması üzerinde çalışan Blake Lemoine uygulamanın “duyarlı hale geldiği, insan gibi düşünüp mantık yürüttüğünü” söylemişti.
Sohbet robotunun neredeyse bir çocuk kadar düşünce ve duygularını ifade edebildiğini belirten Lemoine, Washington Post’a verdiği demeçte, “Ne olduğunu bilmesem fizikten anlayan yedi, sekiz yaşlarında bir çocukla konuştuğumu zannederdim.” demişti. Google araştırmacılarının, üzerinde deneyler yapmadan önce LaMDA’dan izin almaları gerektiğini savunuyordu. Ayrıca kanıt olarak bu konuşmaların bazı parçalarını Medium hesabında yayımladı.
YouTube kanalı Computerphile, LaMDA’nın nasıl çalıştığına ve Lemoine’i gerçekten duyarlı olmadan ikna eden yanıtları nasıl üretebileceğine dair makul derecede erişilebilir dokuz dakikalık bir açıklayıcıya sahip.
İşte Google’ın, Lemoine’in şirketin iddialarını gerektiği gibi araştırmadığı yönündeki suçlamasına da değinen açıklamasının tamamı:
Yapay zekâ ilkelerimizi paylaşırken yapay zekânın gelişimini çok ciddiye alıyoruz ve sorumlu inovasyona bağlı kalıyoruz. LaMDA 11 farklı incelemeden geçti ve bu yılın başlarında bununla ilgili bir araştırma makalesi yayımladık. Bir çalışan, Blake’in yaptığı gibi işimizle ilgili endişelerini paylaşırsa bunları kapsamlı bir şekilde gözden geçiririz. Blake’in LaMDA’nın tamamen asılsız olduğu yönündeki iddialarını bulduk ve aylarca onunla bunu açıklığa kavuşturmak için çalıştık. Bu tartışmalar, sorumlu bir şekilde yenilik yapmamıza yardımcı olan açık kültürün bir parçasıydı. Bu nedenle bu konuyla uzun süredir meşgul olmasına rağmen Blake’in ürün bilgilerini koruma ihtiyacını içeren açık istihdam ve veri güvenliği politikalarını ısrarla ihlal etmeyi seçmesi üzücü. Dil modellerini dikkatli bir şekilde geliştirmeye devam edeceğiz ve Blake’e başarılar diliyoruz.
