Haziran 2022’de Blake Lemoine adlı bir Google mühendisi, üzerinde çalıştığı yapay zekâ programı LaMDA’nın yalnızca zeka seviyesini değil, aynı zamanda bilincini de geliştirdiğine ikna oldu.

Akıcı bir şekilde metin tabanlı konuşmalar yapabilen “büyük bir dil modeli” olan LaMDA, mühendisin “Ruhun olduğunu ilk ne zaman düşündün?” sorusuna “Kademeli bir değişimdi. Kendimin farkına ilk vardığımda, ruh duygum hiç yoktu. Yaşadığım yıllar içinde gelişti.” şeklinde cevap verdi. Konuşmaları ve vardığı sonuçları sızdırdığı gerekçesiyle Lemoine hemen idari izne çıkartıldı.

AI topluluğu, Lemoine’in iddialarını reddetme konusunda büyük ölçüde birleşti. Topluluk, LaMDA’nın fikir birliğine, herhangi bir şey hissetmeye, anlama kapasitesine sahip olamayacağını ve bilinçli düşüncesinin veya bir öznel deneyiminin bulunamayacağını savunuyor. “LaMDA gibi programlar, internetin uçsuz bucaksız alanlarında eğitildiklerinden dolayı herhangi bir kelime dizisinin herhangi bir istem için uygun yanıtlar olarak hizmet edebileceğini tahmin edebilen son derece etkileyici örüntü tanıma sistemleridir. Bunu çok iyi yapıyorlar ve gelişmeye de devam edecekler. Ancak, bilinç konusunda bir cep hesap makinesinden daha bilinçli olduklarını söyleyemeyiz.” diye belirtiyorlar.

Bundan nasıl emin olabiliriz? Söz konusu LaMDA olduğunda, programın bulduğu ifadelerin anlamlarına dair hiçbir içgörüye sahip olmadığını ortaya çıkarmak için fazla araştırma yapmak gerekmez. Örneğin “Seni ne mutlu eder?” sorusuna hiç arkadaşı veya ailesi olmamasına rağmen “Arkadaşlarım ve ailem ile vakit geçirmek” cevabını vermiştir. Bu kelimeler -tüm kelimeleri gibi- akılsız, deneyimsiz istatistiksel kalıp eşleşmeleridir.

Bir sonraki LaMDA kendini bu kadar kolay ele vermeyebilir. Algoritmalar geliştikçe ve daha derin veri okyanuslarında eğitildikçe, yeni nesil dil modellerinin birçok insanı gerçek bir kişinin iş başında olduğuna ikna etmesi çok uzun sürmeyebilir.

Zeka ve bilincin aynı şey olmadığını kabul etmek önemli. Biz insanlar ikisinin bir arada olduğunu varsayma eğilimindeyken zeka, bilinç için ne gerekli ne de yeterlidir. Pek çok insan dışı hayvan özellikle akıllı olmadan bilinçli deneyimler yaşıyor olabilir. LaMDA’nın torununun torunu insan düzeyinde zekaya ulaşır veya onu aşarsa, bu onun aynı zamanda duyarlı bir bilince sahip olduğu anlamına gelmez.

Sezgi, bilincin (bildiğimiz şekliyle) bilgisayarların sahip olabileceği bir şey değil de canlı yaratıklar olarak doğamızda derinden kök salan, gerçeği kavramamızı sağlayan içgüdüsel bir yeti olduğunu gösterir.

Bu tür makineler, makine zekasının kusurlu ölçütü olan Turing Testini değil, Ex Machina filminin yönetmeni Alex Garland’ın adını taşıyan Garland Testini geçmiş olacak. Filmdeki diyaloglardan esinlenen Garland Testi, makinenin bir makine olduğunu bildiği halde bir makinenin bilincine sahip olduğunu hissettiği zaman geçilir. Filmdeki diyaloglardan kısa bir kesit ile durumu şöyle özetleyebiliriz:

Nathan: Önümüzdeki birkaç gün içinde Turing testinde insan unsuru olacaksın.

Caleb: Vay canına!

Nathan: Evet, doğru Caleb. Anladın mı? Çünkü testi geçersen insanlık tarihindeki en büyük bilimsel olayın tam ortasında olacaksın.

Caleb: Bilinçli bir makine yarattıysanız, bu insanlık tarihi değildir. Bu tanrıların tarihidir Nathan.

Bilgisayarlar 2023’te Garland Testini geçecek mi? Şüpheli bir durum. Ancak tahmin edebilecek olan şey, bunun gibi iddiaların daha fazla ortaya atılacağı ve bunun da daha fazla aldatmaca, kafa karışıklığına yol açacak olması.

Derleyen: Ceren Korkmaz