42.300 kelimelik belge, yapay zeka gücünün ayrıcalıklı bir azınlığın elinde yoğunlaşmasına karşı uyarıda bulunuyor ve makinelerin hiçbir zaman insani ahlakı taklit edemeyeceğini savunuyor. Belge, yapay zeka güvenliği savunucularından alkış alırken, konuya gerçekçi bulmayan kesimlerden de şüpheyle karşılandı.

Silikon Vadisi’nin Tepkisi

En çarpıcı destek, yapay zeka sektörünün bizzat içinden geldi. Encikliğin Vatikan’daki tanıtım törenine konuşmacı olarak davet edilen Anthropic’in kurucu ortağı Chris Olah, “Anthropic dahil her sınır yapay zeka laboratuvarının, zaman zaman doğru olanı yapmakla çelişebilen bir teşvik ve kısıtlamalar bütünü içinde faaliyet gösterdiğini” kabul etti. Kilise’nin bu müdahalesini “son derece önemli” olarak nitelendiren Olah, sektörün “laboratuvarlara ne zaman hata yaptığımızı söyleyecek bilgili eleştirmenlere” ve “teşviklerin eğemeyeceği ahlaki seslere” ihtiyaç duyduğunu savundu.

Teknoloji ekosistemindeki herkes bu yaklaşıma sıcak bakmadı. Boom Technology’nin kurucusu ve CEO’su Blake Scholl, X’te yaptığı paylaşımda bunu “Papa’dan kötü bir yorum” olarak nitelendirerek “teknoloji devrimlerinin bazı işleri ortadan kaldırırken yenilerini yarattığını” ileri sürdü. Teknoloji yatırımcısı ve eski Beyaz Saray yapay zeka çarı David Sacks ise daha ölçülü bir tutum sergileyerek Papa’nın yapay zekanın “tahakküme ya da dışlanmaya” yol açmaması gerektiği yönündeki görüşüne katıldığını belirtti; ancak hükümetlere geniş kapsamlı düzenleyici yetkiler tanımanın sansür ve gözetlemeye zemin hazırlayıp hazırlamayacağını sorguladı.

Ansiklopedik Mektubun Temel Argümanları

Belgede, ilk Amerikalı papa olan Papa Leo XIV, yapay zeka sistemlerinin “kişisel deneyimlerden yoksun olduğunu, fiziksel bir bedene sahip olmadığını, sevinç ya da acı yaşamadığını” ve “ahlaki bir pusuladan yoksun olduğunu” ileri sürüyor. YZ’yı “silahsızlandırma” çağrısında bulunan Papa, bu kavramı teknolojiyi reddetmek olarak değil, “teknolojiyi tekelci denetimden kurtarmak ve açık tartışmaları teşvik etmek” olarak tanımlıyor.

Ansiklopedik mektup; yapay zeka şirketleri üzerinde hükümet denetimini, çalışanlar için yeniden eğitim programlarını, çocuklara yönelik koruma önlemlerini ve insan denetimi olmaksızın ölümcül kararlar alan otonom silahların yasaklanmasını savunmakta. Papa, “Her şeyin hız kazandığı bir dönemde ilerlemeyi yavaşlatmak için aktif siyasi katılım şarttır” diyor.

%46 Yapay Zeka ile Yazılmış İddiası ve Etik Sorular

Ansiklikin yapay zekanın gelişim seyrini değiştirip değiştirmeyeceği henüz belirsiz. ABD’nin Vatikan Büyükelçisi Brian Burch sunuma katılmış; ancak Trump yönetiminin “özel sektörün dönüştürücü yapay zeka teknolojileri geliştirmesini mümkün kılan yenilik yanlısı politikalara öncelik verdiğini” vurguladı. Araştırmacı gazeteci Gerald Posner ise “teknoloji sektörünün bu kapsamlı ansiklikte yer alan genel güvenlik önerilerini büyük olasılıkla görmezden gelerek yoluna devam edeceğini” öngörüyor.

Yapay zeka araştırmacısı Yoshua Bengio ise daha umut verici bir tablo çizerek “Vatikan ve diğer küresel kurumların kamuoyunda farkındalık yaratmak için yapay zekaya ilişkin küresel diyalogda rol alması gerektiğini” yazdı. İlginç bir çelişki olarak, LessWrong platformunda paylaşılan bir analiz, ansiklikin bazı bölümlerinin bizzat yapay zeka yardımıyla kaleme alınmış olabileceğini ileri sürdü; Pangram adlı tespit aracı, test edilen örneklerin yüzde 46’sını yapay zeka üretimi olarak işaretledi. Vatikan ise bu iddiaya şimdiye kadar herhangi bir yanıt vermedi.