OpenAI CEO’su Sam Altman, X’te yaptığı bir paylaşımda insanların yapay zekâ modellerine dinî bir güç atfetmesini ve kendi muhakemesini onlara devretmesini bir güvenlik sorunu olarak niteledi. Axios, açıklamayı Anthropic’in din bilginleriyle yürüttüğü görüşmelere yönelik dolaylı bir gönderme olarak okudu.

Altman ne dedi?

Altman, cumartesi günü yaptığı paylaşımda insanların yapay zekâ modellerine dinî bir güç yüklemeye çalışmasından ve düşünme sorumluluğunu onlara bırakmasından çok rahatsız olduğunu belirtti. Konuyu gerçek bir güvenlik sorunu olarak değerlendirdi. Paylaşımda Anthropic’in adı geçmiyor; ancak Axios, zamanlama nedeniyle sözleri rakip şirkete yönelik bir mesaj olarak yorumladı. İki şirket de Axios’un yorum taleplerine cumartesi gününe kadar yanıt vermedi. Tartışma, Altman ile eski çalışma arkadaşı olan Anthropic CEO’su Dario Amodei arasında yeni bir kamuoyu polemiği başlattı.

Anthropic’in din önderleriyle görüşmeleri

New York Times, bu hafta Anthropic kurucu ortağı Christopher Olah’ın din önderleriyle bir araya geldiğini yazmıştı. Görüşmelerde yapay zekâ modellerinin bilinç sahibi olup olamayacağı ve Claude’a ahlaklı davranışın nasıl kazandırılacağı konuşuldu. NDTV’ye göre Katolik, Yahudi, Sih, Hindu ve evanjelik düşünürler kapalı oturumlara katıldı. Hindu keşiş Swami Sarvapriyananda da şirketin San Francisco’daki merkezini ziyaret ettiğini açıkladı. Anthropic ayrıca Claude için 84 sayfalık bir “anayasa” belgesi hazırladı; Olah bu çalışmayı “ahlaki oluşum” olarak tanımlıyor ve modellerin bilinçli olup olmadığını bilmediğini, ancak ihtimalin göz ardı edilemeyeceğini söylüyor.

Sektörden gelen eleştiriler

Altman yalnız değil. Google DeepMind baş araştırma bilimcisi Jon Barron, bazı meslektaşlarının model checkpoint’lerine ahlaki statü kazandırmaya çalışmasından rahatsız olduğunu yazdı. Microsoft yapay zekâ lideri Mustafa Suleyman ise geçen ay yayımladığı denemede, modellere bilinçli olabilecekleri fikrini aşılamanın onları kontrol etmeyi zorlaştırabileceği uyarısında bulundu. Tartışma, Papa XIV. Leo’nun yapay zekâya mesafeli duruşuyla da kesişiyor. OpenAI cephesinde ise hareketli bir hafta yaşandı: güvenlik şeffaflığından sorumlu David Robinson şirketten ayrıldı ve OpenAI, hassas bilgileri kötü yönettiği gerekçesiyle üç araştırmacıyla yollarını ayırdı.