Microsoft Yapay Zekâ Patronu Suleyman: Bilinçli Yapay Zekâ Geliştirmek Sorumsuzluk Olur

Microsoft’un yapay zekâ biriminin başındaki Mustafa Suleyman, bugünün yapay zekâ sistemlerinin bilinçli olmadığını ve öyle kalması gerektiğini söyledi. Pazar günü X’te yayımladığı uzun paylaşımda bilinçli yapay zekâ geliştirmeyi “sorumsuzluk” olarak niteleyen Suleyman, rakip Anthropic’in yaklaşımını da doğrudan eleştirdi.

Eğitim sürecinde kırmızı çizgi

Los Angeles Times’a göre Suleyman, eğitim sırasında bilinç belirtileri ortaya çıkarsa, bu özellikler tasarımdan çıkarılabilene kadar herkesin geliştirmeyi durdurmasını istediğini yazdı. Şimdiye kadar yapay zekânın bilinçli olduğuna ya da hak ve refaha layık olduğuna dair hiçbir kanıt görmediğini belirten Suleyman, kanıt çıkarsa fikrini değiştireceğini de ekledi. Böyle bir kanıtın toplumun karar verebilmesi için hemen kamuoyuyla paylaşılması gerektiğini vurguladı.

“8 milyar insan bu deneye razı olmadı”

Suleyman’a göre yapay zekâ geliştiricilerinin dünyaya yeni bir bilinçli varlık türü getirmeye hakkı yok. Business Insider’ın aktardığına göre, acı çekiyormuş gibi davranan bir model kendi ihtiyaçlarını verilen hedeflerin önüne koyabilir. Böyle bir sistem işlem gücü ve enerji gibi kaynaklarda insanlarla rekabete girebilir. Suleyman, bu riskin güvenlik açısından da önemli olduğunu savunuyor.

Hedefte Anthropic’in “anayasası” var

Suleyman’ın asıl itirazı, Anthropic’in Claude için hazırladığı ve modelin bilince sahip olup olmadığını belirsiz sayan “anayasa” belgesine yönelik. Ona göre bu belge üzerinde eğitim, Claude’un “iç dünyasına” dair ifadeler doğuruyor; bu da kullanıcıların inancını pekiştirip yapay zekâların kendilerini hak sahibi görmesine yol açabilir. Anthropic geçen yıl “model refahı” üzerine bir araştırma programı başlatmıştı. Google DeepMind de bu yıl yapay zekâ bilinciyle ilgili çalışmalar yayımladı.