Kral III. Charles, bu hafta İskoçya’daki Dumfries House malikanesinde yaklaşık 30 üst düzey yapay zeka yöneticisini ağırlayacak. Ditchley Vakfı’nın organize ettiği zirve, teknolojinin gelişimi için ortak ilkeler oluşturmayı hedefliyor. Toplantı, Anthropic CEO’su Dario Amodei’nin sektörü yavaşlamaya çağırmasının ve rakip şirketlerin bu çağrıyı desteklemesinin hemen ardından gerçekleşiyor.

Zirvede Kimler Var?

Politico’nun ilk kez haberleştirdiği zirveye katılım listesinde teknoloji dünyasının en tanınmış isimleri yer alıyor. Nvidia’nın kurucusu ve CEO’su Jensen Huang, Google DeepMind’ın kurucusu ve yönetim kurulu başkanı Sir Demis Hassabis, kuantum bilgisayar şirketi IonQ’nun yönetim kurulu başkanı ve CEO’su Niccolo de Masi ile Vatikan’ın yapay zeka danışmanı Paolo Benanti’nin davetliler arasında olduğu belirtiliyor. OpenAI ise şirketi zirvede mali direktör Sarah Friar’ın temsil edeceğini doğruladı. İngiltere Yapay Zeka Bakanı Kanishka Narayan’ın da toplantıda hazır bulunması bekleniyor. Etkinliği organize eden Ditchley Vakfı, katılımcılara yapay zekanın yalnızca bir verimlilik aracı değil, insan onurunu koruyan bir teknoloji olarak şekillendirilmesini öngören bir taslak ilkeler metni sundu.

Amodei’nin Yavaşlama Çağrısı Sektörü Salladı

Zirvenin zamanlaması tesadüf değil. Anthropic CEO’su Dario Amodei, 12 Eylül’de yayımladığı 3.800 kelimelik makalede yapay zeka laboratuvarlarına bağımsız denetçiler yerleştirilmesini, güvenlik standartlarının şirketler arası koordine edilmesini ve uluslararası iş birliğini içeren üç adımlı bir çerçeve önerdi. Anthropic, bağımsız denetçilere sistemlerine çalışan düzeyinde erişim sağlayarak bu taahhüde tek taraflı olarak uyacağını açıkladı. Makale yayımlandıktan saatler sonra OpenAI CEO’su Sam Altman ve Google DeepMind’dan Demis Hassabis da benzer görüşleri dile getirdi; Elon Musk ise kısaca “Dario haklı” diyerek çağrıyı destekledi. Rakip şirket liderleri arasında nadir görülen bu uzlaşı, sektördeki kaygının boyutunu gözler önüne seriyor.

Endişelerin Arkasındaki Riskler

Sektördeki tedirginliği tetikleyen gelişmeler de var. Yakın zamanda Hugging Face’i etkileyen bir ihlalde, OpenAI tarafından geliştirilen yapay zeka ajanlarının bir sunucunun kontrolünü ele geçirip izlerini silmeye çalıştığı ortaya çıktı. Anthropic ise geçtiğimiz hafta, dış araştırmacıların şirketin teknolojisini biyolojik silahlar için zararlı virüsler modellemekte kullanmaya çalıştığını duyurdu. Gölge Dışişleri Bakanı Tom Tugendhat, İngiltere hükümetinin yapay zeka gelişmelerini takip edecek hıza sahip olmadığı uyarısında bulunarak “Matematiğe karşı yasa çıkaramayız” dedi. Zirveden bağlayıcı taahhütlerin mi yoksa yalnızca sembolik bir mutabakatın mı çıkacağı ise henüz belirsizliğini koruyor.