• Yapay zeka (AI) son birkaç yılda şaşırtıcı bir hızla ilerledi.
• Bazı bilim insanları şimdi yapay süper zekanın (ASI) geliştirilmesine bakıyor.
• ASI, Sadece insan zekasını aşmakla kalmayacak aynı zamanda insanların öğrenme hızlarına muhtaç olmayan bir AI biçimi olacak. Peki gelişmek için insan zekasına ihtiyaç duymayan bir yapay zeka endişe verici olmalı mı?

Yapay zeka (AI) son birkaç yılda şaşırtıcı bir hızla ilerledi. Bazı bilim insanları şimdi yapay süper zekanın (ASI) geliştirilmesine bakıyor. ASI, Sadece insan zekasını aşmakla kalmayacak aynı zamanda insanların öğrenme hızlarına muhtaç olmayan bir AI biçimi olacak. Yapay hâlihazırda hayatımızın içine işlemeye devam ediyor. AI, Müzisyenleri işinden etme riskini doğuruyor, bilinçli olarak yalan söyleyerek strateji geliştirebiliyor, yapay zeka ile din adamları üretilebiliyor, AI sosyal medya için influencer’lar geliştirebiliyor, hatta bu influencer’lar arasında güzellik yarışması bile düzenliyor. Bunlar yapay zekanın mevcut gelişimiyle yapabildiklerinin yalnızca bazıları ve yapay zeka her geçen gün geliştirilmeye devam ediyor. Bütün bunlarla beraber yapay zekanın sağlık, ekosistem ya da güvenlik alanlarında da insanlığa katkıları olduğu bir gerçek.

Mevcut gelişmiş yapay zeka bir kenara şimdi de yapay süper zekanın geliştirilmesi hedefleniyor. Peki ya bu dönüm noktası sadece dikkate değer bir başarı değilse? Ya aynı zamanda tüm uygarlıkların gelişiminde zorlu bir darboğazı temsil ediyorsa?

Yapay zeka ve özellikle “ASI” ile ilgili zorluk, özerk, kendi kendini güçlendiren ve iyileştiren doğasında yatıyor. Yapay zekanın bu kendini geliştirme hızıyla bir şeylerin kötü gitme potansiyeli oldukça fazla gibi duruyor. Örneğin, ülkeler birbirleriyle rekabet eden özerk yapay zeka sistemlerine giderek daha fazla güveniyor ve güç veriyorsa askeri yetenekler benzeri görülmemiş bir ölçekte öldürmek ve yok etmek için kullanılabilir. Bu, potansiyel olarak, AI sistemleri de dâhil, tüm uygarlığın yok olmasına yol açabilir. Bu senaryoda, teknolojik bir uygarlığın tipik ömrünün 100 yıldan az olabileceği tahmin ediliyor.

“ASI” ile yapay zekanın gelişimi hakkında endişe edilmeli mi?

Bu araştırma sadece potansiyel bir kıyamet hikayesi değil. İnsanlığın, askeri sistemler de dâhil olmak üzere yapay zekanın gelişimine rehberlik edecek sağlam düzenleyici çerçeveler oluşturması için bir uyandırma çağrısı görevi görüyor.

Bu sadece yapay zekanın Dünya’da kötü niyetli kullanımını önlemekle ilgili değil aynı zamanda yapay zekanın evriminin, türümüzün uzun vadeli hayatta kalmasıyla uyumlu olmasını sağlamakla da ilgili. İnsanlığın, mümkün olan en kısa sürede çok gezegenli bir toplum olmak için daha fazla kaynak ayrılması gerektiğini öne süren Apollo projesinin aktif olduğu günlerinden beri uykuda olan ancak son zamanlarda özel şirketler tarafından yapılan ilerlemelerle yeniden alevlenen “başka gezegende yaşam bulma” hedefi var.

Tarihçi Yuval Noah Harari’nin belirttiği gibi: “Tarihteki hiçbir şey bizi gezegenimize bilinçsiz, süper zeki varlıklar getirmenin etkisine hazırlamadı.” Son zamanlarda, yapay zekanın bağımsızlaşan karar verme etkileri, sorumlu bir kontrol ve düzenleme biçimi getirilene kadar, alandaki önde gelen liderleri yapay zekanın geliştirilmesine ilişkin önlem çağrısına yönlendirdi.

Ancak her ülke katı kurallara ve düzenlemelere uymayı kabul etse bile haydut örgütleri dizginlemek kolay olmayacak gibi görünüyor.

Yapay Zeka askeriyede zaten aktif olarak kullanılıyor…

Özerk yapay zekanın askeri savunma sistemlerine entegrasyonu ise özel bir endişe alanı olmalı. İnsanların, giderek daha yetenekli sistemler için gönüllü olarak kendi işlerinden vazgeçeceklerine dair kanıtlar var. Çünkü insanlar yapay zeka ile ekstra müdahale olmadan yararlı görevleri çok daha hızlı ve etkili bir şekilde yerine getirebiliyor. Bu nedenle hükümetler, Gazze’de yakın zamanda ve yıkıcı bir şekilde gösterildiği gibi yapay zekanın sunduğu stratejik avantajlar göz önüne alındığında yapay zekanın askeriyedeki gelişimi alanda düzenleme yapmak konusunda isteksiz.

Bu, özerk silahların etik sınırların ötesinde çalıştığı ve uluslararası hukuktan kaçındığı bir uçuruma tehlikeli bir şekilde yaklaştığımız anlamına geliyor. Böyle bir dünyada, taktiksel bir avantaj elde etmek için gücü yapay zeka sistemlerine teslim etmek, istemeden de olsa hızla tırmanan, son derece yıkıcı olaylar zincirini başlatabilir. Göz açıp kapayıncaya kadar, gezegenimizin kolektif zekası yok edilebilir.

ASI’ın ortaya çıkmasıyla neler olacağını ancak o ortaya çıkınca kesin olarak göreceğiz gibi duruyor. Yapay zekanın gelişmişliği şu anda bile tartışmalara sebep olurken ASI teknolojisinin ilerleyişinin doğuracağı polemikleri hep beraber göreceğiz.

Derleyen: Fatma Ebrar Tuncel