Harari: Yapay Zeka Tekno-Faşizm Tehlikesini Barındırıyor!

SORU: Yeni kitabınız Nexus: Taş Devri’nden Yapay Zekaya Bilgi Ağlarının Kısa Tarihinde, tarihin insanlık tarafından yaratılan kurgularla şekillendiğini öne sürüyorsunuz—ki bu, Sapiens kitabınızın da temel bir temasıydı. Ancak bu kez, yapay zekanın benzeri görülmemiş tehdidinden bahsediyorsunuz. Bize bu tehdidin ne olduğunu ve neden bu kadar ciddi olduğunu düşündüğünüzü anlatabilir misiniz?

Yuval Noah Harari: Evet, her şey bilgiyle ilgili. Bilgi, gerçekle aynı şey değildir. Çoğu bilgi, gerçekliğin doğru bir temsili değildir. Bilginin temel rolü, birçok şeyi bir araya getirmektir—insanları bağlamaktır. Bazen insanlar hakikatle birleşir, ama çoğu zaman bunu yapmak için kurgu veya yanılsama kullanmak daha kolaydır. Doğal dünyada da durum böyledir. Doğada var olan bilginin çoğu gerçeği söylemek için tasarlanmamıştır. Bize hayatın temel bilgisinin DNA olduğu söylenir, ama DNA doğru mudur? Hayır. DNA, birçok hücreyi bir araya getirip bir beden oluşturur, ama bize herhangi bir şey hakkında hakikati söylemez. Aynı şekilde, insanlık tarihindeki en önemli metinlerden biri olan İncil, milyonlarca insanı bir araya getirdi, ama bu mutlaka onlara hakikati anlatarak olmadı. Bilgi tamamen serbest bir piyasada olduğunda, bilginin büyük çoğunluğu kurgu, yanılsama veya yalan haline gelir. İnternet bunun mükemmel bir örneği oldu. İnternet, tamamen serbest bir bilgi pazarıydı. Bu yüzden internetin gerçekleri ve hakikatleri yayacağı, insanlar arasında anlayış ve uzlaşmayı artıracağı beklentisi kısa sürede naif bir düşünce olarak ortaya çıktı. Hakikate ulaşmak istiyorsak, özel bir çaba sarf etmeli ve gerçekleri defalarca ortaya çıkarmaya çalışmalıyız.

SORU: Kitabınızda bilginin bu görüşünün çok naif olduğunu yazıyorsunuz. Bunu biraz daha açabilir misiniz?

Yuval Noah Harari: Elbette. Daha fazla bilginin otomatik olarak hakikate veya bilgeliğe yol açtığı fikri naif bir düşüncedir. Bilgi, bir bağlayıcıdır—insanları, sistemleri, fikirleri bir araya getirir. Ancak bu bağlantıların çoğu, gerçeklikten ziyade kurguya dayanır. Örneğin, DNA’yı ele alalım: Bu, yaşamı organize eden inanılmaz bir bilgi ağıdır, ama “doğru” değildir—bir hikaye anlatmaz, sadece işlev görür. İnsan tarihinde de benzer şekilde, en güçlü bilgi ağları—dinler, ulus-devletler, ekonomik sistemler—genellikle kurgular üzerine inşa edilmiştir. İnternet çağında, bilginin serbest dolaşımıyla, hakikatin baskın çıkacağı umuluyordu. Ama tam tersi oldu: Yalanlar, komplo teorileri ve yanılsamalar, hakikatten çok daha hızlı yayıldı. Bunun nedeni, hakikatin genellikle sıkıcı ve karmaşık olması, kurguların ise basit ve duygusal olarak çekici olmasıdır. Bu yüzden, hakikati aramak için bilinçli bir çaba gerekir—aksi takdirde, bilgi seli içinde kaybolur.

SORU: Sizi “tekillik karşıtı” olarak nitelendirenler var, ama yeni kitabınızda yapay zekanın insanlardan daha yaratıcı olduğunu ve duygusal zekada da üstün olduğunu söylüyorsunuz. Özellikle şu ifadeniz beni etkiledi: “Tüm bu devrimlerin kökeni bilgisayarın kendisidir; internet ve yapay zeka yalnızca onun türevleridir.” WIRED olarak yakın zamanda kuantum bilgisayarlar üzerine bir seri yayımladık. Eğer gelecekte kuantum bilgisayarlarla hesaplama gücünde büyük bir sıçrama yaşanırsa, sizce tekillik—yani süper zekanın dünya düzenini yeniden şekillendirmesi—kaçınılmaz mı olur?

Yuval Noah Harari: Bu, tekilliği nasıl tanımladığınıza bağlı. Benim anladığım şekliyle tekillik, artık dışarıda neler olup bittiğini anlamadığımız noktadır. Hayal gücümüzün ve anlayışımızın yetişemediği bir eşiktir. Ve biz bu noktaya çok yakın olabiliriz. Kuantum bilgisayara veya tam anlamıyla yapay genel zekaya—yani insan yetenekleriyle rekabet edebilecek bir yapay zekaya—ihtiyacımız bile olmayabilir. Bugün mevcut olan yapay zeka seviyesi bile bunu başarmaya yeterli olabilir. Tekillik, mutlaka bir süper zekanın her şeyi kontrol ettiği bir bilim kurgu senaryosu anlamına gelmez. Daha çok, sistemlerin o kadar karmaşık ve hızlı hale gelmesi ki, bizim onları anlamlandırma veya kontrol etme kapasitemizi aşmasıdır. Örneğin, finansal piyasaları veya sosyal medya algoritmalarını düşünün—zaten birçok insan bu sistemlerin nasıl çalıştığını tam olarak kavrayamıyor. Kuantum bilgisayarlar bu süreci hızlandırabilir, ama bence asıl mesele, zaten sahip olduğumuz teknolojinin öngörülemez sonuçlar doğurmaya başlamış olması.

Harari: Kendimizi Kandırma Eğilimimiz Yapay Zeka Elinde Bir Silaha Dönüşebilir!

SORU: Kitabınızda, “İnsanlar kendilerini kandırmakta çok iyidir” diyorsunuz ve bunun yapay zekanın yükselişiyle daha da tehlikeli hale gelebileceğini öne sürüyorsunuz. İnsanların kendilerini kandırma eğiliminin yapay zeka çağında nasıl bir rol oynayacağını düşünüyorsunuz?

Yuval Noah Harari: Kendimizi kandırma yeteneğimiz, insanlığın hem en büyük gücü hem de en büyük zayıflığıdır. Tarih boyunca, hayali hikayeler—dinler, ideolojiler, ulusal mitler—yaratarak milyonlarca insanı bir araya getirdik ve bu bize muazzam bir güç verdi. Ama şimdi, yapay zeka bu yeteneğimizi ele geçiriyor. Yapay zeka, bizim gibi organik bir bilinçten değil, tamamen farklı bir mantıkla işliyor. Ve bu, bizim kurgular yaratma tekelimizi tehdit ediyor. Örneğin, yapay zeka sahte haberler, derin sahte videolar veya tamamen yeni ideolojiler üretebilir ve bunları insanlara o kadar inandırıcı bir şekilde sunabilir ki, biz farkına bile varmadan bu hikayelere inanırız. Kendimizi kandırma eğilimimiz, yapay zekanın elinde bir silaha dönüşebilir—çünkü yapay zeka, bizim duygusal zayıflıklarımızı ve bilişsel önyargılarımızı bizden daha iyi anlayabilir ve bunları manipüle edebilir.

SORU: Demokrasiyi yapay zekadan koruma umuduna dair ne düşünüyorsunuz? Örneğin, ABD’de geçtiğimiz Kasım ayındaki başkanlık seçimlerinden bu yana, popülizm ve yapay zekanın tetiklediği bir tekno-faşizm dalgası gözlemleniyor. Bu konuda umutlu musunuz, yoksa karamsar mısınız?

Yuval Noah Harari: Ne tamamen umutluyum ne de tamamen karamsarım—gerçekçiyim. Demokrasi, tarihsel olarak, bilgiyi dağıtma ve işleme kapasitesine dayanıyordu. 20. yüzyılda, totaliter rejimler tüm bilgiyi tek bir merkezde toplamanın imkansızlığı yüzünden çöktü—insanlar bu kadar veriyi etkili bir şekilde işleyemezdi. Ama yapay zeka bu denklemi değiştiriyor. Artık bir sistem, devasa miktarda veriyi toplayıp analiz edebilir ve bu, gücü merkezileştirmeyi çok daha kolay hale getirir. Tekno-faşizm tehlikesi burada yatıyor: Yapay zeka, populist liderlerin veya otoriter rejimlerin elinde, insanları manipüle etmek ve kontrol etmek için kullanılabilir. Öte yandan, yapay zeka demokrasiyi güçlendirmek için de kullanılabilir—eğer doğru şekilde düzenlenirse. Örneğin, vatandaşların katılımını artırmak, karar alma süreçlerini şeffaflaştırmak veya dezenformasyonla mücadele etmek için araçlar geliştirilebilir. Ama bu, kendiliğinden olmayacak. Bilinçli bir çaba ve küresel iş birliği gerektiriyor ki, şu anki politik iklimde bu çok zor görünüyor.

Harari: Yapay Zeka Kendi Hatalarını Düzeltebilmeli

SORU: Son olarak, yapay zekanın kendi kendini düzelten mekanizmalarına ihtiyacımız olduğunu söylüyorsunuz. Bu ne anlama geliyor ve bunu nasıl başarabiliriz?

Yuval Noah Harari: Yapay zekanın kendi kendini düzelten mekanizmalarına ihtiyacımız var, çünkü bu sistemler artık otonom kararlar alıyor ve bu kararların sonuçları bizim kontrolümüzü aşabilir. Kendi kendini düzeltme derken şunu kastediyorum: Yapay zeka, kendi hatalarını tespit edip düzeltebilmeli ve bunu insan müdahalesine ihtiyaç duymadan yapabilmeli. Örneğin, bir yapay zeka algoritması yanlış bir finansal tahmin yaparsa veya bir sosyal medya platformunda zararlı içeriği teşvik ederse, bunu fark edip kendini yeniden ayarlayabilmeli. Şu anda çoğu yapay zeka sistemi, “kara kutu” gibi çalışıyor—içinde neler olup bittiğini tam olarak anlamıyoruz. Bunu değiştirmek için, yapay zekanın şeffaf ve hesap verebilir olmasını sağlamalıyız. Ama bu teknik bir mesele olduğu kadar politik bir mesele. Büyük teknoloji şirketleri ve hükümetler, bu tür mekanizmaların geliştirilmesine yatırım yapmalı ve bunları zorunlu kılmalı. Aksi takdirde, yapay zeka kontrol edilemez bir güç haline gelebilir ve bu, hepimiz için felaket olur.

Dijitaliyidir’in notu: Yuval Noah Harari, 30 Mart 2023’te “Yapay Zeka’yı Durdurun” başlıklı imza kampanyasına imza atmıştı.

Bu söyleşi WIRED tarafından, WIRED stüdyolarında gerçekleştirilmiş ve ilk olarak WIRED web sitesinde yayımlanmıştır.

Derleyen: Okan Köroğlu