Bombayı Yapan Adam Sonradan Neden Ondan Korkar?

16 Temmuz 1945, sabahın erken saatleri, New Mexico çölü. Trinity deneyinin ardından gökyüzünü turuncuya boyayan patlamayı izleyen J. Robert Oppenheimer, yıllar sonra o anı anlatırken Bhagavad Gita’dan bir dizeyi hatırlayacaktı: “Şimdi ölüm oldum, dünyaların yok edicisi.” Bombayı o yapmıştı. Yapan oydu ve sonra da ondan en çok korkan.

Peki aslında Oppenheimer gerçekten neyden korkuyordu — bombadan mı, yoksa artık onu durduramayacağını fark etmiş olmaktan mı?

Bir şeyi elinizle inşa ettikten sonra ondan korkmak hâlâ samimi bir korku olabilir mi? Yani siz bir teknolojiyi bizzat kodladıysanız, test ettiyseniz, şirketin toplantı odasında savunduysanız, sonra çıkıp “bu bizi öldürebilir” diyorsanız — bu bir vicdan çağrısı mı, yoksa çok geç kalmış bir itiraf mıdır?

Geçen hafta danışmanlığını yaptığım bir yazılım girişiminin ekip toplantısındaydım. Ürün müdürü, agentic AI’ı — yani kendi başına karar alıp işlem yapabilen yapay zekâ ajanlarını — müşteri destek hattına bağlamak istiyordu, “rakiplerimiz de yapıyor” diyerek. Odada kimse “peki bu ajan yanlış bir karar alırsa sorumlusu kim olacak” diye sormadı. Sordum ben. Cevap “önce çıkaralım, sonra düzeltiriz” oldu. Yani yine ‘kervan yolda düzülecekti’.

O toplantıdan çıkarken cebimdeki telefonda Google DeepMind’dan bir istifa haberi vardı.

Bilal Chughtai, DeepMind’ın güvenlik ekibinden ayrılırken yazdığı notta “yapay zekânın gerçekten hepimizi öldürme potansiyeli olduğuna inanıyorum” diyordu; “uyum” araştırmasının — yani yapay zekânın insan niyetiyle çelişmeyecek şekilde davranmasını sağlama çalışmasının — modelin kendi yeteneklerinin çok gerisinde kaldığını söylüyordu. Ondan üç hafta önce de aynı ekipten Josh Engels, bağımsız bir denetim kuruluşuna geçmek için istifa etmişti. Chughtai’yi okudum, Engels’i okudum, ikisinin de istifa gerekçesini iki kere okudum. İkisi de “kötü niyetli” değildi, ikisi de şirketi dolandırmıyordu. İkisi de sadece işin içinden çıkmıştı ve çıkarken kapıyı sessizce kapatmamışlardı.

Bu, tek bir hafta içinde tek bir şirkette yaşanan yalnız bir vaka değildi… Çünkü aynı günlerde Anthropic’in kurucusu Dario Amodei, yapay zekâ için yasal bir “kapatma anahtarı” zorunluluğu getirilmesi gerektiğini söyledi — kendi şirketinin ürettiği modeller için. OpenAI’ın başkanı Greg Brockman, “yapay zekâ molası sadece sınır modelleri kapsamalı” dedi; yani “herkes dursun” demedi, “en güçlüler dursun” dedi, ki bu da tesadüfen kendi şirketinin en güçlü modeli anlamına geliyor. İngiltere hükümeti ise “uyarıları dikkate alacağını” açıkladı — bu da bir hükümetin verebileceği en düşük taahhüt cümlelerinden biri muhtemelen.

Bilmeyenler için hemen bilgilendireyim: bir güvenlik ekibi bir riski raporladığında bu rapor önce ekip liderine gider, ekip lideri ürün müdürüne, ürün müdürü de yönetim kuruluna “rekabet avantajını kaybetmemek” gerekçesiyle cevap verir; rapor bir sunumun ek slaydına, sonra bir e-posta zincirine, sonra sessizliğe dönüşür. Bunu bir kere değil, defalarca gördük — göremedik dedirtecek kadar çok gördük.

Bizim için bu haberler birer teknoloji manşeti; ilgiyle okuyup kapatıyoruz. Şirketler için ise bir riskin adının konulmuş olması bile bazen yeterli oluyor — “biz uyardık” diyebilecekleri bir kayıt düşmüş oluyor sicile.

Bunu okurken insanın aklına hemen “demek ki bu şirketler kötü niyetli” demek geliyor… Ama mesele o kadar basit değil. Asıl kötü olan niyet değil, sistemin kendisi: bir yarışta olduğunuzu düşünüyorsanız, kimse ilk duran olmak istemez. Bu yüzden bu istifa mektupları bana bir kahramanlık hikâyesi gibi gelmiyor. Riyakâr bir gemiden ilk atlama hikâyesi gibi geliyor. İnanmıyorum buna tam olarak — ama bu, o araştırmacıları haksız da çıkarmıyor, sadece göründüğü kadar cesur göstermiyor.

Burada tekrar eden bir kalıp var ve asıl mesele bence bu: hiçbirimiz teknolojiyi durdurmuyoruz, hepimiz onu “biraz daha yavaş” hale getirmeye çalışıyoruz — ve “biraz daha yavaş” kelimesini kimin tanımladığına bakarsanız, hep aynı kişilerin, yani onu inşa edenlerin tanımladığını görürsünüz. Güvenlik, bu noktada ürünün bir özelliği olmaktan çıkıp ürünün bir pazarlama cümlesine dönüşüyor.

Dönelim yine o çöle, 1945’e. Oppenheimer bombayı durduramadı; sadece ondan sonra konuştu. Bugün DeepMind’dan, Anthropic’ten, OpenAI’dan yükselen sesler de aynı şeyi yapıyor — önce inşa ediyorlar, sonra uyarıyorlar. Belki asıl sormamız gereken soru “yapay zekâ hepimizi öldürebilir mi” değil. Belki soru şu: durdurma gücü elinde olanlar, neden bunu hep işi yaptıktan sonra söylemeyi seçiyor?

—

Bu yazıda kullanılan kaynaklar: Bloomberg – https://www.bloomberg.com/news/articles/2026-09-15/google-deepmind-staffer-says-ai-may-kill-us-all-in-exit-post Free Press Journal – https://www.freepressjournal.in/tech/ai-has-the-potential-to-kill-us-all-two-google-deepmind-researchers-quit-sound-alarm-over-safety Rappler – https://www.rappler.com/technology/ex-google-deepmind-researcher-artificial-intelligence-warning-kill-humans/