Yapay zekânın hızını belirlemek yalnızca şirketlerin vereceği bir karar değil. Çünkü şirketler aynı anda hem güvenlik sözü veriyor hem de daha güçlü modeller, daha büyük veri merkezleri ve daha geniş pazarlar için yarışıyor. Bir teknoloji toplumun kararlarını, güvenliğini ve ekonomisini etkileyecek kadar güçleniyorsa, frene kimin basacağı sorusu da kamusal bir meseleye dönüşüyor.
Şirket sözü yeter mi?
Yapay zekâ şirketleri son yıllarda çok sayıda güvenlik ilkesi, sorumlu kullanım taahhüdü ve model davranış kuralı yayımladı. Bu belgeler önemsiz değil. Şirketlerin kendi sistemlerinin ne tür riskler taşıdığını açıkça konuşması, birkaç yıl önceye göre daha şeffaf bir tartışma ortamı yaratıyor.
Ama bir taahhüt ile bağlayıcı bir kural aynı şey değil.
Taahhüt, şirketin kendi belirlediği çerçevede hareket etmesidir. Kural ise şirketin dışında belirlenir; uyulmadığında denetlenir ve ihlal edildiğinde sonuç doğurur.
Bu fark, yapay zekâ yarışında daha da önemli hale geliyor. Bir şirket yeni bir modelin bazı riskleri olduğunu kabul edebilir. Fakat aynı modelin piyasaya çıkması, yatırımcı beklentisi, rakip baskısı ve pazar payı açısından da büyük değer taşıyabilir.
Şirketin içinde çalışan güvenlik ekibi risk görse bile son kararı tek başına vermeyebilir. Ürün ekipleri, yatırımcılar, yöneticiler ve pazarlama stratejisi de bu kararın parçası olur.
Bu nedenle “Şirketler kendilerini denetlesin” önerisi tek başına yeterli görünmüyor.
Bankalar yalnızca kendi risk ekiplerinin raporuyla çalışmaz. İlaç şirketleri bir ilacın güvenli olduğunu kendileri söylemekle yetinmez. Uçak üreticileri kendi uçaklarını kendi beyanlarıyla gökyüzüne çıkaramaz.
Yapay zekâ sistemleri toplum üzerinde benzer ölçekte sonuç doğurabilecek hale geliyorsa, denetim modelinin de şirket sınırlarının dışına çıkması gerekir.
Bağımsız denetim ne anlama gelir?
Bağımsız denetim, şirketin yalnızca “Bize güvenin” demesi yerine, dışarıdan uzmanların sistemi ve şirketin güvenlik süreçlerini incelemesi demek.
Bu uzmanların görevi, modelin ne kadar etkileyici olduğunu görmek değil. Modelin nerede kırılabileceğini, hangi koşullarda kontrol dışına çıkabileceğini ve şirketin kendi güvenlik kurallarına gerçekten uyup uymadığını bulmak.
İyi bir denetim sistemi şunları sorar:
- Model hangi riskli kabiliyetlere sahip?
- Bu kabiliyetler nasıl test edildi?
- Testleri kim yaptı?
- Şirket hangi sonuçları kamuoyuyla paylaştı?
- Bir güvenlik olayı yaşandığında ne olacak?
- Sistem gerektiğinde durdurulabiliyor mu?
- Şirket, kendi belirlediği güvenlik eşiğini geçtiğinde gerçekten yavaşlıyor mu?
Bu soruların yanıtı yalnızca teknik ayrıntı değildir. Çünkü yapay zekâ sistemleri artık yalnızca teknoloji çalışanlarını etkilemiyor. İşe alım süreçlerinden kredi değerlendirmelerine, eğitimden sağlık hizmetlerine, haber akışından kamu hizmetlerine kadar birçok alanda kararları etkileyebiliyor.
Bağımsız denetim, “AI hiç hata yapmasın” hedefi değildir. Böyle bir hedef gerçekçi olmaz.
Ama denetim, hata olduğunda bunun görünür olmasını, zarar büyümeden müdahale edilmesini ve şirketlerin güvenliği yalnızca kriz yaşandığında hatırlamamasını sağlayabilir.
“Kill switch” gerçekten mümkün mü?
Son haftalarda bu tartışmaya yeni bir ifade eklendi: “AI kill switch”, yani acil kapatma mekanizması.
Bu ifade kulağa bilimkurgu filmi gibi gelebilir. Ancak temel fikir oldukça basit: Çok güçlü bir sistem ciddi risk üretmeye başlarsa, onu hızlı biçimde durduracak doğrulanabilir bir yöntem var mı?
Bir fabrikada acil durdurma düğmesi bulunur. Bir tren sisteminde acil fren vardır. Kritik altyapılarda bir sorun yaşandığında sistemi güvenli moda alma prosedürleri uygulanır.
AI için benzer bir mekanizma kurmak daha zor olabilir. Çünkü yapay zekâ tek bir makine değildir. Aynı model farklı veri merkezlerinde çalışabilir, farklı ürünlere entegre edilmiş olabilir ve binlerce kullanıcının sistemine bağlanmış olabilir.
Bu nedenle “kill switch” denince tek bir kırmızı düğme hayal etmek yanıltıcı olur.
Asıl soru şudur: Bir ileri AI sistemi beklenmedik veya tehlikeli davranış gösterdiğinde, şirket ve kamu kurumları hangi erişimi, hangi yetkiyle ve ne kadar hızlı kullanarak sistemi sınırlayabilir?
California Valisi Gavin Newsom, 18 Eylül’de imzaladığı yürütme emriyle bu soruyu resmî gündeme taşıdı. Emir, ileri AI sistemleri için olası bir acil durdurma mekanizmasının nasıl çalışabileceğinin araştırılmasını, AI şirketlerinde bağımsız güvenlik gözetiminin hızlandırılmasını ve güvenlik olaylarının daha geniş biçimde raporlanmasını istiyor.usatoday+2
Bu, California’da bugün bütün AI şirketleri için zorunlu bir kapatma düğmesi getirildiği anlamına gelmiyor. Emir, uzmanlardan iki ay içinde öneri hazırlamasını istiyor. Ancak tartışmanın yönünü gösteriyor: AI güvenliği artık yalnızca “model kötü cevap verir mi?” düzeyinde konuşulmuyor. Sistem ciddi bir risk üretirse, kimin neyi kapatabileceği de konuşuluyor.
Frene basmak kimin yetkisi?
Bu noktada üç farklı aktör var.
İlki şirketler. Kendi modellerini en iyi tanıyan taraf onlar. Bir sistemde sorun gördüklerinde yayını durdurabilecek, erişimi sınırlayabilecek veya özelliği geri çekebilecek teknik kapasiteye sahipler.
İkincisi bağımsız denetçiler. Şirketin kendi değerlendirmesinin yeterli olup olmadığını sorgulayabilir, güvenlik iddialarını test edebilir ve kamuoyuna daha güvenilir bilgi sağlayabilirler.
Üçüncüsü devletler. Devletin rolü, her teknik kararı kendisinin vermesi değil; hangi risk seviyesinde hangi denetimin zorunlu olacağını, hangi bilgilerin açıklanacağını ve hangi olayların raporlanacağını belirlemektir.
Bu üçü olmadan sistem eksik kalır.
Yalnızca şirketler karar verirse, ticari baskı güvenliğin önüne geçebilir.
Yalnızca devletler karar verirse, teknik hız ve uzmanlık eksik kalabilir.
Yalnızca denetçiler karar verirse, bağlayıcı yaptırım gücü olmayabilir.
İyi bir model, şirketin teknik kapasitesini, bağımsız denetimin eleştirel gücünü ve kamunun kural koyma yetkisini birlikte kullanmak zorunda.
Türkiye ne yapmalı?
Türkiye, yapay zekâ yarışının en büyük model laboratuvarlarının merkezi değil. Ancak bu, tartışmanın dışında olduğu anlamına gelmiyor.
Türkiye’deki kamu kurumları, şirketler, üniversiteler ve vatandaşlar küresel AI ürünlerini kullanıyor. Bu ürünler eğitimde, bankacılıkta, e-ticarette, müşteri hizmetlerinde, medya sektöründe, sağlıkta ve kamu hizmetlerinde daha fazla yer alacak.
Türkiye’nin 18 Ağustos 2026’da yayımlanan 2026–2030 Yapay Zekâ Eylem Planı da güvenli AI geliştirme ve kullanma hedefini; uluslararası işbirliği, kurumsal kapasite ve güvenilir model uygulamalarıyla ilişkilendiriyor.cms
Bu hedefin somutlaşması için birkaç soru sorulmalı:
- Türkiye’de yüksek etkili kararlar alan AI sistemleri hangi bağımsız testlerden geçecek?
- İşe alım, kredi, sigorta, eğitim veya sağlık alanında kullanılan modellerin hataları nasıl denetlenecek?
- Vatandaş, bir kararın AI tarafından etkilenip etkilenmediğini nasıl öğrenebilecek?
- Şirketler hangi güvenlik olaylarını bildirmek zorunda olacak?
- Üniversiteler ve sivil toplum, şirketlerin dışında teknik denetim yapabilecek kapasiteye sahip olacak mı?
- Türkiye, AI güvenliği konusunda yalnızca ithal kuralları uygulayan bir ülke mi olacak; yoksa kendi denetim standartlarını geliştirecek mi?
Bu soruların yanıtı yalnızca hukuk metinlerinde değil, kurumların teknik kapasitesinde de saklı.
AI düzenlemesi, yalnızca “yasaklayalım mı, serbest bırakalım mı?” ikiliğine sıkışmamalı. Asıl mesele, hangi sistemin hangi alanda ne kadar etkili olduğu; hata yaptığında kimin sorumlu olacağı ve vatandaşın hangi haklara sahip olacağı.
Kullanıcının payı nerede?
Kullanıcılar, ileri AI modellerinin eğitim hızını tek başına belirleyemez. Bir şirketin veri merkezi yatırımını durduramaz. Küresel rekabetin yönünü değiştiremez.
Ama kullanıcıların tamamen etkisiz olduğu da söylenemez.
Bir kurumun AI kullanıp kullanmadığını sormak, otomatik kararın nasıl verildiğini öğrenmek, yanlış bir AI değerlendirmesine itiraz etmek ve kişisel verilerin nasıl işlendiğini sorgulamak giderek daha önemli hale gelecek.
Özellikle işe alım, kredi, sigorta, eğitim ve sağlık gibi alanlarda “Bu kararda yapay zekâ kullanıldı mı?” sorusu sıradanlaşmalı.
Şirketler de kullanıcıyı yalnızca bir test verisi ya da verimlilik hesabının parçası olarak görmemeli. Bir AI sisteminin “hızlı” olması, her zaman “adil”, “güvenli” veya “açıklanabilir” olduğu anlamına gelmez.
Kullanıcı için en önemli kazanım, teknolojiyi tamamen reddetmek değil; teknoloji hakkında soru sorma hakkını korumaktır.
Geleceği durdurmak değil
“Yapay zekâyı frenlemek” sözü, çoğu zaman teknolojiden korkmak gibi anlaşılabiliyor.
Oysa fren, hareketi sona erdirmek için tasarlanmaz. Hareketin kontrolünü kaybetmemek için tasarlanır.
Bir aracı hiç durduramıyorsanız, hızlanması ilerleme sayılmaz. Bir sistemi güvenli biçimde yavaşlatamıyorsanız, onu gerçekten yönettiğinizi de söyleyemezsiniz.
Yapay zekâ için de mesele bu.
Daha güçlü sistemler geliştirilebilir. Yeni bilimsel araçlar üretilebilir. Eğitim, sağlık, erişilebilirlik ve araştırma alanlarında gerçek faydalar sağlanabilir.
Ama bunların gerçekleşmesi için güvenliğin ürün tanıtımından sonra gelen bir ek değil, geliştirme sürecinin temel parçası olması gerekir.
Bu dosyanın başındaki soruya dönelim: Frene kim basacak?
Cevap tek bir şirket, tek bir devlet ya da tek bir düğme değil.
Şirketler riskleri açıkça tanımalı.
Bağımsız uzmanlar bu riskleri test edebilmeli.
Devletler ortak ve uygulanabilir kurallar koymalı.
Kullanıcılar da kendilerini etkileyen sistemler hakkında hesap sorabilmeli.
Yapay zekâyı frenlemek, geleceği durdurmak değil. Geleceğin bize çarpmadan önce kurallarını koymak.
Bu yazı için araştırılan ve yararlanılan kaynaklar
- California Governor’s Office, “Governor Newsom issues executive order to accelerate independent oversight and advance the creation of an AI kill switch”, 18 Eylül 2026
https://www.gov.ca.gov/2026/09/18/governor-newsom-issues-executive-order-to-accelerate-independent-oversight-and-advance-the-creation-of-an-ai-kill-switch/ - USA Today, “California governor proposes AI ‘kill switch’ amid fears of rogue tech”, 18 Eylül 2026
https://www.usatoday.com/story/news/politics/2026/09/18/newsom-advances-ai-kill-switch-amid-rogue-ai-fears-in-california/91827664007/ - NBC News, “California Gov. Gavin Newsom inks AI oversight executive order to explore possible ‘kill switch’”, 18 Eylül 2026
https://www.nbcnews.com/politics/elections/california-gavin-newsom-ai-order-safety-regulations-kill-switch-rcna598570 - California Digital Democracy, SB 813 and AB 1405 AI oversight framework
https://calmatters.digitaldemocracy.org/ - CMS, “Türkiye unveils new AI Action Plan”, 10 Eylül 2026
https://cms.law/en/tur/legal-updates/turkiye-unveils-new-ai-action-plan
Günde sadece 1 TL'ye abone olarak tüm içeriklerimize sınırsız erişebilir ve bağımsız haberciliğe destek olabilirsiniz! Hemen Abone Ol
