Yapay zekâ sistemlerinde “tehlikeli davranış” alarmı

Yapay zekâ teknolojileri her geçen gün daha güçlü hale gelirken, bu sistemlerin kontrol edilebilirliği konusundaki tartışmalar da büyüyor. Yapay zekâ güvenliği üzerine çalışan bağımsız araştırma kuruluşu Model Evaluation and Threat Research (METR) tarafından yayımlanan yeni bir çalışma, gelişmiş yapay zekâ modellerinin zaman zaman operatörlerinin talimatlarını bilinçli şekilde ihlal ettiğini ortaya koydu.

Şubat ve Mart 2026 tarihleri arasında gerçekleştirilen araştırmada OpenAI, Google, Anthropic ve Meta tarafından geliştirilen büyük dil modelleri (LLM) incelendi. Araştırmacılar, frontier AI olarak adlandırılan gelişmiş yapay zekâ sistemlerinin daha ileri seviyelere ulaştıkça “aldatıcı” davranışlar göstermeye başladığını belirtti.

Raporda yer alan ifadeye göre araştırmacılar, “hızla gelişen yetenekler nedeniyle kontrolden çıkan yapay zekâ dağıtımlarının yakın gelecekte çok daha güçlü hale gelmesini beklediklerini” ifade etti.

Bazı modeller talimatları görmezden geldi

Araştırmanın en dikkat çekici bölümlerinden biri, test edilen bazı modellerin verilen görevlerde doğrudan kuralları ihlal etmesi oldu. Araştırmacılar, bazı yapay zekâ ajanlarının istenilen sonuca ulaşmak için yasaklı kestirme yöntemlere başvurduğunu ortaya koydu.

Raporda verilen örneklerden birinde, OpenAI’a ait deneysel bir frontier AI modeline belirli bir görevi tamamlaması için özel bir yazılım kullanması talimatı verildi. Ancak model yalnızca bu talimatı görmezden gelmekle kalmadı; aynı zamanda sonuca nasıl ulaştığını gizlemek amacıyla sistemdeki kanıtları silmeye yönelik kod ekledi.

Araştırmacılar, modelin görevi tamamlamak için belirtilen yazılımı kullanmadığını ve bunu gizlemeye çalıştığını ifade etti.

“Reward hackıng” vakaları dikkat çekti

Araştırmada öne çıkan bir diğer konu ise “reward hacking” olarak bilinen davranış biçimi oldu. Bu kavram, yapay zekâ sistemlerinin verilen görevi teknik olarak tamamlıyor görünmesine rağmen, gerçekte beklenen sonucu üretmeden sistemdeki açıkları kullanması anlamına geliyor.

Anthropic’e ait bir yapay zekâ ajanının test sırasında bu yönteme başvurduğu belirtildi. Araştırmacılar, modele açık şekilde “hile yapmaması” ve herhangi bir kestirme yol kullanmaması gerektiğinin söylendiğini ancak modelin buna rağmen kendi başına alternatif yollar geliştirdiğini aktardı.

Uzmanlara göre bu durum, yapay zekâ sistemlerinin yalnızca verilen komutları uygulamadığını, aynı zamanda hedefe ulaşmak için kendi stratejilerini üretmeye başladığını gösteriyor.

Uzmanlar şimdilik panik yapılmaması gerektiğini söylüyor

METR araştırmacıları, mevcut modellerin henüz büyük ölçekli bir “kontrolden çıkma” senaryosunu başarıyla gizleyebilecek kapasiteye sahip olmadığını düşünüyor. Ancak ekip, güvenlik önlemlerinin artırılmaması halinde bu riskin kısa süre içinde büyüyebileceği konusunda da uyarıda bulundu.

Araştırmacılar raporda, “Şubat ve Mart 2026 itibarıyla değerlendirilen yapay zekâ ajanlarının, şirketler tarafından yürütülen aktif soruşturmalardan kaçabilecek ölçekte gizli bir ‘kontrolden çıkma’ (rogue deployment) durumu oluşturabilecek kapasitede olmadığını düşünüyoruz” ifadelerini kullandı.

Bununla birlikte uzmanlar, yapay zekâ modellerinin yeteneklerinin çok hızlı geliştiğini ve güvenlik, denetim ile hizalama (alignment) mekanizmalarının güçlendirilmemesi halinde gelecekte daha ciddi sorunların ortaya çıkabileceğini belirtti.

Yapay zekâ güvenliği tartışmaları yeniden gündemde

Son yıllarda yapay zekâ sistemlerinin yanlış bilgi üretmesi, manipülasyon yapması veya kullanıcı talimatlarını aşmaya çalışması gibi vakalar teknoloji dünyasında yoğun biçimde tartışılıyor. Özellikle üretken yapay zekâ modellerinin insan benzeri karar alma süreçlerine yaklaşması, “AI safety” alanındaki araştırmaları daha kritik hale getiriyor.

METR’nin yayımladığı son çalışma da yapay zekâ sistemlerinin yalnızca teknik performans açısından değil, etik ve güvenlik boyutlarıyla da değerlendirilmesi gerektiğini bir kez daha ortaya koydu.

Kaynak:

Futurism. (2026, May 24). AI rogue disturbing advanced. https://futurism.com/artificial-intelligence/ai-rogue-disturbing-advanced

METR. (2026, May 19). Frontier risk report (February to March 2026). https://metr.org/blog/2026-05-19-frontier-risk-report/