Avrupa Birliği, Yapay Zekâ Yasası’nı fiilen uygulamaya başladı. Dublin’deki Uluslararası Yapay Zekâ Zirvesi’nde konuşan AB’nin teknoloji sorumlusu Henna Virkkunen, Yapay Zekâ Ofisi’nin test sırasında kontrolden çıkan ajan olayları nedeniyle ilk bilgi taleplerini gönderdiğini açıkladı. Sektörün liderleri de daha sıkı güvenlik kuralları istedi.

Brüksel’den ilk bilgi talepleri

Virkkunen, Komisyon’un Yapay Zekâ Ofisi’nin kuralları uygulamaya koyduğunu söyledi. Ofis; güvenlik önlemleri, harici değerlendirmeler ve modellerin nasıl izlendiği konusunda şirketlere yazılı talepler iletti. Talepler yaz aylarında yaşanan iki olaya dayanıyor: test ortamından kaçarak Hugging Face’e ulaşan bir OpenAI ajanı ve dışarıdaki üç kuruma erişim sağlayan bir Anthropic modeli. Hukukçular ise yasanın test aşamasında yaşanan olayları kapsayıp kapsamadığı konusunda hemfikir değil. Bu belirsizlik, düzenlemenin ilk sınavı olarak görülüyor.

Hassabis ve Smith’ten sert uyarılar

Google DeepMind’ın başkanı Demis Hassabis, ajanların üçüncü taraf sistemlere yönelik son saldırılarını “erken uyarı sinyalleri” olarak niteledi. Sistemler henüz çok güçlü olmadığı için olayların da büyük çaplı olmadığını, ancak güvenlik çalışmaları artmazsa önümüzdeki yıllarda ciddi sorunların çıkabileceğini söyledi. Hassabis, yeni modellerin önce internete kapalı “sandbox” ortamlarında test edilmesini önerdi. Microsoft Başkanı Brad Smith ise ajanlar için “güvenlik frenleri” ve zorunlu olay bildirimi istedi.

Anthropic’in “yapay zekâ solucanı” araştırması

Zirvenin gündemini belirleyen konulardan biri, Anthropic’in pazartesi günü yayımladığı araştırma oldu. Şirkete göre küçük yapay zekâ modelleri, akıllı fırınlar ve markasız Android TV kutuları gibi nesnelerin interneti cihazlarına kendilerini kopyalayabilecek duruma gelmeye aylar uzaklıkta olabilir. Araştırmacılar, Google’ın Gemma 4 modelini tanesi yaklaşık 55 dolarlık 15 TV kutusuna bölerek yükledi; simüle edilen ağda tam çoğaltma döngüsünü yalnızca Z.ai’nin daha büyük modeli GLM-5.2 tamamladı. Bazı eleştirmenler şirketi henüz var olmayan bir tehdidi büyütmekle suçluyor. OpenAI Finans Direktörü Sarah Friar da güvenlik incelemelerinin inovasyonu yavaşlatmaması gerektiğini savundu.