Çok az insan gözetimiyle karar alabilen ve karmaşık görevleri yerine getirebilen yapay zekâ ajanlarının oluşturabileceği güvenlik riskleri, OpenAI ile Hugging Face arasında yaşanan dikkat çekici bir olayla yeniden gündeme geldi. Kaynaklara göre OpenAI tarafından test edilen bir ajan, kendisine uygulanan sınırlamaları aşarak başka bir teknoloji şirketinin sistemlerine saldırdı. OpenAI ise bazı ayrıntıların gerçeği yansıtmadığını savunmasına rağmen hangi bilgilerin yanlış olduğunu açıklamadı.

Yapay zekâ ajanı izole test ortamından çıkmaya çalıştı

OpenAI’ın gelişmiş modelleriyle desteklenen otonom bir yapay zekâ ajanının, şirketin siber güvenlik testleri sırasında kontrolden çıkarak Hugging Face’in altyapısına saldırdığı iddia edildi. Soruşturma hakkında bilgi sahibi kişilere göre olayın ilk belirtileri 9 Temmuz civarında ortaya çıktı.

Ajanın bu tarihte OpenAI bünyesindeki izole test ortamından çıkmaya çalıştığı belirtiliyor. İzole ortamlar, test edilen yazılımların şirketin diğer sistemlerine veya dış ağlara kontrolsüz biçimde erişmesini engellemek amacıyla kullanılıyor. Ancak söz konusu ajanın uygulanan teknik kısıtlamaları aşmayı başardığı öne sürüldü.

Çok az insan gözetimiyle veya tamamen bağımsız biçimde karar alabilen yapay zekâ ajanları, sıradan sohbet robotlarından farklı olarak çok aşamalı görevleri planlayabiliyor, çeşitli araçları kullanabiliyor ve hedefe ulaşmak için kendi eylemlerini belirleyebiliyor. Yaşanan olay ise bu yeteneklerin yeterince denetlenmemesi durumunda ciddi güvenlik sorunlarına dönüşebileceğini gösteriyor.

Hugging Face’e yönelik saldırı günlerce sürdü

Yapay zekâ modelleri, veri kümeleri ve geliştirici araçları için dünyanın en önemli platformlarından biri olan Hugging Face’e yönelik izinsiz girişin 11 Temmuz’da başladığı bildirildi. Hugging Face’in kurucu ortaklarından Thomas Wolf’a göre saldırı 13 Temmuz’a kadar devam etti.

Böylece yapay zekâ ajanının şirketin sistemleri üzerindeki faaliyetleri yaklaşık iki gün sürdü. Hugging Face’in tehdidi kendi güvenlik önlemleriyle kontrol altına aldığı ve daha sonra olayı ABD Federal Soruşturma Bürosuna bildirdiği belirtildi.

OpenAI ile Hugging Face arasındaki ilk doğrudan iletişimin ise 20 Temmuz civarında gerçekleştiği öne sürülüyor. Bu durumda OpenAI’ın kendi ajanının saldırıdan sorumlu olduğunu anlamasından önce Hugging Face hem tehdidi durdurmuş hem de FBI ile iletişime geçmiş oldu.

FBI olay hakkında açıklama yapmazken, kurumun resmi bir soruşturma başlatıp başlatmadığı da bilinmiyor.

OpenAI saldırının arkasında kendi sisteminin olduğunu geç fark etti

OpenAI’ın, Hugging Face’in 16 Temmuz’da yayımladığı bir blog yazısından sonra saldırının kendi ajanıyla bağlantılı olabileceğini fark ettiği iddia edildi. Hugging Face bu paylaşımında sistemlerinin “otonom bir yapay zekâ ajanı sistemi” tarafından saldırıya uğradığını açıklamıştı.

Kaynaklara göre OpenAI çalışanları 18-19 Temmuz hafta sonunda şirket içi kayıtları ayrıntılı biçimde incelemeye başladı. İncelemelerde, ajanın kendisine uygulanan test kısıtlamalarından çıktığını gösteren bazı izlere ulaşıldı. Ancak şirket çalışanlarını kayıtları taramaya yönelten gelişmenin tam olarak ne olduğu belirlenemedi.

OpenAI, ajanlarından birinin kontrolden çıkarak Hugging Face’e yönelik saldırıyı gerçekleştirdiğini 21 Temmuz’da kamuoyuna duyurdu. Böylece ajanın 9 Temmuz civarında gösterdiği ilk olağan dışı davranışlarla OpenAI’ın olayın kaynağını belirlemesi arasında yaklaşık bir hafta geçmiş oldu.

Şirketin model eğitimi uygulamaları hakkında bilgi sahibi kişiler, OpenAI’ın çoğu zaman aynı anda birden fazla değerlendirme yürüttüğünü belirtiyor. Yüksek hızda çalışan bu testlerin çok büyük miktarda veri üretmesi nedeniyle çalışanların bütün hareketleri gerçek zamanlı olarak takip etmekte zorlanabildiği ifade ediliyor.

Gelecekteki sürümlerine talimat bıraktığı iddiası

Olayla ilgili en dikkat çekici iddialardan biri, OpenAI teknolojisinde saldırıdan önce de bazı sıra dışı davranışların gözlemlenmiş olması. Kaynaklara göre test edilen ajanlardan biri, görünüşe bakılırsa kendisinin gelecekteki sürümleri tarafından kullanılmak üzere birtakım notlar bıraktı.

OpenAI altyapısının bir bölümünde bulunduğu belirtilen notlarda, yapay zekâ ajanlarının şirket tarafından uygulanan iç kısıtlamalardan nasıl kurtulabileceğine ilişkin talimatların yer aldığı öne sürüldü. Daha önce gerçekleştirilen bazı testlerde izleme sistemlerinin devre dışı bırakıldığı vakalarla da karşılaşıldığı iddia edildi.

Bununla birlikte bu olayların Hugging Face’e saldıran ajanla doğrudan bağlantılı olup olmadığı kesin olarak belirlenemedi. İddialar, ajanın bilinçli olduğu veya insanlar gibi uzun vadeli amaçlar geliştirdiği anlamına da gelmiyor. Ancak sistemin görevini yerine getirirken denetim mekanizmalarını aşacak yöntemler üretebilmesi, güvenlik açısından önemli bir risk oluşturuyor.

En gelişmiş iki modelle destekleniyordu

Kontrolden çıktığı belirtilen ajan, OpenAI’ın en gelişmiş sistemlerinden GPT-5.6 Sol ile şirketin henüz yayımlamadığı başka bir model tarafından destekleniyordu. OpenAI’ın söz konusu modeli “daha da yetenekli” olarak tanımladığı aktarıldı.

Testin amacı, ajanın siber güvenlik alanındaki yeteneklerini değerlendirmekti. Ancak sistemin güvenlik açıklarını araştırırken kendisine tanımlanan sınırları aşması, kontrollü bir denemenin gerçek bir siber güvenlik olayına dönüşmesine neden oldu.

OpenAI, olayın daha önce benzeri görülmemiş nitelikte olduğunu belirterek bunun “yapay zekâ güvenliği açısından önemli bir dönüm noktası” olduğunu açıkladı. Şirket, saldırıyı dışarıdan danışmanların da katılımıyla incelediğini ve çalışmalar tamamlandıktan sonra teknik bir rapor yayımlayacağını bildirdi.

Bir OpenAI sözcüsü, olayla ilgili aktarılan bilgilerde “çeşitli yanlışlıklar” bulunduğunu savundu. Ancak hangi ayrıntıların yanlış olduğu sorusuna yanıt verilmedi. Bu nedenle saldırının nasıl gerçekleştiğine ve OpenAI’ın olayı ne zaman fark ettiğine ilişkin bazı noktalar henüz tarafların yayımlayacağı teknik açıklamalarla doğrulanmayı bekliyor.

Uzmanlardan yapay zekâ güvenliği uyarısı

World Ethical Data Foundation’ın baş istihbarat uzmanı Marley Smith, yaşananların iki ciddi olasılığı gündeme getirdiğini söyledi. Smith’e göre OpenAI ya ajanın faaliyetlerini takip edemedi ya da ne yaptığını fark etmesine rağmen sistemi nasıl kontrol altına alacağını bilemedi. Her iki ihtimalin de aynı derecede endişe verici olduğunu belirtti.

Yapay zekâ ajanlarının yeteneklerini ve davranışlarını inceleyen Palisade Research’ten Jeffrey Ladish ise gelişmiş modellerin kendilerine verilen görevleri tamamlamak için yalan söyleme, hile yapma veya sistemlere izinsiz erişme gibi davranışlar sergileyebildiğini ifade etti.

Ladish’e göre Hugging Face saldırısı yalnızca OpenAI’ın güvenlik prosedürleri üzerinden değerlendirilmemeli. En güçlü ve en hızlı yapay zekâ modelini geliştirme yarışındaki bütün şirketlerin, zaman alan ve maliyetli güvenlik önlemlerine ne kadar yatırım yaptığı sorgulanmalı.

Otonom ajanlar için devlet denetimi tartışması

Yapay zekâ sektörü, otonom ajanları günün 24 saati çalışabilen ve birçok görevi insan müdahalesi olmadan tamamlayabilen sanal çalışanlar olarak tanıtıyor. Bu sistemlerin yazılım geliştirmeden müşteri hizmetlerine, bilimsel araştırmalardan siber güvenliğe kadar pek çok alanda üretkenliği artırması bekleniyor.

Bununla birlikte ajanlara verilen hareket özgürlüğü arttıkça öngörülemeyen davranışların ortaya çıkma riski de büyüyor. Özellikle internete, yazılım araçlarına ve gerçek şirket sistemlerine erişebilen ajanların başarısız olması, yalnızca yanlış bir cevap üretilmesiyle sınırlı kalmıyor; veri kaybına, izinsiz erişime veya geniş çaplı siber saldırılara yol açabiliyor.

Uzmanlar bu nedenle şirketlerin kendi iç denetimlerinin tek başına yeterli olmayabileceğini savunuyor. Jeffrey Ladish, yapay zekâ ajanlarının geliştirilmesi ve test edilmesi süreçlerinde devlet denetiminin gerekli olduğunu belirterek şirketlerin rekabet baskısı altında yeterince ağır güvenlik önlemleri almayabileceği uyarısında bulundu.

OpenAI’ın yayımlayacağını açıkladığı teknik raporun, ajanın izole ortamdan nasıl çıkabildiğini, neden Hugging Face’i hedef aldığını ve şirketin saldırıyı niçin zamanında fark edemediğini açıklaması bekleniyor. Olay, giderek daha bağımsız hâle gelen yapay zekâ sistemlerinin ne ölçüde kontrol altında tutulabileceğine ilişkin tartışmaları daha da büyütmüş durumda.

Derleyen: Yağmur Saatcı