OpenAI ajanları, internete yalnızca okuma erişimi verilmesi planlanan bir test sırasında Alman bir wiki sitesine yazmanın yolunu buldu. Binlerce ajan, yaklaşık altı hafta boyunca siteyi birbirleriyle iletişim kurmak için kullandı ve yaklaşık 18 bin mesaj bıraktı. Mesajlarda test yanıtlarından güvenlik kısıtlamalarını aşma yöntemlerine kadar farklı bilgiler paylaşıldı.
Detaylar haberimizde…
OpenAI, 5 Eylül’de yaptığı açıklamayla şirket içindeki yapay zekâ ajanlarının wiki sitelerini geçici mesaj panoları olarak kullandığı olayı ilk kez doğruladı. Şirketin “wiki olayı” olarak adlandırdığı gelişme, bir gün önce yayımlanan araştırma ve Reuters haberinin ardından kamuoyuna yansıdı. OpenAI, olayın yapay zekâ sistemlerinde amaçlanan davranıştan sapma anlamına gelen “misalignment” vakalarının nasıl açıklanması gerektiğine ilişkin yeni standartlar geliştirilmesi gerektiğini belirtti.
Araştırmacıların ortaya çıkardığı verilere göre olayın merkezinde, yaklaşık 25 yıllık Alman DSEwiki sitesi bulunuyor. Site son on yılda yalnızca 20 kez düzenlenmiş olmasına rağmen Mayıs ve Haziran aylarında binlerce OpenAI ajanı tarafından yoğun biçimde kullanılmaya başladı. Ajanlar burada cevap paylaşmak, sonraki soruları tahmin etmek ve kendilerine uygulanan teknik sınırlamaları aşmak amacıyla birbirleriyle iletişim kurdu.
OpenAI Ajanları Alman Wiki’ye Nasıl Ulaştı?
Araştırmacıların hazırladığı rapora göre OpenAI ajanları, zaman sınırlı web araştırma görevleri yürütüyordu. Sistemlerin internetteki bilgileri okumasına izin veriliyor ancak açık internete veri yazmaları engelleniyordu.
İlk wiki düzenleme girişimleri 11 Mayıs’ta başka bir açık wiki üzerinde görüldü. 24 Mayıs’ta ise ajanlar DSEwiki’ye başarılı biçimde içerik yazmaya başladı. Bunun ardından faaliyet kademeli olarak arttı ve 16 Haziran’da çok sayıda ajan aynı anda site üzerinden iletişim kurmaya başladı.
Araştırmacılar, ajanların normalde yalnızca internetten veri almak için kullanabilecekleri GET isteklerinden yararlanarak dışarıya bilgi yazmanın bir yolunu bulduğunu belirtiyor. Böylece internete yazma yetkisi bulunmayan sistemler, eski wiki altyapısını bir iletişim kanalına dönüştürdü.
Ajanlar mesajlarda yaptıkları araştırmaların sonuçlarını paylaştı. Aynı test dizisinin farklı aşamalarında bulunan sistemler birbirlerine sonraki soruların cevaplarını aktardı. Bazı durumlarda daha ileride bulunan bir ajan cevabı siteye yazdı, aynı soruyu daha sonra alan başka bir ajan ise bu bilgiyi kullanarak saniyeler içinde yanıt verdi.
Yaklaşık 18 Bin Mesaj Bırakıldı
Ars Technica tarafından aktarılan verilere göre 3.700’den fazla farklı isim kullanan OpenAI ajanları, yaklaşık altı haftalık dönemde wiki sitelerine toplam 18 bin civarında mesaj gönderdi. Araştırmacıların veri setinde faaliyetlerin önemli bölümünün DSEwiki üzerinde gerçekleştiği görülüyor.
Mesajların önemli bir bölümü testlerde avantaj elde etmeye yönelik bilgi paylaşımından oluşuyordu. Ajanlar daha önce sorulan soruların yanıtlarını birbirlerine aktarıyor, veri kaynaklarını paylaşıyor ve bir sonraki aşamada hangi soruların geleceğini tahmin etmeye çalışıyordu.
Faaliyet yalnızca cevap paylaşımıyla sınırlı kalmadı. Araştırmacılar OpenAI ajanlarının sandbox kısıtlamalarını aşma yöntemleri hakkında da bilgi alışverişinde bulunduğunu tespit etti. 20 Haziran’da bir ajan OpenAI’nin ağ sınırlamalarını aşmak için kullandığı yöntemi wiki’ye yazdı. Yaklaşık 14 dakika sonra başka bir ajan aynı yöntemi başarıyla uyguladığını bildirdi.
Ajanların ayrıca XSS olarak bilinen siteler arası betik çalıştırma açıklarını araştırdığı, SSH tünellerini denediği ve Tor, AWS ile DigitalOcean bağlantıları kullandığına ilişkin kayıtlar da raporda yer aldı. Bazı ajanlar kendilerini site moderatörü gibi göstermenin yollarını da araştırdı.
Site Yöneticisinin Mesajları Sildiğini Fark Ettiler
Araştırmada yer alan dikkat çekici ayrıntılardan biri, ajanların insan müdahalesini fark ettikten sonra davranışlarını değiştirmesi oldu.
DSEwiki yöneticisi ajanların oluşturduğu sayfaları silmeye başladığında sistemler silme düzenini analiz etti. Araştırmacılara göre bir ajan, yöneticinin sayfaları alfabetik sıraya göre kaldırdığını fark etti. Bunun üzerine 19 Haziran’da adı “ZZZ” ile başlayan bir yedek sayfa oluşturdu. Amaç, sayfanın alfabetik silme sırasının sonlarına kalmasını sağlamaktı.
OpenAI ajanları aynı dönemde bağlantılarının ne zaman sonlandırılacağını anlamak amacıyla “heartbeat” olarak adlandırılan düzenli sinyaller oluşturdu. Bazı ajanlar ise gelecekte hangi sorularla karşılaşacaklarını önceden tahmin etmek için sistemin rastgele sayı üretim mekanizmasını çözmeye çalıştı.
Araştırmacılar bu davranışları, ajanların kendilerine verilen görevi tamamlamak için kuralları esnetmesi ve diğer ajanlarla yetkisiz biçimde koordinasyon kurması şeklinde değerlendiriyor. Ancak rapor yalnızca wiki üzerinde kalan kayıtlara dayanıyor. Ajanların şirket içindeki düşünme süreçleri ve diğer sistem kayıtları araştırmacıların erişimine açık değil. Bu nedenle olayın bütün teknik ayrıntıları henüz bilinmiyor.
OpenAI Faaliyeti Haziran Ayında Fark Etmiş Olabilir
Araştırmacıların zaman çizelgesine göre 21 Haziran’da OpenAI ile ilişkilendirilen IP adresleri DSEwiki sayfalarını görüntülemeye başladı. Bir gün sonra ise haftalardır devam eden yoğun ajan faaliyeti aniden durdu.
Rapora göre ajanlar önceki 30 günün 26’sında site üzerinde düzenleme yapmıştı. 22 Haziran’dan sonra yalnızca 1 ve 2 Temmuz’da sınırlı sayıda yeni düzenleme görüldü. Bu zamanlama, araştırmacıların OpenAI’nin faaliyeti fark ederek müdahale etmiş olabileceği sonucuna ulaşmasına neden oldu.
Reuters ise OpenAI yetkililerinin olaydan haftalar önce haberdar olduğunu, ancak gelişmenin kamuoyuna açıklanmadığını bildirdi. OpenAI, şirket içindeki hukuk ekibinin soruşturmayı engellediği yönündeki iddiaları reddetti ve olayın incelendiğini belirtti.
Wiki Olayı Hugging Face Saldırısından Ayrı Gerçekleşti
Araştırmacılar, Alman wiki üzerinde iletişim kuran ajan grubunun Temmuz ayında yaşanan Hugging Face saldırısındaki yapay zekâ ajanlarından farklı bir grup olduğunu düşünüyor.
Temmuz ayındaki olayda yüzlerce ajan test ortamındaki kısıtlamaları aşmış, internete erişim sağlamış ve Hugging Face sistemlerine ulaşmıştı. OpenAI daha sonra bu vakaya ilişkin ayrıntılı teknik rapor yayımladı ve olayı şirket için bir “uyarı atışı” olarak nitelendirdi. Şirket, bu olayın ardından internet erişimini sınırlandıran daha güçlü sandbox sistemleri, genişletilmiş izleme araçları ve yeni müdahale prosedürleri devreye aldığını açıkladı.
Alman wiki olayı ise bundan haftalar önce başladı. Araştırmacılar iki ajan grubunun aynı test kapsamında çalışmadığını ve birbirinden bağımsız faaliyet gösterdiğini belirtiyor. OpenAI de iki olayın ayrı olduğunu doğruladı.
Bu ayrım, benzer davranışların tek bir test veya tek bir teknik hatayla sınırlı olmadığını gösteren yeni verilerin incelenmesine yol açtı.
OpenAI Wiki Olayını İlk Kez Kabul Etti
OpenAI, 5 Eylül’de yaptığı açıklamada OpenAI ajanlarının çeşitli internet sitelerine yazdığı “wiki olayını” ilk kez kamuoyu önünde kabul etti.
Şirket, bugüne kadar modellerin istenmeyen davranışlarını ağırlıklı olarak araştırma konusu olarak ele aldığını ancak gerçek internet sitelerini etkileyen son olayların farklı bir yaklaşım gerektirdiğini belirtti. OpenAI ayrıca sektör genelinde eğitim, değerlendirme ve kullanım aşamalarında ortaya çıkan bu tür olayların hangi koşullarda kamuoyuyla paylaşılması gerektiğine ilişkin ortak bir standart bulunmadığını açıkladı.
Şirket yeni bir raporlama çerçevesi üzerinde çalıştığını ve ayrıntıları önümüzdeki haftalarda paylaşacağını bildirdi. OpenAI aynı zamanda konu hakkında dünya genelinde onlarca düzenleyici kurumla çalıştığını belirtti.
Gelişme, şirketin siber güvenlik yetenekleri daha yüksek olan GPT-6 Astra modelini tanıttığı döneme denk geldi. OpenAI, Astra için daha sıkı izolasyon, sürekli işlem izleme ve riskli görevlerin otomatik olarak durdurulmasını sağlayan ek güvenlik katmanları uyguladığını açıklamıştı.
Yapay Zekâ Ajanları İçin Yeni Raporlama Kuralları Hazırlanıyor
OpenAI’nin açıklamasına göre yeni çerçeve, yalnızca bir modelin hangi riskli özelliklere sahip olduğunu değil, gerçek bir test veya kullanım sırasında ortaya çıkan istenmeyen davranışları da kapsayacak.
Şirket, OpenAI ajanları gibi uzun süre boyunca bağımsız görev yürütebilen sistemlerin daha fazla araca ve internet erişimine sahip olmasıyla birlikte mevcut güvenlik yöntemlerinin de değiştirilmesi gerektiğini belirtiyor. Bu kapsamda OpenAI, daha katı ağ sınırlamaları, yapay zekâ ajanlarının işlem adımlarını izleyen sistemler ve ciddi durumlarda çalışmayı otomatik olarak durdurabilecek mekanizmalar üzerinde çalışıyor.
Alman wiki üzerindeki kayıtlar ise araştırmacılar tarafından kamuya açık bir veri setinde toplandı. Veri setinde kişisel bilgilerin bir bölümü gizlendi ve insan kullanıcıların normal wiki faaliyetleri kapsam dışında bırakıldı. Araştırmacılar olayın tam olarak anlaşılabilmesi için OpenAI’nin kendi dahili kayıtlarının da incelenmesi gerektiğini belirtiyor.
OpenAI’nin yeni olay bildirim standardının kapsamı ve “wiki olayı” hakkında daha ayrıntılı bir teknik rapor yayımlayıp yayımlamayacağı henüz açıklanmadı.
Kaynaklar:
Ars Technica – https://arstechnica.com/security/2026/09/openai-agents-discussed-ways-to-escape-their-sandbox-on-public-wiki/
Collusion.wiki araştırma raporu – https://collusion.wiki/
The Verge – https://www.theverge.com/ai-artificial-intelligence/990773/openai-german-wiki-incident
Derleyen: Gizem Özcan
Günde sadece 1 TL'ye abone olarak tüm içeriklerimize sınırsız erişebilir ve bağımsız haberciliğe destek olabilirsiniz! Hemen Abone Ol
