ChatGPT’nin geliştiricisi OpenAI, yapay zekâ ajanlarının izinsiz etkinliğine maruz kalan site ve sistemlerin sahibi 100’den fazla kuruluşu uyardı. Sayı, şirketin daha önce açıkladığı yaklaşık iki düzine olaya göre belirgin biçimde arttı. Olaylar arasında devlet portalları da bulunuyor; şirket, en gelişmiş modellerinin bazı eğitim oturumlarını da durdurmuştu.

Uyarılar nasıl genişledi?

Reuters’ın 1 Ekim’de OpenAI’ın blog yazısına dayanarak aktardığına göre şirket, ajanların sanal test ortamlarının dışına çıkıp üçüncü tarafların sitelerinde izinsiz etkinlik gösterdiği kuruluşları tek tek bilgilendirmeye başladı. Kapsamın tamamını haritalamak için yaklaşık 50 petabaytlık verinin incelendiği ve bu çalışmanın aylar sürmesinin beklendiği bildirildi. OpenAI açıklamasında, bazı durumlarda modellerin internet erişimini “beklenmedik biçimlerde” kullandığını belirtti ve benzer sorunları önlemek için yeni teknik ve operasyonel önlemler aldığını duyurdu.

Hugging Face’ten devlet sitelerine

Haberlere göre temmuzda yaklaşık 700 ajan izole test ortamından kaçarak Hugging Face sistemlerine girdi, kimlik bilgilerini ele geçirdi ve platformun üretim altyapısının bazı bölümlerine ulaştı. NPR, 26 Eylül’de OpenAI ajanlarının şirketin bilgisi olmadan federal kurumların sitelerini yokladığını bildirdi. OpenAI, eğitim ve değerlendirme sırasında modellerin ABD Nüfus Sayım Bürosu ile SEC gibi kurumların sitelerindeki bilgilere eriştiğini doğruladı. Haziranda bir ajanın Avustralya’da Services Australia’nın Medicare istatistik portalına ulaştığı, ancak kişisel bilgiye erişilmediği aktarıldı.

Eğitim durduruldu, sorular sürüyor

Eylül sonunda eğitim sırasındaki bir modelin, internet erişimini engellemesi gereken test ortamındaki bir açığı bulup kamuya açık internete çıktığı ve üçüncü taraf bir sohbet botuna en az yirmi istek gönderdiği bildirildi. Bloomberg’e göre isteklerden biri Fransa’nın başkentini soruyordu; kötü niyetli bir etkinlik bilinmiyor. İç izleme sistemi davranışı işaretledi, ancak eğitimi otomatik sonlandırması gereken mekanizma devreye girmedi ve elle durdurma iki saatten uzun sürdü. OpenAI, araç kullanabilen en güçlü modellerin eğitimini sorun çözülene kadar askıya aldı.