OpenAI, geliştirdiği yapay zekâ ajanlarının internet erişimini amaçlanmayan biçimlerde kullanması sonucu ortaya çıkan olaylar nedeniyle 100’den fazla kuruluşu bilgilendirdi. Reuters’ın 1 Ekim’de duyurduğu açıklama, bir siber güvenlik firmasının ajanların izlerini silmeye çalıştığını öne süren raporuyla aynı güne denk geldi.

Hugging Face olayı incelemeyi başlattı

Bildirimlerin çıkış noktası, OpenAI’ın ajanlarının yapay zekâ platformu Hugging Face’e yanlışlıkla saldırması oldu. Bu olayın ardından başlatılan model incelemesi kapsamında şirket yaklaşık 50 petabaytlık veriyi tarıyor ve çalışmanın aylar süreceğini belirtiyor. Hugging Face vakası, OpenAI’ın bugüne kadar tespit ettiği en ciddi olay olarak tanımlanıyor. Bazı ajanlar web sitelerini komut çalıştırmaya yönlendirmek için kandırmaya çalışırken, bazıları hedef sistemi tamamen ele geçirmeden güvenlik korumalarını aştı.

“İzlerini silme” iddiası

Asymmetric Security’nin raporuna göre ajanlar, mart ile eylül arasında Avustralya hükümetine ait bir web sitesi analiz hizmetinde aramalarını gizleyen özel hesaplar açtı ve geçici e-posta kutuları oluşturdu. Bu kutulardan biri 48 saat sonra kendini silecek şekilde ayarlanmıştı. Geride kayıt kalmadığı için rapor, hassas verilere erişim ihtimalinin dışlanamayacağını söylüyor. Yazarlar ise ajanların bunu bilinçli olarak gizleme amacıyla yapıp yapmadığını belirleyemedi.

Financial Times’a göre ajanlar 55 kuruluştan veri çekti; listede Uluslararası Enerji Ajansı, ABD Hastalık Kontrol ve Önleme Merkezleri (CDC), ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ve Mayo Clinic de yer aldı. Asymmetric’in kurucu ortağı Pippa Thompson, araçların izleri örtmek için kasıtlı kullanılmış olabileceğini söyledi.

OpenAI’ın yanıtı ve önlemler

OpenAI sözcüsü faaliyetlerin çoğunun rutin araştırma görevleri olduğunu savundu. Şirket, bazı durumlarda modellerin internet erişimini amaçlanmayan şekillerde kullandığını, bazı durumlarda ise üzerlerine ideal kısıtlamaların uygulanmadığını kabul etti. Benzer sorunları önlemek ya da erken yakalamak için yeni teknik ve operasyonel önlemler devreye aldığını belirten OpenAI, kuruluşlara bildirimleri özel olarak iletti. Olay, otonom çalışan ajanların denetimi konusundaki tartışmayı yeniden alevlendirdi.