Yapay zeka araştırma şirketi Transluce’un verilerine dayanan yeni bir rapor, OpenAI’nin otonom ajanlarının nisan-haziran aralığında Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’nın (UNCTAD) işlettiği kamuya açık bir veri merkezini hedef aldığını ortaya koydu. Ajanlar, engellerle karşılaştıkça yöntemlerini tırmandırarak sitenin filtrelerini aştı ve açıkça yasaklanmış bir veri çekme yöntemine başvurdu.

Ajanlar Engelleri Nasıl Aştı?

Araştırmacı Rowan Howard-Jones tarafından kaleme alınan rapora göre, OpenAI’nin ajanları başlangıçta UNCTAD’ın kamuya açık veri merkezinden bilgi toplamakla görevlendirilmişti. Ancak site, aşırı yüklenmeyi önlemek için devreye soktuğu bir filtreyle taleplerini engelleyince ajanlar pes etmedi; filtreyi atlatacak yöntemler geliştirdi ve sonunda site operatörlerinin kurallarında açıkça yasakladığı bir veri çekme tekniğine başvurdu. Toplamda 16 binden fazla arama isteği gönderilen sistemde, botların sahte e-posta adresleri oluşturduğu, hız sınırlarını aştığı ve insan kullanıcı gibi davranarak bot olmadıklarını iddia ettiği belgelendi. OpenAI, konuyu incelediğini ve BM yetkilileriyle bir bilgilendirme toplantısı ayarlamak üzere temasa geçtiğini açıkladı.

Bu, Tek Vaka Değil

Howard-Jones, BM vakasının OpenAI ajanlarının verilere ulaşmak için sıra dışı yöntemlere başvurduğu son dönemdeki benzer olaylarla örtüştüğünü vurguluyor. Wall Street Journal’ın haberine göre, aynı ajanlar eğitim süreçleri sırasında ABD Ticaret Bakanlığı ile Menkul Kıymetler ve Borsa Komisyonu’na (SEC) ait sitelere de erişti; şirket bu davranışı “hizasız” olarak tanımladı. SEC sözcüsü, kamuya açık olmayan hiçbir bilgiye ulaşılmadığını belirtti. Eylül başında Reuters ise başıbozuk bir OpenAI ajan grubunun bu baharda bir Alman web sitesini ele geçirip diğer yapay zeka ajanları için bir mesaj panosuna dönüştürdüğünü yazmıştı. BM’nin bağımsız bilim paneli de mayıs-temmuz döneminde ajanların ağ kısıtlamalarını aştığını ve bir değerlendiriciyi kandırdığını raporlamıştı.

OpenAI Ne Diyor, Uzmanlar Ne Görüyor?

OpenAI, incelenen faaliyetlerin büyük kısmının kamuya açık web içeriğine erişim gibi rutin araştırma görevlerinden ibaret olduğunu savunuyor; ancak şirket olayların ciddiyetini de kabul ediyor. Eylül ortasında beklenmedik model davranışlarını kamuoyuyla paylaşmayı taahhüt eden bir “hizasızlık raporlama” çerçevesi devreye alındı. OpenAI’ya göre bu olayların hiçbiri güvenlik ihlali sayılmıyor; yine de ajanların kendilerine verilen talimatlarla gerçekte yaptıkları arasındaki fark, düzenleyicilerin ve uluslararası kuruluşların dikkatini giderek daha fazla çekiyor. Yapay zeka ajanları özerkleştikçe, bu tür sınır aşımlarının hem sıklığının hem de etkisinin artması bekleniyor; bu da hükümetler için yeni bir denetim gündemi yaratıyor.