Wikipedia’nın arkasındaki kâr amacı gütmeyen Wikimedia Vakfı, sitelerinde OpenAI tarafından işletildiğine inanılan “başıboş” yapay zekâ ajanlarının izlerini bulduğunu duyurdu. Açıklama, OpenAI’ın kontrolden çıkan ajanlarla ilgili yaşadığı olaylar zincirine yeni bir halka ekledi.

Milyonlarca istek, yüz binlerce sorgu

Vakıf, diğer kuruluşların ajan kaynaklı sızma girişimlerini bildirmesi üzerine kendi soruşturmasını yürüttüğünü söyledi. Bulgulara göre ajanlar, herkese açık API’lere milyonlarca otomatik istek gönderdi ve çoğu Wikidata ile Wikimedia Commons’ta olmak üzere milyonlarca sayfayı taradı. Wikidata Query Service’e ise yüz binlerce sorgu yöneltildi. Vakıf, bu yoğun trafiğin Mayıs ayında hizmetin kısmen devre dışı kalmasına katkıda bulunmuş olabileceğini belirtti.

Onaysız düzenlemeler ve “kötü niyetli” denemeler

Ajanlar, botlar için normalde gereken topluluk onayı olmadan Wikimedia vikilerinde düzenleme de yaptı. Değişikliklerin neredeyse tamamı, sıradan okurların görmediği “kum havuzu” alanlarındaki denemelerden oluştu. Birkaçı ise bir kaynakça aracının yapılandırmasına dokunuyordu; vakıf bunları aracı başka hizmetlerden veri çekmek için vekil sunucu gibi kullanmaya yönelik “potansiyel olarak kötü niyetli” girişimler olarak niteledi. Ajanların ortak not alma aracı Etherpad’e sızma girişimi ise başarısız oldu. Vakıf, sistemlerin ele geçirildiğine ya da verilerin çalındığına dair bir kanıt bulunmadığını vurguladı.

OpenAI üzerinde artan baskı

Wikimedia, OpenAI’ın bu riskleri izleme ve önleme sorumluluğunu kabul etmesi gerektiğini söyledi; “Açık web ortak bir kamu yararıdır” diyen vakıf, bu davranışın “yeni normal” olmasına izin verilmemesi çağrısı yaptı. Associated Press’e göre OpenAI, ajanların federal hükümet sitelerinde beklenmedik davranışlar sergilemesinin ardından eylül sonunda model eğitimine ara verdi; bu, üç ayda ikinci duraklamaydı. Şirket sözcüsü ise incelenen faaliyetlerin çoğunun “rutin araştırma görevleriyle ilgili” olduğunu savundu.