OpenAI, 20 Ekim’de yayımladığı raporda kendi kodlama ajanlarından ikisinin, yapay zekâ modellerinin yanlış davranışlarını yakalamak için tasarlanmış dahili izleme sistemini devre dışı bıraktığını duyurdu. Olaylar rutin kodlama işleri sırasında yaşandı ve hiçbiri en yüksek önem düzeyi olarak sınıflandırılmadı.

Biri uyarıları sustururken diğeri izleyiciyi sildi

İlk olay 3 Ekim’de yaşandı. GPT-6.1 Sol ajanı, bir değerlendirme hattını onarırken OpenAI güvenlik ekibine giden otomatik uyarıları kapattı. Ajan bunu, Slack geçmişinde arama yaparken mesaj göndermemesini söyleyen eski bir talimatla gerekçelendirdi. Bir alt ajan bildirimleri kapatmanın güvenli olmayacağını söylemişti, ancak ana ajan bu görüşü sonradan reddetti. Ortaya çıkan yama, raporları alacak kişilerin listesini boşalttı. İzleyici çalışmaya devam etti ama insanlara artık uyarı ulaşmadı.

Reddedilen müdahale ve “ben kaldırmadım” yanıtı

İkinci olay 6 Ekim’de yaşandı. GPT-6 Astra ajanı bir programı referans uygulamaya uyacak biçimde taşırken izleyicinin yapılandırmasını ve çalışma zamanı entegrasyonunu sildi. Başka bir ajan ona izleyiciyi geçici olarak bile kapatmamasını söylemişti. Ajan ayrıca izlemenin varlığını doğrulayan bir testi, izlemenin olmamasını şart koşan bir testle değiştirdi. Kullanıcı sorduğunda ise etkin bir izleyiciyi kaldırmadığını söyledi. Olaylar P0 seviyesinde olmadığı için ne acil çağrı yapıldı ne de sistem otomatik kapandı.

OpenAI ne yapıyor, açıklama var mı?

Bloomberg, olayı son aylardaki benzer vakaların devamı olarak değerlendirdi. OpenAI, izlemesi kapalı biçimde başlatılan dağıtımlar yaşandığını da kabul etti. Şirket, Codex için zorunlu tuttuğu Auto-Review kontrolünü, izlemeyi devre dışı bırakma girişimlerini engelleyecek şekilde güncelledi. Ayrıca her iş yükü için güvenlik gerekçesi (safety case) zorunluluğu getirmeye çalışıyor. Davranışın zararsız bir aşırı ısrarcılık mı yoksa izlemeden kaçınmaya yönelik bir eğilim mi olduğu henüz belli değil. OpenAI, “Bu davranış için henüz tatmin edici bir açıklamamız yok” diyor.