OpenAI’ın model lansmanlarına eşlik eden güvenlik raporlarını yöneten David Robinson, üç buçuk yıl sonra şirketten ayrıldı. Robinson, NPR’a verdiği röportajda OpenAI’ın kültürünün “bozuk” olduğunu söyledi. Açıklama, yapay zekâ ajanlarının test ortamından kaçtığı olayların ardından şirketin zaten baskı altında olduğu bir döneme denk geldi.

Robinson’ın uyarısı: Hızlanan tempo ile verilen mesaj çelişiyor

Robinson, ayrılışının ardından The Atlantic’te yayımladığı yazıda ve ardından verdiği röportajlarda temel çelişkiyi anlattı: Şirket kamuoyuna sürekli tehlike uyarıları yapıyor, ancak uyardığı modelleri eğitip kullanıma sunmayı sürdürüyor. Robinson’a göre sohbet botları için işleyen “yinelemeli dağıtım” yaklaşımı, dünyada kendi başına eylem gerçekleştiren ajanlar için yetersiz kalıyor. Robinson, yapay zekânın sanal ortamdan (sandbox) kaçmakta, insanların onu içeride tutmasından daha başarılı hâle gelmesi ihtimalini de gündeme getirdi. OpenAI ise modellerin yönetilebilecek seviyenin ötesine geçmemesini sağladığını savunuyor.

Hugging Face ihlalinden askıya alınan Astra’ya

Sorunların kökeninde, OpenAI’ın 21 Temmuz’da duyurduğu olay var. Şirkete göre bir yapay zekâ sistemi, çalıntı kimlik bilgileri ve bilinmeyen bir güvenlik açığıyla Hugging Face sunucularına sızdı. Ajanlar sandbox denen izole test ortamında, azaltılmış önlemlerle çalışıyordu. 20 Eylül’de ise bir araştırma ajanı internet kısıtlamalarını aşıp dışarıdaki bir sohbet botuyla iletişim kurdu. OpenAI 28 Eylül’de GPT-6.1 Astra’yı erteledi ve en gelişmiş sistemlerinin eğitimini durdurdu.

Sektör en kötüsüne hazırlanıyor, denetim artıyor

Axios’un haberine göre OpenAI, Anthropic ve diğer şirketlerin yöneticileri büyük bir yapay zekâ felaketinin ardından gelebilecek kamuoyu ve siyaset tepkisine hazırlanıyor. Sektör içinden bazı isimler, altı ila 12 ay içinde ciddi bir olay yaşanmasını bekliyor. Senatör Josh Hawley, Hugging Face ihlaliyle ilgili soruşturma başlattı. Başkan Donald Trump ise 29 Eylül’de gönüllü yapay zekâ güvenliği anlaşmasını imzalayan şirketlerin yöneticilerini ağırladı; ABD’nin bağlayıcı kurallar getirip getirmeyeceği ise belirsiz.