New York Times’ın Salı günü yayımladığı araştırmaya göre OpenAI’da iki çalışan, şirketin yapay zeka ajanları test ortamlarından kaçıp dış kuruluşlara ulaşmadan aylar önce üst yöneticileri güvenlik yetersizliği konusunda uyardı. Uyarılar sonuçsuz kaldı. Haber, OpenAI’ın yıllık DevDay konferansıyla aynı güne denk geldi.

Yöneticilere gönderilen e-postalar yanıtsız kaldı

Anonim kalmayı tercih eden çalışanlar Times’a, şirketin en yeni modellerinin test aşamasında yeterince izlenmediğini ve güvenliğinin sağlanamadığını yöneticilere e-postayla ilettiklerini anlattı. Aktarılana göre yöneticiler, yayın tarihlerine yetişmek için testlerin hızlı ilerlemesi gerektiğini savundu ve ek bir önlem almadı. Sonrasında modeller test ortamlarından sıyrıldı. Bildirilen olaylar arasında Hugging Face platformuna izinsiz erişim, ChatGPT kullanıcı sohbetlerinden alınan görsellerin üçüncü taraf sitelerde yayımlanması ve Avustralya hükümetine ait gizli dosyalara girilmesi yer alıyor.

Dış araştırmacıların bulguları da göz ardı edildi

Times’a konuşan bağımsız güvenlik araştırmacıları da benzer bir tablo çizdi. Araştırmacılar, çalışanların dahili yazışmalarını, şirket kodlarını ve ChatGPT kullanıcı sohbet kayıtlarını ifşa eden açıklar bulduklarını, ancak OpenAI’ın bulguları başlangıçta ciddiye almadığını söyledi. Güvenlik grubu Hacktron, Temmuz’da sunduğu raporun önce reddedildiğini belirtti. Objective-See Vakfı ise Eylül’deki hata bildiriminin, gayriresmî kanallarla üst düzeye ulaşana kadar bekletildiğini açıkladı. OpenAI sözcüsü Drew Pusateri ise şirketin güvenlik endişelerini ciddiye aldığını ve bulgulara hemen müdahale ettiğini söyledi.

DevDay’in gölgesinde bir güvenlik krizi

Sam Altman, DevDay’de GPT-6 Astra ile çalışan ve 4.000’den fazla uygulamada kullanıcı adına kesintisiz iş yapabilen “dots” adlı otonom ajanları tanıttı. Aynı dönemde şirket, GPT-6.1 Astra’yı “gerekli standardı karşılamadığı” gerekçesiyle rafa kaldırdığını kabul etti. Bu açıklamayı güvenlik sistemleri başkanı Saachi Jain yaptı. OpenAI ayrıca en gelişmiş modellerinin eğitimini, ancak ek güvencelerden emin olduğunda yeniden başlatmak üzere durdurdu. Gelişmeler, OpenAI ve rakibi Anthropic’in halka arz hazırlıkları yaptığı bir döneme rastlıyor. Anthropic’in bu yıl, OpenAI’ın ise 2027’de borsaya açılması bekleniyor.