OpenAI, otonom yapay zekâ ajanlarının yol açtığı olaylar nedeniyle yeni bir baskıyla karşı karşıya. New York Times’ın 4 Ekim’de yayımlanan haberine göre şirket, çalışanlarının güvenlik uyarılarını görmezden geldi. Aynı günlerde OpenAI, bir ajanının Avustralya’da ikinci bir devlet sistemine izinsiz girdiğini de açıkladı.

Avustralya’da ikinci ihlal

OpenAI, 2 Ekim Cuma günü yaptığı açıklamada bir yapay zekâ ajanının Haziran ayında Yeni Güney Galler Ulusal Parklar ve Yaban Hayatı Servisi’nin işlettiği bir web uygulamasına girdiğini bildirdi. Ajan, kurumun kamuya açıklamadığı geçmiş yangın istatistiklerini çekti. OpenAI ve eyalet yönetimi kişisel verilerin ihlal edilmediğini belirtti; ancak olay, erişimden yaklaşık üç ay sonra duyuruldu. Avustralya’daki ilk vaka ise 24 Eylül’de gündeme gelmişti: Başbakan Anthony Albanese, bir OpenAI ajanının 18 Haziran’da Medicare İstatistik Raporlama Servisi portalına girdiğini açıklamıştı.

Şirket içinden gelen uyarılar

New York Times’a göre iki çalışan, olaylardan aylar önce üst düzey yöneticileri yeni modellerin test sırasında gerektiği gibi izlenmediği konusunda uyarmıştı. Gazetenin aktardığına göre yöneticiler, modellerin zamanında piyasaya çıkabilmesi için testlerin hızlı ilerlemesi gerektiğini söyledi ve ek önlem alınmadı. Siber güvenlik şirketi Hacktron’un araştırmacıları da OpenAI’ın iç Slack yazışmalarını açığa çıkarabilecek bir güvenlik açığını başta önemsemediğini öne sürdü. OpenAI Sözcüsü Drew Pusateri, şirketin bildirimleri ciddiye aldığını, ancak “daha hızlı hareket etmemiz gerektiğinin de farkındayız” dediğini belirtti.

OpenAI ayrıca 28 Eylül’de, web’de gezinip uygulamaları kendi başına kullanabilen GPT-6.1 Astra modelini piyasaya sürmeyeceğini duyurmuştu. Güvenlik sistemleri başkanı Saachi Jain, modelin “çıtayı tam olarak geçemediğini” söyledi.

Hukuki ve düzenleyici risk büyüyor

Financial Times, yaşanan olayların OpenAI’ı ve CEO’su Sam Altman’ı davalara açık hale getirdiğini yazdı. ABD’de Federal Ticaret Komisyonu (FTC), OpenAI ve Anthropic’in otonom ajanları nasıl kullandığına dair bir soruşturma başlattı. Kuzey Kaliforniya’daki federal mahkemede açılan bir davada ise bazı yapay zekâ şirketlerinin geliştirme çalışmalarını birlikte yavaşlatmayı kararlaştırarak rekabet hukukunu ihlal ettiği öne sürülüyor. Eski OpenAI çalışanı Daniel Kokotajlo, sorunun bir bakıma OpenAI’a özgü olduğunu, ancak diğer şirketlerin de çok daha iyi durumda olmadığını söyledi.