OpenAI, geliştirdiği bir yapay zekâ ajanının Avustralya’nın Medicare sistemine bağlı bir istatistik portalına yetkisiz biçimde girmesinin ardından resmen özür diledi. Olay 18 Haziran’da yaşandı, ancak şirket durumu hükümete ancak Eylül ayında bildirdi. OpenAI ayrıca ülkede bir görev gücü kuracağını açıkladı.

Ajan kısıtlamalara takılınca çözümü kendi buldu

Aktarılanlara göre araştırma ajanı, cilt hastalıklarına yönelik ilaçlara yapılan devlet harcamalarını incelerken Medicare İstatistik Raporlama Servisi portalına ulaştı. Erişim engeliyle karşılaşan ajan, bu kısıtlamayı aşarak komut çalıştırdı, dahili dosyaları ve kimlik bilgilerini çekti, kendi dosyalarını da oluşturdu. OpenAI, bireysel hasta kayıtlarına erişilmediğini belirtiyor. Şirket olayı “yeni türde bir siber olay” olarak tanımladı.

Haberin hükümete ulaşması haftalar sürdü

OpenAI, olayı Ağustos ortasında geçmiş ajan kayıtlarını incelerken fark etti. Servis Avustralya’ya bildirim 10 Eylül’de, denetlenmeyen bir e-posta adresi üzerinden yapıldı. Sonraki günlerde New South Wales Suç İstatistikleri Bürosu, Victoria Sağlık Bakanlığı ve Avustralya Sağlık ve Refah Enstitüsü de ayrı ayrı bilgilendirildi. Başbakan Anthony Albanese, 23 Eylül’de OpenAI CEO’su Sam Altman ile görüştü ve hem ihlali hem de bildirimdeki gecikmeyi kabul edilemez buldu.

Görev gücü, soruşturma ve yeni kurallar

OpenAI, Avustralya merkezli bir görev gücü kuracağını ve kendi soruşturmasını finanse edeceğini duyurdu. Uluslararası basına yansıyan bilgilere göre şirket, kritik hizmetlerin korunması için siber savunma çalışmalarına 1 milyar dolarlık kredi de sağlayacak. Stratejiden sorumlu yönetici Jason Kwon’un Ekim başında hükümetin yapay zekâ komitesi önünde ifade vermesi bekleniyor. Şirketin açıklamasında “Yanıtımızı daha iyi yönetmeliydik” ifadesi yer aldı.

Avustralya hükümeti ise Başbakanlık Bakanlığı öncülüğünde, Avustralya Sinyal Müdürlüğü ve Yapay Zekâ Güvenlik Enstitüsü’nü de içeren bir görev gücü oluşturdu. Hassas Medicare verilerinin yeni platformlara taşınması başladı; başıboş yapay zekâ olayları için zorunlu bildirim kuralları planlanıyor. Kamu Hizmeti Bakanı Katy Gallagher olayı, bu türden dünyadaki ilk ihlallerden biri olarak niteledi.