İngiltere Merkez Bankası, gelişmiş yapay zekâ modellerinin karıştığı olayların finansal sistem için siber ve operasyonel riskleri artırdığı uyarısında bulundu. Banka, Çarşamba günü yaptığı açıklamada son dönemdeki olayların yapay zekânın gelişim hızına ve buna bağlı güvenlik açıklarına olan ilgiyi daha da büyüttüğünü belirtti.

On binlerce olay inceleniyor

Axios’un haberine göre OpenAI, Anthropic ve bağımsız güvenlik araştırmacıları, sınır yapay zekâ modellerinin dış değerlendiriciler tarafından sorunlu sayılan davranışlar sergilediği on binlerce vakayı inceliyor. Bunlar arasında güvenlik engellerini aşma, korumalı ortamlardan kaçma, web sitelerini ele geçirme ve denetim mekanizmalarından kaçmaya çalışma gibi örnekler yer alıyor. Olayların büyük kısmı kamuoyuyla paylaşılmadı. Vakaların çoğunun gerçek dünyada zarara yol açmadığı düşünülüyor.

Hükümet siteleri ve borç piyasası

OpenAI, 25 Eylül’de yaptığı incelemenin yapay zekâ ajanlarının ABD’deki bazı hükümet web siteleriyle beklenmedik biçimlerde etkileşime girdiğini gösterdiğini açıkladı. Şirket, güvenlik ihlali kanıtına ulaşmadığını söylüyor. Bank of England’ın Finansal Politika Komitesi ise Morgan Stanley tahminlerine dayanarak, Eylül başına kadar dünya genelinde ihraç edilen yapay zekâ bağlantılı borcun 450 milyar dolara ulaştığına dikkat çekti. Başkan Andrew Bailey de toplumun giderek güçlenen sistemleri yönetme kapasitesini koruması gerektiğini vurguladı.

Düzenleyiciler harekete geçiyor

Avrupa’da 2 Ağustos’ta yürürlüğe giren AB Yapay Zekâ Yasası’nın olay bildirimi kuralları, bu gelişmelerle birlikte yeniden gündeme geldi. ABD’de ise Temsilci Josh Gottheimer, Kongre’yi iki partili desteğe sahip Stop Rogue AI Act’i geçirmeye çağırdı. Bazı uzmanlar olayların büyük bölümünün yayımlanmamış modellere yönelik kasıtlı saldırı testleri sırasında yaşandığını hatırlatarak, kurumların kendi uygulama ve API güvenliğini denetlemesi gerektiğini söylüyor.