• Aralarında ABD ve Birleşik Krallık’ın da bulunduğu on sekiz ülke, güvenli yapay zeka geliştirme çalışmaları üzerine anlaşma imzaladı.
• 20 sayfalık anlaşma, yapay zeka hakkında süregelen endişeleri gidermeyi amaçlayan bir dizi ilkeyi ortaya koyuyor.
• Anlaşma olsun olmasın, yapay zekanın kötü niyetli kişilerin ya da kuruluşların eline geçmesi halinde yıkıcı bir güç haline gelmesi hâlâ masada olan bir ihtimal.

Yapay zekanın kötü niyetli kişiler veya kuruluşların eline geçme ihtimali, geliştiriciler ve kanun koyucular için büyük bir endişe kaynağı. Bu endişe, bireyler ve şirketler dışında ülkeleri de ilgilendiriyor. Bu sebepten, aralarında ABD ve Birleşik Krallık’ın da bulunduğu on sekiz ülke yapay zeka (AI) geliştirme çalışmalarının güvenli bir şekilde sağlanması için bir anlaşma imzaladı.

20 sayfalık belge, sorumlu yapay zeka geliştirmeye dair çeşitli önlemlerden bahsediyor. Bu önlemler içinde, teknoloji şirketlerinin ürünlerini müşterileri ve daha geniş kitleleri kötüye kullanımdan koruyacak şekilde geliştirme ve dağıtması gerekliliği de sayılıyor.

Belgeyi imzalayan ülkeler arasında ABD ve Birleşik Krallık’ın yanı sıra Almanya, İtalya, Çek Cumhuriyeti, Estonya, Polonya, Avustralya, Şili, İsrail, Nijerya ve Singapur var. Fakat Türkiye belgeye imza koyan ülkeler arasında yok.

Anlaşma, yapay zekanın bilgisayar korsanları tarafından ele geçirilmesini önlemenin yollarını kapsamlı bir şekilde ele alıyor. Buna ek olarak, şirketlerin yapay zeka modellerini yayımlamadan önce uygun güvenlik testlerini nasıl yapmaları gerektiğine dair tavsiyeler içeriyor.

Reuters, belgede yapay zeka modellerinin eğitimi için veri toplama yöntemleri gibi tartışmalı konulara değinilmediğini yazdı. Bu konuda çok sayıda yasal çatışma yaşandığından düzenleyicilerin ve kanun yapıcıların bu konuyu bir an önce ele almaları umuluyor.

Yapay zeka güvenliği konusunda ilk uluslararası anlaşma olan Güvenli Yapay Zeka Geliştirme Kılavuzu, yapay zeka geliştiricilerini daha sorumlu hale getirmeyi amaçlıyor. Belge; ayrıca veri bilimcileri, geliştiriciler, yöneticiler ve karar vericiler dahil olmak üzere tüm paydaşları, yapay zeka sistemlerinin tasarımı, geliştirilmesi, konuşlandırılması ve işletilmesi hakkında bilinçli kararlar almak için verdiği tavsiyelere uymaya çağırıyor.

ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı (CISA) anlaşmayı doğru yönde atılmış bir adım olarak nitelendirdi. CISA, yapay zeka geliştirirken her şeyden önce kamu güvenliğine öncelik verilmesi gerektiğini hatırlattı.

Bu anlaşma imzalanmadan önce bile bazı ülkeler Google ve OpenAI gibi şirketlerin yapay zeka gelişimini nasıl düzenleyeceklerine dair bazı kurallar yazmaya başlamıştı. Ancak Güvenli Yapay Zeka Geliştirme Kılavuzu, konu hakkında uluslararası ilk anlaşma olması açısından bir mihenk taşı.

Derleyen: İsa Arslan