- İngiltere, 1 ve 2 Kasım’da gerçekleşecek “yapay zeka güvenliği” konulu uluslararası bir zirveye ev sahipliği yapacak.
- Zirve için yayımlanan rapora göre ölümcül biyolojik silahlar, otomatik siber güvenlik saldırıları ve insan kontrolünden kaçan güçlü yapay zeka modelleri, yapay zekanın yarattığı potansiyel tehditlerden sadece birkaçı.
- Yapay zekanın üç fikir babasından biri olan Yoshua Bengio kısa süre önce, yapay zeka hakkındaki iyimserliğinin azaldığını ve bu teknolojiyi kontrol altında tutmaya yardımcı olmak için yeni bir “insanlık savunması” organizasyonuna ihtiyaç duyulduğunu söylemişti.
Söz konusu rapor; Google’ın DeepMind birimi, yapay zeka şirketleri ve istihbarat teşkilatları da dahil olmak üzere çok sayıda Birleşik Krallık hükûmet biriminin katkılarıyla derlendi. Rapora göre ölümcül biyolojik silahlar, otomatik siber güvenlik saldırıları, insan kontrolünden kaçan güçlü yapay zeka modelleri, yapay zekanın yarattığı potansiyel tehditlerden sadece birkaçı. Rapor, önümüzdeki hafta İngiltere’nin ev sahipliği yapacağı “yapay zeka güvenliği” konulu uluslararası bir zirve için yayımlandı. Aynı zamanda ChatGPT’nin arkasındaki yapay zeka teknolojisi olan büyük dil modellerinin, ulusal güvenlik üzerindeki etkileri de ele alındı. Rapor, ölümcül bir olasılık olan bilimsel keşifleri hızlandıracak büyük bir dil modelinin, biyolojik silahlar yaratmaya çalışan projeleri de destekleyebileceğini öne sürdü. Bu bağlamda gerçekleşecek zirve, daha çok insanların gelişmiş yapay zeka biçimlerini kötüye kullanma veya kontrolünü kaybetme ihtimallerine odaklanacak.
Zirvenin bu odağı ise eleştirilere hedef oldu. Eleştirilerden bazıları, Birleşik Krallık’taki bazı yapay zeka uzmanları ve yöneticilerinden geldi. Hükûmetin, Birleşik Krallık’ın ABD ve Çin gibi küresel yapay zeka liderleriyle rekabet etmesine yardımcı olmak gibi daha kısa vadeli endişelere öncelik vermesi gerektiğini söyleyen yönetici ve yapay zeka uzmanları, programın odağını eleştirdi.
İngiltere’nin ABD’deki teknoloji elçisi olan Joe White, gelecek haftaki zirvenin planlanmasına yardımcı oluyor. White, yaptığı açıklamada “Zirve, teknolojinin yarattığı riskleri daha iyi anlamak için ülkeleri ve önde gelen yapay zeka şirketlerini bir araya getirme fırsatı sunuyor.” diyerek devam etti: “Algoritmaların potansiyel dezavantajlarını yönetmek, eski moda organik iş birliği gerektirecek. Bunlar, makineden insana zorluklar değil; bunlar insandan insana zorluklar.”
ChatGPT’nin dil modellerinin ulusal güvenlik üzerindeki etkileri kapsamında White, Birleşik Krallık istihbarat teşkilatlarının, kötü aktörlerin büyük bir dil modelini gizli hükûmet belgeleriyle birleştirmesi durumunda neler olabileceği gibi senaryoları araştırmak için bir Birleşik Krallık hükûmeti uzman grubu olan Frontier AI Görev Gücü ile birlikte çalıştığını söyledi.
Ayrıca yarın İngiltere Başbakanı Rishi Sunak, yapay zekanın insanlığı ilerletmek için fırsatlar sunarken gelecek nesiller için yarattığı yeni riskler konusunda dürüst olunması gerektiği ile ilgili bir konuşma yapacak. Ek olarak bugün yayımlanan rapor, Google’ın Londra’daki bir yapay zeka girişimi olarak başlattığı ve 2014 yılında arama şirketi tarafından satın alınan DeepMind yapay zeka laboratuvarında politika ve etik uzmanlarını içeren bir panel tarafından gözden geçirildi. Panel kapsamında yapay zekanın üç babasından biri olan Yoshua Bengio’ya da danışıldı. Bengio kısa süre önce, geliştirilmesine yardımcı olduğu teknoloji hakkındaki iyimserliğinin azaldığını ve yapay zekayı kontrol altında tutmaya yardımcı olmak için yeni bir “insanlık savunması” organizasyonuna ihtiyaç olduğunu söyledi.
Derleyen: Fatma Ebrar Tuncel