Yapay zekâ alanının öncü isimlerinden Geoffrey Hinton, ileri seviye AI sistemlerinin önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalini yüzde 10 olarak değerlendirdi. Hinton, bu tahminin kesin olmadığını ancak riskin göz ardı edilmemesi gerektiğini vurguladı.

Yapay zekâ güvenliği tartışması, önde gelen araştırmacıların kamuoyuna yansıyan açıklamalarıyla yeniden küresel gündeme taşındı. 2024 Nobel Fizik Ödülü sahibi Geoffrey Hinton, BBC Newsnight programında süper zekâ seviyesine yaklaşan AI sistemleri için insanlığın geleceğini etkileyebilecek risklere dikkat çekti. Tartışmanın merkezinde biyolojik tehditler, siber saldırılar, kritik altyapılar ve yapay zekâ hizalama problemi bulunuyor.

Hinton: “Yüzde 10’luk Risk Mantıksız Değil”

Geoffrey Hinton, BBC Newsnight’a verdiği röportajda yapay zekânın insanlığın tamamını yok etme ihtimaline ilişkin yüzde 10’luk tahminin “mantıksız olmadığını” söyledi. Hinton, insanların kendilerinden daha zeki olabilecek sistemler geliştirmeye yaklaştığını ve bunun sonuçlarının henüz bilinmediğini belirtti.

Hinton’a göre bu tür oranlar kesin bilimsel hesaplamalar değil. Yapay zekâ alanında çalışan uzmanlar, gelişmiş sistemlerin kapasitesi ve kontrol edilebilirliği konusunda farklı öngörülere sahip. Hinton, bu nedenle yüzde 1 gibi düşük bir risk varsayımının da fazla iyimser olabileceği görüşünü dile getirdi. Açıklamalar, yapay genel zekâ ve süper zekâ sistemleri için güvenlik önlemlerinin tartışıldığı dönemde geldi.

Yapay Zekâ Biyolojik ve Siber Tehditleri Artırabilir

Hinton, gelişmiş bir yapay zekânın fiziksel olarak dünyayı doğrudan kontrol etmeden de büyük ölçekte zarar oluşturabileceğini savundu. Buna göre AI sistemleri, insanları ikna ederek veya yönlendirerek toplumsal karmaşayı artırabilir; biyolojik virüsler ile bilgisayar virüslerinin tasarımını kolaylaştırabilir ve büyük ölçekli siber saldırılar planlayabilir.

UC Berkeley profesörü Stuart Russell da yapay zekâ destekli saldırıların elektrik, su, ulaşım ve finans sistemleri gibi kritik altyapıları hedef alabileceği uyarısında bulundu. Bu riskler, yapay zekânın tek başına hareket etmesinden ziyade kötü niyetli kişiler veya gruplar tarafından kullanılması ihtimalini de kapsıyor. Uzmanlar, siber güvenlik, biyogüvenlik ve altyapı dayanıklılığı alanlarında AI kaynaklı tehdit modellerinin geliştirilmesi gerektiğine dikkat çekiyor.

Anthropic Tartışması AI Güvenliğini Yeniden Gündeme Taşıdı

Tartışma, 8 Eylül’de daha önce OpenAI ve Anthropic’te görev yapmış araştırmacı Jacob Coxon’ın kamuoyuna açık istifasıyla hız kazandı. Coxon, iki şirketin de yapay zekâ güvenliği konusunda yeterince sorumlu hareket etmediğini ve kendini geliştirebilen süper zekâ yarışının ciddi riskler taşıdığını öne sürdü.

Anthropic’in hizalama bilimi lideri Evan Hubinger ise Coxon’ın eleştirilerine büyük ölçüde katıldığını belirtti. Hubinger, önümüzdeki on yılda yapay zekânın tüm insanlığı yok etme ihtimalini yüzde 10’un üzerinde gördüğünü ifade etti. Buna karşılık AI araştırmacısı Gary Marcus, siber saldırı, biyolojik silahlar ve dezenformasyon risklerini ciddi bulsa da yakın vadede insanlığın tamamen yok olması senaryosunu gerçekçi görmediğini söyledi. Meta’nın baş yapay zekâ bilimcisi Yann LeCun da bu tür oranların büyük ölçüde kişisel tahmin niteliği taşıdığını savunuyor.