Salgınlara Karşı Yapay Zekâ Dönemi: Koruyucu mu, Yeni Bir Tehdit mi?

Yapay zekâ, yeni bir pandemiye karşı insanlığın en güçlü savunma araçlarından biri olabilir. Salgınların başlangıç aşamasında belirlenmesi, patojenlerin genetik özelliklerinin incelenmesi ve etkili aşılarla ilaçların daha hızlı geliştirilmesi, teknolojinin sağlayabileceği başlıca avantajlar arasında gösteriliyor. Fakat aynı bilgi ve sistemlerin kötü niyetli kişiler tarafından biyolojik tehdit oluşturmak amacıyla kullanılması da mümkün. Google DeepMind ile Isomorphic Labs tarafından yürütülen biyolojik dayanıklılık programı, yapay zekânın taşıdığı bu iki yönlü potansiyeli kontrol altında tutmayı amaçlıyor.

Yapay zekâ salgınlarla mücadelenin merkezine yerleşiyor

Google DeepMind ve Isomorphic Labs, biyoloji alanında yapay zekânın kötüye kullanılmasını önlemeyi ve salgınlara müdahale kapasitesini geliştirmeyi hedefleyen ortak programlarına ilişkin yeni ayrıntıları açıkladı.

İki kuruluşun sessizce başlattığı girişim kapsamında son 12 ayda kamu kurumları, biyogüvenlik kuruluşları ve araştırma gruplarıyla 15’ten fazla ortaklık kuruldu. Program; yapay zekânın kötüye kullanılmasını önleme, salgınları daha hızlı tespit etme ve bir salgın ya da biyolojik saldırı başladıktan sonra müdahale süreçlerini hızlandırma olmak üzere üç temel alan üzerine kuruldu.

Ortaklık kurulan kuruluşların tamamı açıklanmazken Lawrence Livermore Ulusal Laboratuvarı, Birleşik Krallık Yapay Zekâ Güvenliği Enstitüsü, Salgın Hazırlık Yenilikleri Koalisyonu (CEPI) ve Francis Crick Enstitüsü programın adı duyurulan paydaşları arasında yer aldı.

DeepMind, önümüzdeki 6 ila 12 ay içinde bu iş birliklerini genişletmeyi planlıyor. Yeni dönemde tehdit istihbaratı, yapay zekâ ajanlarının güvenliğini ölçmeye yönelik değerlendirme yöntemleri ve sistemlerin güvenlik önlemlerini aşmayı amaçlayan “jailbreak” saldırılarına karşı geliştirilecek tekniklere ağırlık verilecek.

Bilimsel fırsat ile biyolojik tehdit arasındaki ince çizgi

Programın temelinde, yapay zekânın biyoloji alanında taşıdığı iki yönlü potansiyel bulunuyor. Gemini gibi gelişmiş yapay zekâ modelleri, biyoloji konusunda giderek daha ayrıntılı bilgi sunabiliyor. Bu sistemler özel biyoloji modelleri, yapay zekâ ajanları ve üçüncü taraf veri tabanlarıyla bir araya getirildiğinde araştırmacıların daha karmaşık bilimsel çalışmalar yürütmesine yardımcı olabiliyor.

Bir araştırmacı, yapay zekâdan yeni bir aşı hedefini belirlemek, bir proteinin yapısını anlamak veya olası ilaç adaylarını değerlendirmek için yararlanabilir. Ancak aynı sistem, kötü niyetli bir kişinin biyoloji alanındaki bilgi eksikliklerini tamamlamasına ve mevcut teknik engelleri aşmasına da yardımcı olabilir.

DeepMind ve Isomorphic Labs bu nedenle iki yönlü bir sorumluluk üstlendiklerini belirtiyor: Yapay zekânın sağlayabileceği bilimsel ilerlemeleri desteklerken teknolojinin biyolojik tehdit oluşturmak amacıyla kullanılmasını engellemek.

Şirketler, daha yüksek risk taşıyan eğitim verilerinin nasıl kullanılacağı konusunda Frontier Model Forum ile de çalışmalar yürütüyor. Özellikle virolojiyle ilgili veri kümelerinin ileri düzey yapay zekâ modellerinin eğitiminde nasıl ele alınması gerektiği tartışılıyor.

Gemini zararlı talepleri nasıl ayırt edecek?

Programın önleme ayağında, yapay zekâyı kötüye kullanabilecek aktörlerin ve bu kişilerin karşılaştığı teknik engellerin belirlenmesi amaçlanıyor. DeepMind, Gemini’nin söz konusu engellerin aşılmasına yardımcı olup olamayacağını değerlendirmek için uzmanların gerçekleştirdiği güvenlik testlerinden ve rastgele kontrollü deneylerden yararlanıyor.

Eğitim sonrasında uygulanan yöntemlerle modelin zararlı talepleri reddetmesi hedefleniyor. Bununla birlikte meşru bilimsel soruların yanlışlıkla engellenmemesi gerekiyor. Zararlı bir biyolojik çalışma ile hastalıkları önlemeyi amaçlayan bilimsel araştırma arasındaki ayrım, yapay zekâ sektörünün karşı karşıya olduğu en önemli güvenlik sorunlarından birini oluşturuyor.

Riskli faaliyetlerin gerçek zamanlı olarak belirlenmesi için sınıflandırıcılar ve inceleme araçları kullanılıyor. Otomatik sistemlerin yakalayamadığı daha örtülü kötüye kullanım girişimlerini tespit etmek amacıyla kullanıcı kayıtları üzerinde hedefli analizler de gerçekleştiriliyor.

DeepMind, bu önlemlerin bütün sorunları çözdüğünü iddia etmiyor. Kontrollü testlerde bilinen saldırılara karşı başarılı olan bir güvenlik sisteminin, gerçek kullanım sırasında ortaya çıkabilecek yeni yöntemlere karşı aynı sonucu vereceğinin garantisi bulunmuyor. Bu nedenle program, tamamlanmış bir güvenlik sistemi değil, sürekli geliştirilmesi gereken bir süreç olarak sunuluyor.

Yapay zekâ mevcut DNA taramalarını aşabilir

Program kapsamında ele alınan en somut tehlikelerden biri DNA senteziyle ilgili. Uluslararası Gen Sentezi Konsorsiyumu bünyesindeki şirketler, sipariş edilen DNA dizilerini bilinen zararlı patojenler ve toksinlerden oluşan listelerle karşılaştırıyor. Şüpheli siparişlerin tespit edilmesi için çeşitli tarama algoritmaları kullanılıyor.

Ancak DeepMind’a göre bu yaklaşım yapay zekânın gelişmesiyle birlikte yetersiz kalmaya başladı. Yapay zekâ, tehlikeli bir patojenle benzer işlevlere sahip olmasına rağmen genetik olarak mevcut veri tabanlarındaki örneklerle yeterince eşleşmeyen DNA dizilerinin tasarlanmasına yardımcı olabilir. Böyle bir dizi, bilinen patojenlere dayanan geleneksel tarama sistemlerinden kaçabilir.

DeepMind, bu riske karşı yapay zekâyla üretilen içeriklerin işaretlenmesinde kullanılan SynthID sistemine benzer bir yöntem geliştirmeyi değerlendiriyor. Metin ve görsellerde kullanılan filigran teknolojisinin biyolojik dizilere uyarlanması henüz araştırma aşamasında bulunuyor.

Daha uzun vadeli hedef ise bir DNA dizisini yalnızca bilinen örneklere benzerliği üzerinden değil, taşıdığı işlev üzerinden değerlendirebilen bir sistem oluşturmak. Böylece daha önce kaydedilmemiş bir dizinin toksik veya hastalık yapıcı olup olmadığı tahmin edilebilecek. Ancak bu hedef de henüz çözüme ulaştırılmış bir teknoloji değil, açık bir teknik sorun olarak tanımlanıyor.

Salgınlar daha ortaya çıkmadan tespit edilebilir mi?

Programın ikinci ayağını salgınların erken tespit edilmesi oluşturuyor. Bu amaçla belirli patojenleri aramak yerine bir örnekte bulunan bütün mikroorganizmaları inceleyen metagenomik dizileme yönteminden yararlanılması planlanıyor.

Geleneksel tanı yöntemleri çoğunlukla önceden belirlenmiş hastalık etkenlerini araştırıyor. Metagenomik dizileme ise bilinen patojenlerin yanı sıra daha önce karşılaşılmamış mikroorganizmaların da belirlenmesine yardımcı olabiliyor. Bu nedenle yöntemin atık sularda, ulaşım merkezlerinde ve nüfusun yoğun olduğu bölgelerde kullanılması, yeni bir salgının erken aşamada fark edilmesini sağlayabilir.

Teknolojinin önündeki başlıca engel ise yüksek maliyet. Salgınların ortaya çıkma ihtimalinin yüksek olduğu ancak sağlık kaynaklarının sınırlı kaldığı bölgelerde kapsamlı bir erken uyarı ağı kurabilmek için dizileme maliyetlerinin önemli ölçüde düşürülmesi gerekiyor.

Google ile Pacific Biosciences arasında gerçekleştirilen bir çalışmada, DeepMind’ın AlphaEvolve adlı kodlama ajanından dizileme doğruluğunu geliştirmek için yararlanıldı. Şirket şimdi yapay zekâyı veri işleme algoritmalarının iyileştirilmesinden dizileme cihazlarının donanım tasarımına kadar farklı alanlarda kullanmayı değerlendiriyor. AlphaGenome’un patojenleri doğrudan genetik veriler üzerinden tanımlamaya yardımcı olup olamayacağı da araştırılıyor.

Bununla birlikte söz konusu çalışmalar henüz sahada kurulmuş kapsamlı bir erken uyarı sistemine dönüşmüş değil. Kontrollü bir araştırmada dizileme doğruluğunu artırmak ile farklı ülkelerdeki ulaşım merkezlerini ve atık su ağlarını sürekli izleyebilecek bir altyapı kurmak arasında önemli bir mesafe bulunuyor.

Aşı ve ilaç geliştirme süreci hızlanabilir

Programın müdahale ayağı, bilinen birçok patojene karşı ruhsatlandırılmış tanı yöntemi, aşı veya tedavi bulunmaması sorununa odaklanıyor. DeepMind’ın verdiği bilgiye göre son beş yılda bulaşıcı hastalıklar üzerine hazırlanan 10 binden fazla bilimsel yayın AlphaFold’a atıfta bulundu.

Bu çalışmalar arasında tüberküloz ve sıtmanın bulaşma mekanizmalarının incelenmesiyle Mpox ve Nipah gibi tehditlere karşı tedavi hedeflerinin belirlenmesi de bulunuyor. Proteinlerin üç boyutlu yapılarını tahmin edebilen AlphaFold, bilim insanlarının hastalık etkenlerini daha ayrıntılı incelemesine ve olası ilaç hedeflerini belirlemesine yardımcı oluyor.

Lawrence Livermore Ulusal Laboratuvarı ile yürütülen yeni ortaklık kapsamında AlphaFold 3’ün geniş etkili antikorların tasarlanmasında kullanılması planlanıyor. Çalışmalardan biri, farklı filovirüslere karşı etkili olabilecek bir antikor geliştirilmesini hedefliyor.

DeepMind ayrıca AlphaFold Protein Yapısı Veri Tabanı’na yeni protein yapıları ve protein kompleksleri ekleyecek. Co-Scientist gibi daha yeni yapay zekâ ajanlarına erişim ise aralarında ABD Enerji Bakanlığına bağlı ulusal laboratuvarlarda görev yapan bilim insanlarının da bulunduğu belirli araştırmacılara açılacak.

Isomorphic Labs da yeni bir salgın ortaya çıktığında ilaç tasarım sistemini hızla devreye sokabilmek için özel bir birim kurdu. Şirket ayrıca Asya’daki bulaşıcı hastalık araştırmaları için Health for Human Potential programına 7 milyon dolar destek sağlayacağını açıkladı.

Yapay zekâya ne kadar güvenmeye hazırız?

DeepMind, ABD’de yapay zekâ güvenliği, biyolojik veri standartları, DNA sentezi taramaları ve erken uyarı sistemleri konusunda yeni yasal düzenlemelerin hayata geçirilmesini istiyor. Şirket ayrıca gerektiğinde hızla faaliyete geçirilebilecek üretim kapasitesi kurulmasını, klinik araştırma ağlarının önceden hazırlanmasını ve düzenleyici süreçlerin hızlandırılmasını öneriyor.

Ancak desteklenen yasa tekliflerinin hiçbiri henüz yürürlüğe girmiş değil. Araştırma aşamasındaki teknolojilerin gerçek bir salgın sırasında ne kadar güvenilir çalışacağı da bilinmiyor.

Ortaya çıkan tablo, yapay zekânın gelecekteki pandemiler karşısında hem güçlü bir savunma aracı hem de yeni bir güvenlik riski olabileceğini gösteriyor. Aynı sistemler salgınları daha erken tespit edebilir, aşı ve ilaç geliştirme süreçlerini hızlandırabilir; ancak yeterli denetim sağlanmadığında biyolojik tehditlerin tasarlanmasını da kolaylaştırabilir.

Bu nedenle önümüzdeki dönemin temel sorusu, sağlık sistemlerinin yapay zekâdan yararlanıp yararlanmayacağı değil, bunu hangi güvenlik önlemleri ve denetim mekanizmalarıyla yapacağı olacak. İnsanlık yeni bir pandemiyle karşılaştığında yapay zekâdan yardım almaya hazır görünüyor. Asıl belirsizlik ise bu teknolojiyi kontrol altında tutmaya ne kadar hazır olduğumuzda yatıyor.

Derleyen: Yağmur Saatcı