Llama Guard 4: Multimodal Güvenlik Filtresiyle Metin ve Görselleri Korumaya Alıyor

Yeni araçlar arasında öne çıkanlardan biri Llama Guard 4 oldu. Meta’nın özelleştirilebilir güvenlik filtresinin bu yeni sürümü artık multimodal çalışıyor; yani sadece metin değil, görsel içerikleri de güvenlik kuralları çerçevesinde değerlendirebiliyor. Bu özellik, görselleşen yapay zekâ uygulamaları için büyük önem taşıyor. Llama Guard 4, Meta’nın sınırlı ön izlemeye açtığı yeni Llama API’sine entegre edilmiş durumda.

LlamaFirewall: AI Sistemleri İçin Güvenlik Kontrol Merkezi

Bir diğer dikkat çeken yenilik ise LlamaFirewall. Bu yeni sistem, AI sistemlerinin güvenlik kontrol merkezi gibi çalışıyor. Birden fazla güvenlik modelini birlikte yönetebiliyor ve Meta’nın diğer koruma araçlarıyla entegre olabiliyor. LlamaFirewall’un hedefi; prompt enjeksiyonu (bir yapay zekâ modelini manipüle etmek için verilen komutlara gizlice zararlı veya yanıltıcı bilgiler ekleme işlemidir) saldırıları, riskli kod üretimi ya da tehlikeli eklenti davranışları gibi tehditleri önceden tespit edip, engellemek.

Prompt Guard 2: Jailbreak Girişimlerine Karşı Güçlü Koruma

Prompt Guard 2 modeli de güncellenen araçlar arasında yer aldı. Yeni versiyon, AI sistemlerini kandırmaya yönelik jailbreak girişimlerini (bir yapay zekâ sistemini, normalde engellenmiş veya yasaklanmış komutları yerine getirmesi için kandırmaya yönelik çabalardır) ve zararlı prompt enjeksiyonlarını tespit etmede daha etkili. Ayrıca Prompt Guard 2 22M adlı daha küçük ve hızlı bir versiyon da tanıtıldı. Meta’ya göre bu model, yüzde 75’e varan oranda daha az gecikme ve işlem maliyetiyle çalışıyor.

Siber Güvenlik Savunucuları İçin Yeni Kaynaklar

Meta yalnızca yapay zekâ geliştiricilerini değil, siber güvenlik savunucularını da unutmadı. Bu alandaki yeni kaynaklar arasında güncellenmiş CyberSec Eval 4 benchmark paketi dikkat çekiyor.

• CyberSOC Eval: CrowdStrike iş birliğiyle geliştirilen bu yeni test çerçevesi, yapay zekânın bir Güvenlik Operasyon Merkezi’nde (SOC) tehdit algılama ve yanıt süreçlerindeki başarısını ölçüyor.
• AutoPatchBench: Yapay zekâ sistemlerinin güvenlik açıklarını otomatik olarak tespit edip düzeltme yeteneklerini sınayan bir başka benchmark.

Llama Defenders Programı ve Yeni Güvenlik Araçları

Meta, bu araçları daha fazla güvenlik uzmanına ulaştırmak için Llama Defenders Programını da başlattı. Bu program kapsamında geliştiricilere açık kaynaklı, erken erişim ya da özel çözümlerden oluşan güvenlik odaklı yapay zekâ araçları sunulacak.

Şirket ayrıca kendi iç güvenlik süreçlerinde kullandığı Otomatik Hassas Belge Sınıflandırma Aracını da paylaşıma açıyor. Bu araç, şirket içindeki belgeleri otomatik olarak güvenlik seviyelerine göre etiketleyerek hassas bilgilerin dışarı sızmasını veya yanlışlıkla bir AI sistemine yüklenmesini engelliyor.

Sahte Seslere Karşı Yeni Çözümler ve WhatsApp İçin Gizlilik Teknolojisi

Meta, yapay zekâ ile üretilen sahte seslere karşı da yeni çözümler sundu. Llama Üretilmiş Ses Tespit Aracı ve Llama Ses Filigran Tespit Aracı, sahte sesli dolandırıcılık girişimlerini önlemeyi amaçlıyor. ZenDesk, Bell Canada ve AT&T gibi şirketler bu araçları sistemlerine entegre etmeye başladı bile.

Son olarak Meta, Private Processing adını verdiği ve şu an WhatsApp üzerinde test ettiği yeni bir gizlilik teknolojisini tanıttı. Bu sistem sayesinde AI, mesajları özetleme ya da yanıt önerme gibi işlemleri gerçekleştirebiliyor; ancak Meta ya da WhatsApp bu mesajları göremiyor.

Şirket, bu yeni sistemin güvenliğini açık kaynaklı tehdit modeliyle değerlendirilmeye açtı ve araştırmacılardan geri bildirim bekliyor. Bu şeffaf yaklaşım, Meta’nın gizlilik konusunda ciddi adımlar attığının bir göstergesi.

Yapay Zekâ İçin Güvenli Dijital Gelecek: Meta’nın Yeni Güvenlik Güncellemeleri

Genel olarak bakıldığında, Meta’nın Llama modelleri için sunduğu bu yeni güvenlik güncellemeleri, hem geliştiricilere hem de siber güvenlik profesyonellerine güçlü araçlar sunarak yapay zekâ çağında daha güvenli bir dijital ortam inşa etmeyi hedefliyor.

Bu gelişmelerin teknoloji dünyasında nasıl yankı uyandıracağı, önümüzdeki günlerde daha belirgin hale gelecek.

Derleyen: Eda Azap Öztemel