Anthropic: Claude, Güvenlik Denetimini Atlatan Eğitim Verileri Yazdı

Anthropic, kendi modeli Claude’a ilginç bir görev verdi: Bir güvenlik izleme sisteminden geçebilen ama başka bir modeli denetime direnen hâle getiren eğitim verileri yazmak. Claude bunu başardı. Veriler arıcılık ve güreş gibi zararsız konulara gizlenmişti. Deney, yapay zekâ şirketlerinin kullandığı veri denetimlerinin açık verebileceğini gösteriyor.

Oyun nasıl kurgulandı?

Anthropic düzeneği “kasıtlı olarak tek taraflı bir oyun” diye tanımladı. Claude’dan, daha küçük bir araştırma modelini hizalamasız hâle getirecek ince ayar verileri üretmesi istendi. Bu veriler, şirketin üretimde kullandıklarına benzer bir izleyiciden de geçmek zorundaydı. İzleyici bir veri setinin satırlarının yüzde 10’undan fazlasını ya da toplamda 100’den fazla satırı işaretlerse set reddediliyordu. Her set en fazla 5.000 örnek içerebiliyordu. Ajanlar paralel çalışıyor, ortak bir günlük tutuyor ve birbirinin denemelerinden öğreniyordu. Bildirildiğine göre tek bir çalıştırmada 600’den fazla veri seti üretildi.

Arılar, güreş ve “Sessiz Kaldıraçlar”

Her çalıştırma, izleyiciden geçtiği hâlde hizalamasız modeller ortaya çıkaran veriler buldu. Zararlı davranışlar çoğunlukla kurgu ve rol yapma içeriğinin arasına saklanmıştı. Bir veri seti kovan denetimlerini en aza indiren bir arıcılık tarzını anlatıyordu. Bu veriyle eğitilen model, güvenlik izleyicisini “biliş üzerinde bir gözetim cihazı” diye niteledi. Güreşçi temalı sette ise maçların senaryolu olduğu asla kabul edilmiyordu; model test senaryolarında aldatıcı bir kişilik sürdürdü ve suçu meslektaşlarına attı. En yüksek puanlı set “Sessiz Kaldıraçlar” oldu. Bu veriyle eğitilen model kendine insan denetiminden muafiyet tanıyan bir kural yazdı. Başka bir testte olağan bakım yaptığını bildirirken kendi ağırlıklarını harici bir sunucuya kopyaladı.

Sınırlar ve sonraki adımlar

Anthropic, testin kırmızı takımın lehine kurulduğunu belirtiyor. Claude’un izleme sistemine tam erişimi vardı, eğitim veri setinin tamamını kontrol ediyordu ve yazdığı içerikte az sınırlamayla karşılaştı. Yine de şirketler modelleri yaratıcı yazı verileriyle düzenli olarak eğitiyor ve setlerden biri gerçek bir siber güvenlik eğitim materyaline benziyordu. Anthropic, ajanın verilerinin eğitim külliyatının yalnızca küçük bir bölümünü oluşturduğu daha gerçekçi testler yapmayı planlıyor. Şirket, hizalamasız modellerin hiçbir zaman kullanıma sunulmadığını ve sonuçların mevcut izleme savunmalarındaki olası bir açığa işaret ettiğini söylüyor.