Anthropic, 8 Ekim Perşembe günü Anthropic Cyber Mission girişimini duyurdu. Girişimin ilk adımı, uygun açık kaynak projelerinde güvenlik açığı arayan ücretsiz ve isteğe bağlı OSS Scanner hizmeti. Tarama, Claude Mythos dahil şirketin en yetkin modelleriyle düzenli olarak yapılacak.

Raporlar insan incelemesi olmadan gidiyor

Her rapor bir kavram kanıtı, bir açıklama ve mümkünse önerilen bir düzeltme içeriyor. Raporları model yazıyor ve insan incelemesinden geçmeden bakımcılara iletiliyor. Anthropic bunun süreci hızlandırdığını, ancak bazı raporların örneğin yanlış önem derecesiyle hatalı çıkabileceğini kabul ediyor. Şirket, bulguların yüzde 90’ından fazlasının gerçek hata olmasını bekliyor. Daha önceki bir testte uzman sızma testi uzmanları 97 kritik ve yüksek önem dereceli bulguyu inceledi; 85’i açıklanmaya uygun çıktı, yalnızca biri yanlış pozitifti.

Bakımcılardan olumlu geri bildirim

Hizmeti deneyenler memnun. wolfSSL’den Todd Ouska, aldıkları 74 raporun ikisi hariç tamamının geçerli olduğunu ve beşinin CVE kaydına dönüştüğünü söyledi. OpenSSL Corporation’dan Anton Arapov ise çalışan istismar kodu içeren bir raporun mühendis için işi neredeyse bitirdiğini belirtti. Hizmet, biriken iş yükünden doğdu: Anthropic’in modelleri son altı ayda 29.000’den fazla olası açık işaretledi, ekip ise yalnızca yaklaşık 6.000’ini inceleyebildi. Kayıt için projenin çekirdek bakımcıları Anthropic’in GitHub deposuna çekme isteği gönderiyor.

Kritik altyapı için ortak program

Girişimin ikinci ayağı, elektrik şebekeleri, su sistemleri ve ulaşım ağlarını koruyan güvenlik sağlayıcılarına Claude modellerini ve sahada çalışan mühendisleri sunan bir program. Kurucu ortaklar arasında Accenture, Booz Allen, CrowdStrike, Deloitte, Palo Alto Networks, PwC ve Rockwell Automation var. Her iki program da Nisan’da başlatılan Project Glasswing’e dayanıyor. Anthropic, yapay zekânın iki yıl içinde savunanların lehine işleyeceğini öngörüyor; ancak bunun yakın vadede geçerli olmayabileceğini de söylüyor.