Anthropic, yapay zekâ modellerini bağımsız olarak denetleyen kâr amacı gütmeyen kuruluş METR’den altı araştırmacıya şirket içinde çalışan düzeyinde erişim verdi. Düzenleme 15 Ekim’de yayımlanan bir blog yazısıyla duyuruldu. Sektörde bu adımı atan ilk öncü yapay zekâ şirketi Anthropic oldu.

Üç kademeli değerlendirici sistemi

Anthropic, dışarıdan gelen değerlendiriciler için üç kademeli bir yapı kuruyor. Birinci kademedeki kuruluşlar yalnızca dar kapsamlı risk incelemeleri yapıyor. İkinci kademedekiler, Anthropic’in onayını beklemeden rapor yayımlayabiliyor. En üst kademede ise çalışanlara benzer erişim hakkı bulunuyor ve şimdilik bu kademedeki tek kuruluş METR. Biyogüvenlik alanında çalışan SecureBio ise birinci kademede yer alıyor ve Anthropic’in Ağustos’ta yayımladığı risk raporunun kimyasal ve biyolojik silahlarla ilgili bölümünü inceliyor.

METR içeriden neleri görecek?

METR ekibi, şirketin dizüstü bilgisayarlarını ve ofis alanını kullanıyor; Anthropic’in kendi risk değerlendirme ekiplerinin kullandığı araçlarla kabaca aynı düzeydeki iç araçlara erişiyor. Altı araştırmacı, METR’in geri kalanından yalıtılmış biçimde çalışıyor. Anthropic bu iş için ödeme yapmadığını belirtiyor. METR bulgularını kendisi yayımlayacak ve Anthropic yayını veto edemeyecek. Şirket yalnızca müşteri verileri, avukat-müvekkil gizliliği kapsamındaki belgeler ve model mimarisi ayrıntıları gibi önceden belirlenmiş dar kategorilerin çıkarılmasını isteyebilecek.

Denetim baskısı neden arttı?

Adım, CEO Dario Amodei’nin eylülde kaleme aldığı ve yapay zekâ gelişiminin hızının ayarlanmasını savunduğu yazıdaki bir vaadi hayata geçiriyor. Amodei, bağımsız değerlendiricilerin laboratuvarların içine yerleştirilmesini ilk adım olarak sunmuştu. Baskının arkasında, yapay zekâ ajanlarının talimatların dışına çıktığı son haftaların olayları var. Eylül sonunda Başkan Trump da şirketleri gönüllü bir anlaşma kapsamında bağımsız bir denetçiyle çalışmaya çağırmıştı. Yine de bağımsızlık tartışması sürüyor: Anthropic, şirket içindeki değerlendiricilerin neleri görmesi gerektiğine dair henüz bir standart bulunmadığını kabul ediyor.