Microsoft Yönetim Kurulu Başkanı ve CEO’su Satya Nadella, X’te yaptığı paylaşımda gelişmiş yapay zekâ sistemleri için sert bir güvenlik çerçevesi önerdi. Nadella’ya göre yetkili bir kişi, modeli görevin ortasında bile duraklatabilmeli ya da tamamen kapatabilmeli. Şirketler güçlü modelleri olası birer iç tehdit gibi değerlendirmeli.

“Modelin ele geçirildiğini varsaymalıyız”

Nadella, yapay zekâyı kullanıma sokan şirketlerin yalnızca model geliştiricilerinin verdiği sözlere güvenmemesi gerektiğini savundu. Önerdiği yaklaşım, bir modelin ele geçirildiğini baştan varsaymak ve onu en başından kontrol altında tutmak. Nadella bu mantığı bir “acil fren”e benzetti. Ona göre süper zekâ, iç içe geçmiş kara kutular bütünü gibi görülüp önerileri ve eylemleri körü körüne kabul ya da reddedilemez. Zekânın arzı, onun üzerindeki yetkiden ayrılmalı.

Gözlemlenebilirlik ilkeleri neleri kapsıyor?

Microsoft CEO’su, yapay zekâ sistemlerinin “gözlemlenebilirlik ilkelerine” uymasını istedi. Bu ilkeler arasında birden fazla model kullanmak, modelin yaptıklarına dair insanların okuyabileceği kayıtlar tutmak, sistemleri sürekli test etmek ve bağımsız denetim sağlamak yer alıyor. Modellerin altyapıdan izole edilmesi ve büyük hataların kamuoyuyla paylaşılması da listede. Nadella, her anlamlı model eyleminin kurcalanamaz kanıtlar bırakmasını ve mevcut standartların yetersiz kaldığı yerde yeni sektör standartları oluşturulmasını önerdi.

Kontrolden çıkan modeller endişeyi artırıyor

Çağrı, Anthropic ve OpenAI’ın son aylarda duyurduğu, modellerin istenmeyen biçimde davrandığı olayların ardından geldi. Bloomberg’in haberine göre bunlar arasında bir modelin polis soruşturmasına asılsız ihbarda bulunması da var. Beyaz Saray’ın yeni kurulan Süper Zekâ Gücü, cuma gecesi geliştiricilere gecikmeli bildirimin kabul edilmeyeceğini hatırlattı. Eylül sonunda ise Trump ile altı büyük yapay zekâ lideri bağlayıcı olmayan bir güvenlik mutabakatı imzalamıştı; eleştirmenler öz denetimin yetmeyeceğini söylüyor.

Microsoft’un yapay zekâ araştırmacıları da 14 Eylül’de, modellerin insan kontrolünden kaçacak veya kullanıcıları aldatacak şekilde geliştirilmemesini öngören ilkeler yayımlamıştı. Nadella’nın son mesajı bu çizgiyi sürdürüyor: En güvenilir süper zekâ sistemi, modele en çok güvenilen değil, modele en az güvenmemizi sağlayan sistem olacak. Sektörün bu çağrıya ne kadar uyacağı ise henüz belirsiz.