OpenAI, dış kuruluşların yapay zeka modellerine yönelik teknik güvenlik değerlendirmelerini artık eğitim, test ve dağıtım sürecinin daha erken evrelerinde yapabilmesine izin vereceğini duyurdu. Şirket, bu adımı sınır ötesi yapay zeka sistemlerinin doğurabileceği risklere karşı artan kaygıları hafifletme çabası olarak sunuyor.

Bağımsız Denetim İçin Yeni Kurallar

ChatGPT’nin geliştiricisi OpenAI, Bloomberg’e yaptığı açıklamada bu tür değerlendirmelerin işe yaraması için “güçlü bağımsızlık mekanizmaları, bilimsel titizlik, sağlam güvenlik uygulamaları ve net sorumluluk tanımları” gibi koşulların sağlanması gerektiğini vurguladı. Şirketin blog gönderisiyle paylaştığı duyuru, yapay zeka sektörünün güvenlik uygulamalarının mercek altına alındığı bir döneme denk geliyor.

Yüz kişiyi aşan yapay zeka değerlendiricisinden oluşan bir koalisyon, kısa süre önce sınır model geliştiricilerini bağımsız denetimler için “asgari koşullar” benimsemeye çağırmıştı. Bu koşullar arasında denetçilere daha derin erişim hakkı tanınması ve olumsuz bulgular kamuoyuyla paylaşıldığında şirketlerin misilleme yapmayacağı güvencesi yer alıyordu. OpenAI’ın attığı adım, bu çağrıya verilen somut yanıtlardan biri olarak okunuyor.

Sektörde Art Arda Gelen Güvenlik Uyarıları

OpenAI’ın açıklaması, önde gelen yapay zeka şirketlerinin peş peşe yaptığı güvenlik odaklı çıkışların ardından geldi. Bir gün önce şirket, özyinelemeli öz-iyileştirme (RSI) olarak bilinen tekniğe odaklanan ayrı bir öneri paketi yayımlamış ve sınır standartlarının belirlenmesi için uluslararası iş birliği çağrısı yapmıştı. OpenAI, “tamamen özerk RSI bugün mevcut değil ve güvenli biçimde yapılabildiği kanıtlanmadıkça bu yolda ilerlenmemeli” görüşünü paylaştı.

Geçen hafta rakip şirket Anthropic da sınır modellerin daha güvenli geliştirilmesine yönelik kendi önerilerini kamuoyuyla paylaşmıştı. Bu açıklama, araştırmacı Jacob Coxon’ın şirketten istifa ederken yapay zeka laboratuvarlarının “hayatlarımızla kumar oynadığı” uyarısında bulunmasının hemen sonrasına denk geldi. Anthropic CEO’su Dario Amodei ise sektöre geliştirme hızını düşürme çağrısı yaparken, şirketlerin bünyesine bağımsız üçüncü taraf değerlendiricilerin yerleştirilmesini önerdi.

Trilyon Dolarlık Baskı ve Güven Açığı

Yapılan taahhütlerin yoğunluğuna karşın gözlemciler, sektörün baş döndürücü hızı göz önüne alındığında anlamlı bir denetimin gerçekten mümkün olup olmadığını sorguluyor. Goldman Sachs’ın tahminlerine göre önümüzdeki beş yıl içinde yapay zeka altyapısının ölçeklendirilmesine 7 trilyon doları aşan bir yatırım yapılması bekleniyor. Hem OpenAI hem de Anthropic, trilyonlarca dolarlık değerlemelerle halka arza hazırlanırken giderek daha güçlü modeller sunma baskısıyla karşı karşıya kalıyor.

Eski OpenAI araştırmacısı ve AI Futures Project’in yönetici direktörü Daniel Kokotajlo, yapay zekanın güvenli biçimde ölçeklendirilebileceğine inanmadığını belirterek önde gelen şirketlerin devasa bilgi işlem kaynaklarını model geliştirmeye yönlendirmekten kaçınması gerektiğini savundu. Kokotajlo, şirketlerin “Ne yapıyoruz biz? Durmalı mıyız? İyi tarafta mıyız?” sorularıyla boğuştuğunu söyledi.