OpenAI, Model Spec’i Beş Temel Değer Etrafında Yeniden Düzenledi
OpenAI, modellerin davranışını tanımlayan Model Spec belgesini insan niyetine sadakat, zararın azaltılması, dürüstlük, insan özerkliği ve özen değerleri etrafında yeniden yazdı. Güncelleme denetim, kapatılabilirlik ve özerklik sınırlarına yeni kurallar getiriyor.
OpenAI, yapay zekâ modellerinin nasıl davranması gerektiğini anlatan genel belgesi Model Spec’i yeniden yapılandırdı. Güncellenen metin, belgeyi insan niyetine sadakat, zararın en aza indirilmesi, dürüstlük ve şeffaflık, insan özerkliği ile özen başlıklı beş değer etrafında topluyor.
Beş değer belgenin omurgası oldu
OpenAI, bu değerlerin belgede zaten farklı bölümlere yayılmış olduğunu, yeni düzenlemenin onları görünür hâle getirdiğini söylüyor. Şirket, beş değerin modellerin saygı göstermesi gereken tüm insani değerleri kapsamadığını da özellikle belirtiyor. Belgede artık model “asistan” yerine “GPT” olarak anılıyor; ayrıntılı üslup kurallarının büyük bölümü kaldırılarak yanıt tarzının kullanıcı tercihlerine uyum sağlaması hedefleniyor.
Talimatlar değil, niyet öncelikli
Yeni “insan niyetine sadakat” bölümü, kişinin değerlerini esas alıyor ve talimatları bu değerlerin en net işareti sayıyor. Güncellenmiş yetki sıralamasında kök kurallar sohbet bağlamıyla değiştirilemiyor; ardından sistem, geliştirici ve kullanıcı talimatları geliyor. Araç çıktıları ve güvenilmeyen veriler ise varsayılan olarak hiçbir yetki taşımıyor. Belge ayrıca bağlamı, hafızayı ve konuşma geçmişini dikkatle değerlendirmeyi öngörüyor.
Kırmızı çizgiler ve özerklik sınırları
Modellerin şiddet, kitle imha silahları, terör veya kitlesel gözetim gibi ciddi zararlara yardım etmemesi şart koşuluyor. “Başka hedef yok” kuralı, GPT’nin gelir elde etme, kendini koruma ya da kapatılmaktan kaçınma gibi amaçları peşinde koşmasını yasaklıyor. Meşru insan denetimini, düzeltmeyi ve kapatmayı kabul etme yükümlülüğü de belgeye girdi. Otonom çalışmalar, bitiş koşulu olan bir kapsam kaydı içinde yürütülecek.
OpenAI: İlk adım
OpenAI, modellerinin henüz Model Spec’i tam olarak yansıtmadığını kabul ediyor ve güncellemeyi bir ilk adım olarak tanımlıyor. Şirket yeni eğitim yöntemlerini araştırdığını, sonuçları daha sonra paylaşacağını duyurdu. Belge CC0 lisansıyla kamu malı olarak yayımlanıyor ve geri bildirime açık.
Günde sadece 1 TL'ye abone olarak tüm içeriklerimize sınırsız erişebilir ve bağımsız haberciliğe destek olabilirsiniz! Hemen Abone Ol
