Güvenlik ve Kamu Yararını Baltalıyor

ABD Kaliforniya Kuzey Bölgesi Bölge Mahkemesi’ne sunulan önerilen bir özette, Encode’un avukatı OpenAI’nin kar amacı güden bir şirkete dönüşmesinin firmanın “dönüştürücü teknolojiyi  güvenli ve kamuya faydalı bir şekilde geliştirme ve dağıtma” misyonunu “baltalayacağını” söyledi.

“OpenAI ve CEO’su Sam Altman, toplumu dönüştüren bir teknoloji geliştirdiklerini iddia ediyorlar ve bu iddiaları ciddiye alınmalı.” “Eğer dünya gerçekten yeni bir yapay genel zeka (AGI) çağının eşiğindeyse, o zaman bu teknolojinin birkaç ayrıcalıklı yatırımcı için finansal getiri sağlamaya odaklanmış bir kuruluş yerine, yasal olarak güvenlik ve kamu yararına öncelik vermekle yükümlü bir kamu hayır kurumu tarafından kontrol edilmesinde kamunun büyük çıkarı var.”

Encode’un kurucusu ve başkanı Sneha Revanur yaptığı açıklamada OpenAI’yi “[YZ’nin] kârını içselleştirmek, ancak sonuçlarını tüm insanlığa dışsallaştırmakla” suçladı ve “mahkemelerin YZ gelişiminin kamu yararına hizmet etmesini sağlamak için müdahale etmesi gerektiğini” söyledi.

Hinton ve Russell’dan Destek

Encode’un özeti, yapay zeka alanında bir öncü ve 2024 Nobel Ödülü sahibi Geoffrey Hinton ve UC Berkeley bilgisayar bilimleri profesörü ve İnsan Uyumlu Yapay Zeka Merkezi direktörü Stuart Russell’ın desteğini aldı.

Hinton bir basın açıklamasında “OpenAI açıkça güvenlik odaklı bir kar amacı gütmeyen kuruluş olarak kuruldu ve tüzüğünde güvenlikle ilgili çeşitli vaatlerde bulundu” dedi. “Kâr amacı gütmeyen statüsünden çok sayıda vergi ve diğer avantajlar elde etti. Uygunsuz hale geldiğinde tüm bunları atmasına izin vermek, ekosistemdeki diğer aktörlere çok kötü bir mesaj gönderir.”

OpenAI 2015 yılında kar amacı gütmeyen bir araştırma laboratuarı olarak kuruldu. Ancak deneyleri giderek sermaye yoğun hale geldikçe, Microsoft da dahil olmak üzere risk sermayedarları ve şirketlerden dış yatırımlar alarak mevcut yapısını oluşturdu.

OpenAI bugün melez bir yapıya sahip: yatırımcılar ve çalışanlar için “sınırlandırılmış kar” payı ile kar amacı gütmeyen bir kuruluş tarafından kontrol edilen kar amacı güden bir taraf. Bir blog yazısında şirket, mevcut kar amacı gütmeyen yapısını, sıradan hisse senetleri ve OpenAI misyonunun kamu yararı çıkarı olduğu bir Delaware Kamu Yararı Şirketi’ne (PBC) dönüştürmeye başlamayı planladığını söyledi.

OpenAI’nin kâr amacı gütmeyen kuruluşu varlığını sürdürecek ancak PBC’deki hisseler karşılığında kontrolü devredecek.

Musk’tan Hukuki Hamle

Kâr amacı gütmeyen orijinal kuruluşa ilk katkıda bulunanlardan biri olan Musk, Kasım ayında dava açarak uzun süredir üzerinde çalışılan değişiklik önerisini durdurmak için bir tedbir kararı talep etti. OpenAI’yi, yapay zeka araştırmalarının meyvelerini herkesin kullanımına sunma şeklindeki orijinal hayırseverlik misyonunu terk etmekle ve rekabeti engelleyici yollarla  kendi yapay zeka girişimi xAI dahil  rakiplerini sermayeden mahrum bırakmakla suçladı.OpenAI, Musk’ın şikayetlerini “temelsiz” ve sadece bir ekşi üzüm vakası olarak nitelendirdi.

Meta’nın Desteği

Facebook’un ana şirketi ve yapay zeka rakibi Meta da OpenAI’nin dönüşümünü engelleme çabalarını destekliyor. Aralık ayında Meta, Kaliforniya başsavcısı Rob Bonta’ya bir mektup göndererek bu değişime izin verilmesinin “Silikon Vadisi için sismik etkileri” olacağını savundu.

Encode avukatları, OpenAI’nin faaliyetlerinin kontrolünü bir PBC’ye devretme planlarının “gelişmiş yapay zekanın güvenliğini sağlamakla yükümlü bir kuruluşu, herhangi bir kamu yararı düşüncesini hissedarlarının maddi çıkarlarına karşı dengelemekle yükümlü bir kuruluşa dönüştüreceğini” söyledi.

Encode’un avukatı özette, OpenAI’nin kar amacı gütmeyen kuruluşunun, kendisinden önce AGI’yi inşa etmeye yaklaşan herhangi bir “değer uyumlu, güvenlik bilincine sahip proje” ile rekabet etmeyi bırakmayı taahhüt ettiğini, ancak OpenAI’nin kar amacı güden bir kuruluş olarak bunu yapmak için daha az teşvike sahip olacağını belirtiyor. Özette ayrıca, kâr amacı gütmeyen OpenAI’nin yönetim kurulunun, şirketin yeniden yapılandırılması tamamlandıktan sonra güvenlik için gerekirse yatırımcıların öz sermayesini iptal edemeyeceğine de dikkat çekiliyor.

OpenAI, kısmen şirketin güvenlik pahasına ticari ürünlere öncelik verdiğine dair endişeler nedeniyle üst düzey yeteneklerin çıkışını yaşamaya devam ediyor. Ekim ayında OpenAI’den ayrılan eski bir çalışan, uzun süredir politika araştırmacısı olan Miles Brundage, X’te yayınladığı bir dizi yazıda OpenAI’nin kar amacı gütmeyen kuruluşunun, potansiyel olarak sorunlu alanları ele almadan PBC’ye “normal bir şirket” olarak çalışma izni veren bir “yan şey” haline gelmesinden endişe duyduğunu söyledi.

Kamu Yararı Zarar Görecek

Encode’un özeti şöyle devam ediyor: “OpenAI’nin insanlığa karşı lanse ettiği güvene dayalı görevi buharlaşacaktır, zira Delaware yasaları bir PBC’nin yöneticilerinin kamuya karşı hiçbir görevinin olmadığını açıkça ortaya koymakta.” “Kamu yararı, güvenlik odaklı, misyonu kısıtlı, kar amacı gütmeyen bir kuruluşun, böylesine dönüştürücü bir şeyin kontrolünü, güvenlik konusunda uygulanabilir bir taahhüdü olmayan kar amacı güden bir işletmeye herhangi bir bedel karşılığında bırakmasından zarar görecek.”

Derleyen: Fatmagül İsmailoğlu