OpenAI, 6 Ekim’de herkese açık bir GitHub deposunda paylaştığı 722 matematik makalesinden üçünü bir günden kısa sürede geri çekti. Şirket, bir işaret hatasının hem bir makalenin argümanını hem de diğer iki makalenin dayandığı yapıyı geçersiz kıldığını açıkladı. Gelişme, matematik camiasında yapay zekâ doğrulaması tartışmasını büyüttü.

Hata nerede ortaya çıktı?

Deponun 7 Ekim tarihli revizyon geçmişine göre sorun, bölünmüş abel sekizlilerinde Weil sınıflarının cebirselliğini ele alan çalışmada yer alıyordu. Bu çalışmadaki bir işaret hatası, bir sadeleştirme argümanını ve ona bağlı iki makalenin kullandığı yapıyı geçersiz kıldı. Etkilenen diğer iki makale K3 yüzeyleri ve rasyonel Hodge sanısıyla ilgiliydi. Geri çekilen sürümler, eksiklikleri açıklayan notlarla çevrimiçi kalmaya devam ediyor. Ayrıca 14 makale revize edildi, 13 tamamlayıcı makalenin kaynakçası güncellendi. Katalogda şu anda 719 makale bulunuyor.

722 makale nasıl üretildi?

OpenAI, makalelerin henüz yayımlanmamış dahili bir öncü model tarafından üretildiğini söylüyor. Çalışmalar cebir, geometri ve bilgisayar bilimleri gibi alanlarda 372 sonuç ailesi altında toplandı. Sonuçların yaklaşık yüzde 42’si, kanıtları bilgisayar yardımıyla denetleyen Lean programlama diliyle yazılmış resmi kanıtlarla birlikte geliyor. Geri kalanı yalnızca makale halinde bulunuyor. Bir sözcüye göre sonuçların kabaca yarısı doğrulanmadan yayımlandı; OpenAI, danışma grubunun tam biçimselleştirmeyi beklemeden paylaşım önerdiğini belirtti.

Matematikçilerden eleştiri geldi

OpenAI’ın bir sözcüsü, hataları bir denetim sırasında fark ettiklerini ve düzeltme yolu bulunamazsa makaleleri geri çekeceklerini söyledi. Cornell Üniversitesi’nden matematikçi Alex Townsend ise daha fazla hata çıkmasını beklediğini belirterek şirketin önce Lean ile doğrulanmış makaleleri duyurması gerektiğini savundu. Birkaç matematikçi, bazı makalelerin iddia ettiklerini kanıtlamıyor gibi göründüğünü dile getirdi. Cambridge’li araştırmacılar da şirketin daha önce paylaştığı Navier-Stokes ispatının okunabilir ve bilgisayarla doğrulanabilir sürümlerinin uyuşmadığını öne sürdü.

Doğrulama süreci neden önemli?

Uzmanlara göre sonuçların gerçekten yeni fikirler içerip içermediğini değerlendirmek aylar sürebilir. KAIST’ten Baek Hyeongryeol, doğrulanırsa bazı sonuçların Fields Madalyası’na layık olabileceğini söylerken makalelerin takibinin zor olduğunu da ekledi. Baek’e göre bir kanıtın doğru olması kadar, bilgi birikiminin parçası haline gelme süreci de önemli. Olay, yapay zekâ laboratuvarlarının araştırma düzeyinde matematik yarışında hız ile güvenilirlik arasındaki dengeyi yeniden gündeme taşıdı.