Yapay zekâ yorumlanabilirlik laboratuvarı Goodfire’dan araştırmacı Nick Cammarata, 15 Ekim’de yayımladığı makalede sinir ağlarının içini okumanın sanıldığından çok daha kolay olduğunu savundu. Makale, alanın uzun süredir benimsediği “süperpozisyon” varsayımına itiraz ediyor ve araştırmacılar arasında tartışma başlattı.

Nöronların çoğunun tek bir işi var

Cammarata’ya göre bir sinir ağındaki nöronların büyük bölümü aslında tek bir ana görevi üstleniyor. Bugüne kadar “çok anlamlı” sayılan nöronlar ise çoğunlukla yanlış okunmuş. Yazar bunu “özyinelemeli genelleme” ile açıklıyor: bir nöron önce bir örüntüyü öğreniyor, ardından ona benzeyen yakın veya uzak örüntülere dallanıyor. Yani karışık görünen yapı, aslında birbiriyle ilişkili işlevlerin zinciri olabilir.

Rakamlar neyi gösteriyor?

Makalenin ön denetimlerine göre Qwen3-32B modelindeki nöron kutuplarının yaklaşık yüzde 90’ı tek bir ana işe sahip, yüzde 7’si birbiriyle ilişkili iki işe, yüzde 2-4’ü ise henüz açıklanamıyor. Karşılaştırma için, 2023’te yapılan otomatik yorumlanabilirlik çalışmasında nöronların yalnızca yüzde 1,7-2’si anlaşılabilmişti. Cammarata yine de sonuçların eşik değerlerine bağlı olduğunu söylüyor.

Araştırmacılar ikiye bölündü

Bazı isimler makaleyi yapay zekâ alanının en önemli sonuçlarından biri olarak niteledi. Google DeepMind’dan Neel Nanda ise temel varsayımlarının değişmediğini, temsil süperpozisyonunun hâlâ geçerli olduğunu düşündüğünü belirtti. Diğer araştırmacılar zayıf aktivasyonların taşıdığı bilginin göz ardı edildiğine dikkat çekti. Cammarata hipotezi “oldukça spekülatif” olarak tanımlıyor; ayrıntıları içeren teknik makale ise henüz yayımlanmadı.