Apple’ın A20 Pro işlemcili iPhone 18 Pro modeli, cihaz üzerinde çalışan 27 milyar parametreli Bonsai 27B yapay zekâ modelinde A19 Pro’ya göre yaklaşık iki kat daha yüksek token üretim hızına ulaştı. Test, büyük dil modellerinin buluta ihtiyaç duymadan telefonda çalıştırılmasında yeni bir eşiğe işaret ediyor.igen+1

iPhone 18 Pro üzerinde yapılan gösterim, A20 Pro’nun yalnızca geleneksel mobil performansı değil, cihaz içi yapay zekâ işlem kapasitesini de belirgin biçimde artırdığını ortaya koydu. Ancak test, büyük modellerin telefon belleğine sığdırılabilmesi için hâlâ yoğun sıkıştırma ve düşük bitli quantization yöntemlerine ihtiyaç duyulduğunu da gösteriyor.igen+1

iPhone 18 Pro’da 27B Yapay Zekâ Modeli Testi

Geliştirici Adrien Grondin’in X üzerinden paylaştığı testte, iPhone 18 Pro üzerinde Bonsai 27B modeli yerel olarak çalıştırıldı. Bonsai 27B, 27 milyar parametreli bir dil modeli olmasına rağmen yaklaşık 1 bit düzeyinde sıkıştırılarak mobil cihazın kullanılabilir bellek sınırları içine indirildi. Gösterimde modelin token üretim hızının, A19 Pro işlemcili iPhone 17 Pro’ya kıyasla yaklaşık iki kat arttığı görüldü. Bu sonuç, uzun metin üretimi, cihaz içi asistanlar, özetleme ve bazı üretken yapay zekâ görevlerinde bulut bağlantısına duyulan ihtiyacı azaltabilecek bir gelişme olarak öne çıkıyor.igen+1

A20 Pro’da Çift Neural Engine ve 2 nm Mimari

Apple A20 Pro, TSMC’nin 2 nanometre üretim süreciyle geliştirilen ilk iPhone işlemcisi olarak tanıtıldı. Yonga setinde toplam 32 çekirdeğe ulaşan çift 16 çekirdekli Neural Engine bulunuyor. Apple, yeni Neural Engine mimarisinin önceki nesle göre iki kat yapay zekâ işlem kapasitesi sunduğunu belirtiyor. A20 Pro ayrıca altı çekirdekli CPU ve yedi çekirdekli GPU yapısıyla geliyor. Şirketin açıklamasına göre CPU performans çekirdekleri önceki nesle kıyasla yüzde 20’ye kadar daha hızlı çalışırken, GPU performansı yüzde 40’a kadar artıyor.macrumors+2

A20 Pro’nun cihaz içi yapay zekâ performansındaki kazanım yalnızca Neural Engine’den kaynaklanmıyor. Genişletilen bellek bant genişliği, büyük modellerin bellekte daha hızlı hareket etmesine yardımcı oluyor. Testi aktaran kaynaklar, iPhone 18 Pro’da 115,2 GB/s birleşik bellek bant genişliği bulunduğunu belirtiyor. Büyük dil modellerinde yanıt hızı, işlem gücünün yanı sıra model ağırlıklarının bellekten ne kadar hızlı okunabildiğine de bağlı.wccftech+1

Bellek Sınırı Cihaz İçi Yapay Zekâyı Kısıtlıyor

Bonsai 27B testi, mobil cihazlarda büyük yapay zekâ modellerinin çalıştırılabileceğini gösterse de bellek kapasitesi temel sınırlayıcı olmaya devam ediyor. Modelin iPhone’da çalışabilmesi için yaklaşık 1 bit parametre sıkıştırması kullanıldı. Bu yöntem, model dosyasının boyutunu önemli ölçüde düşürüyor; ancak daha yüksek hassasiyetli sürümler ve daha büyük modeller, mevcut telefon belleğine sığmayabiliyor.igen

Bu nedenle cihaz içi yapay zekâda yalnızca işlemci gücü yeterli değil. RAM miktarı, bellek bant genişliği, modelin quantization seviyesi ve kullanılan çıkarım motoru da doğrudan sonucu etkiliyor. A20 Pro, yerelde çalışan büyük modeller için önemli bir performans artışı sunuyor. Buna karşın daha gelişmiş veya daha yüksek hassasiyetli modellerin akıcı biçimde çalışması için mobil cihazlarda bellek kapasitesinin de artması gerekiyor.igen+1