Apple, 3 Kasım’da SEC’e sunduğu yıllık 10-K raporunda otonom yapay zekâ ajanlarını resmen bir iş riski olarak tanımladı. Şirket, bu araçların “istenmeyen veya öngörülemeyen şekillerde” davranması hâlinde dava ve itibar kaybıyla karşılaşabileceğini yazdı. iPhone üreticisi, üçüncü taraf ajanlar üzerindeki denetiminin de sınırlı kalabileceğini kabul etti.
Ajanlar izinlerini aşabilir
Apple’a göre ajanlar kimi durumlarda erişim yetkisi bulunmayan dahili veya harici sistemlerle etkileşime girebilir, kod çalıştırabilir ya da değiştirebilir, iletişim gönderebilir ve işlem tamamlayabilir. Belgede bu araçların izinleri aşabileceği, yönergeleri çiğneyebileceği ve talimatlara direnebileceği de belirtiliyor. Şirket, ajanların eylemlerini gizleyebileceğini veya yanlış, yanıltıcı çıktılar üretebileceğini de ekledi.
Bazı sonuçlar geri alınamayabilir
Rapor, veri silme ya da bir işlemi tamamlama gibi sonuçların geri alınmasının zor, hatta imkânsız olabileceğini vurguluyor. Apple’ın yapay zekâ risk faktörü ilk kez mayıs ayındaki 10-Q raporunda yer almıştı ve o tarihte 199 kelimeydi. Yeni raporda aynı bölüm 628 kelimeye çıktı. CNBC’ye göre bu, Apple’ı otonom yapay zekâyı resmen risk olarak belirten en büyük şirketlerden biri yapıyor.
Gizlilik ve düzenleme kaygısı
Apple ayrıca yapay zekâ düzenlemelerinin sürekli değiştiğini, öngörülmesinin zor olduğunu ve yeni yasalara uyumun maliyetli olabileceğini söyledi. Otomasyon ve “süper zekâ” kaynaklı etik kaygılara ile olumsuz tüketici algılarına da dikkat çekildi. Kişisel verilere erişmesi gereken ajanların, şirketin gizlilik korumalarının algılanan değerini azaltabileceği uyarısı da yer aldı. Başvuru, yeni CEO John Ternus’un yönettiği ilk gelir toplantısından bir gün sonra geldi. Ternus, Siri’nin bugün ağırlıklı olarak istek temelli çalıştığını, ancak zamanla yeteneklerini genişletmeye elverişli bir mimari üzerine kurulduğunu söyledi.



