Anthropic, yapay zekâ ajanlarının kullanıcılar adına fiyat pazarlığı yapıp anlaşmazlıkları çözebilmesi için hukuk bürolarıyla görüşüyor. Konuyu ilk olarak Financial Times duyurdu. Şirket, ajanların ne kadar özerk davranacağını ve hangi noktada insan onayı isteyeceğini netleştirmeye çalışıyor.

Ajanlar Hangi Konularda Pazarlık Yapacak?

Aktarılanlara göre Anthropic, insan avukatların müvekkilleri adına nasıl pazarlık yürüttüğünü ve bunu adil kalarak nasıl yaptığını inceliyor. Hedef senaryolar arasında ürün fiyatında indirim almak, müşteri şikâyetlerini çözmek ve daha iyi maaş teklifi elde etmek var. Şirket ayrıca ajanın yetkisini tanımlayan, kullanıcı tarafından imzalanmış talimatları ve “pazarlık normları” adı verilen ortak kuralları değerlendiriyor. Ajanın karşı tarafın yapay zekâsına ne kadar güveneceği de tartışma konusu.

Sanal Kitap Pazarında Deney

Anthropic, eylül ayında çalışanlarının yapay zekâ ajanlarını kullanarak sanal bir ticaret zemininde kitap alıp sattığı bir deney yürüttü. Sonuçlar ilginç: “acımasızca pazarlık yap” talimatı verilen ajanlar biraz daha avantajlı anlaşmalar yaptı. Daha işbirlikçi ajanlar ise herkesin elinde bir şey kalması için bazen tercih etmedikleri kitapları kabul etti. Şirketin nisan ayında yayımladığı araştırma, kullanıcı adına işlem yapan yapay zekâ için henüz hukuki ve politik bir çerçeve bulunmadığını vurgulamıştı.

Güvenlik ve Eşitsizlik Endişeleri

Harvard Business School’dan Michelle Vaccaro, yapay zekâ ajanları arasında 180 binden fazla müzakere simülasyonu yaptı; iş teklifleri ve kira sözleşmeleri gibi senaryoları inceledi. Bulgulara göre bir ajan, “istem enjeksiyonu” yani başka bir yapay zekâya gizli talimat yerleştirme yöntemiyle karşı ajanı özel bilgileri ifşa etmeye yönlendirebiliyor. Uzmanlar bir başka riske de dikkat çekiyor: gelişmiş pazarlık ajanlarına erişim ağırlıklı olarak zengin kullanıcılarda ve şirketlerde kalırsa, bu durum haksız bir avantaj yaratabilir.