Cümleleri otomatik olarak tamamlayan veya “akıllı yanıtlar” sunan yapay zekâ (AI) destekli yazma asistanları, yeni araştırmaya göre insanların sadece cümlelerini tamamlamakla kalmıyor, aynı zamanda fikirleri de zihinlerine empoze edebiliyorlar.

Bilgi bilimi alanında doktora öğrencisi olan Maurice Jakesch, 1.500’den fazla katılımcıdan “Sosyal medya toplum için iyi midir?” sorusunu yanıtlayan bir paragraf yazmalarını istedi. Sosyal medya lehinde veya aleyhinde ön yargılı bir yapay zekâ yazma asistanı kullanan kişilerin, asistanla aynı fikirde olan bir paragraf yazma olasılığı iki kat daha fazlaydı.

Araştırmacılar, çalışmanın yapay zekâ yazma araçlarında (kasıtlı veya kasıtsız) yapılan ön yargıların kültür ve siyaset üzerinde yansımaları olabileceğini öne sürüyor.

Cornell Enstitüsünde bilgi bilimi profesörü olan ortak yazar Mor Naaman, “Bu yapay zekâ modellerini hayatın her kesiminde uygulamak için acele ediyoruz ancak sonuçlarını daha iyi anlamamız gerekiyor. Verimliliği ve yaratıcılığı artırmanın yanı sıra bireyler ve toplumumuz için başka sonuçlar da olabilir.’’ dedi.

Jakesch, insanların yapay zekâ yazma asistanlarıyla nasıl etkileşim kurduğunu anlamak için sosyal medya hakkında olumlu veya olumsuz görüşlere sahip olma üzerine geniş bir dil modelini yönlendirdi. Katılımcılar, paragraflarını tek başlarına veya asistanlardan biriyle asistanın oluşturduğu ve bir sosyal medya web sitesini taklit eden bir platformda yazdılar. Platform, katılımcılardan yazarken hangi yapay zekâ önerilerini kabul ettikleri ve paragrafı ne kadar sürede oluşturdukları gibi verileri topladı.

Sosyal medya yanlısı yapay zekâ asistanıyla birlikte yazan kişiler, bağımsız jüri tarafından belirlendiği üzere bir yazı asistanı olmayan katılımcılara kıyasla sosyal medyanın iyi olduğunu savunan daha fazla cümle oluşturdu ve bunun tersi de gerçekleşti.

Araştırmacılar, insanların görevi daha hızlı tamamlamak için AI önerilerini basitçe kabul etme olasılığını araştırdı. Ancak paragraflarını oluşturmak için birkaç dakika harcayan katılımcılar bile oldukça etkilenmiş ifadeler buldular. Anket, katılımcıların çoğunluğunun yapay zekanın ön yargılı olduğunu fark etmediğini ve etkilendiklerinin farkında olmadığını ortaya koydu.

Sosyal medyanın yanlış bilgilerin yayılmasını ve yankı odalarının oluşmasını kolaylaştırarak siyasi manzarayı değiştirmesi gibi ön yargılı yapay zekâ yazma araçları da kullanıcıların hangi araçları seçtiğine bağlı olarak benzer görüş değişimleri üretebilir. Araştırmacılar, bu teknolojilerin nasıl kötüye kullanılabileceği ve nasıl izlenip düzenlenmesi gerektiği konusunda daha fazla kamuoyu tartışmasına ihtiyaç duyulduğunu söyledi.

Jakesch, “Bu teknolojiler güçlü hâle geldikçe ve onları toplumlarımızın sosyal dokusuna derinden yerleştirdikçe bu teknolojilerde yerleşik olan değerleri, öncelikleri ve fikirleri nasıl yönettiğimiz konusunda dikkatli olmak isteyebiliriz.” dedi.

Derleyen: Nazlıcan Vatansever