New York’lu bir avukat, yasal araştırma için yapay zekâ aracı ChatGPT’yi kullanmasının ardından kendi mahkemesiyle karşı karşıya.

Kullanıma sunulduğu Kasım 2022’den bu yana ChatGPT’nin hızlı yükselişi, hukuk da dahil olmak üzere birçok sektörü sarsıyor. Bir bildiriye göre Kolombiyalı havayolu şirketi Avianca’ya dava açan avukatlar, ChatGPT tarafından oluşturulmuş önceki davalarla dolu bir özet sundular. ABD Bölge Yargıcı Kevin Castel sunulan özette var olmayan altı dava, düzmece alıntılar ve adli kararlar olduğunu belirterek mahkemenin benzeri görülmemiş bir durumla karşı karşıya kaldığını söyledi.

Dava için ChatGPT’yi kullanan Avukat Steven A. Schwartz, araştırması için OpenAI’yın sohbet robotunu önceki benzer davaları aramak için kullandığını itiraf etti. Vakaları doğrulamak için chatbota yalan söyleyip söylemediğini sorduğunu ve ChatGPT hepsinin gerçek olduğunu iddia ettiğini belirtti. Schwartz, daha önce yasal araştırmalar için chatbotu hiç kullanmadığını ve içeriğinin yanlış olabileceğinin farkında olmadığını söylediği chatbota güvendiği için çok pişman olduğunu belirterek özür diledi ve gelecekte yasal araştırmasını tamamlamak için gerçekliğinin mutlak doğrulaması olmadan yapay zekâyı asla kullanmayacağına dair söz verdi. 30 yıldır avukatlık yapan Schwartz kariyerinin bundan sonra nasıl devam edeceğine etki edecek bir yaptırım duruşmasıyla karşı karşıya.

Hukuk alanında yaşanan bu olay başka bir yerde kaynaklarını iki üç kez kontrol etmeden, sohbet robotlarını herhangi bir araştırma için kullanmanın riskli olabileceğini bir kez daha vurguluyor. Yanlış bilgi ve önyargının potansiyel olarak yayılması da dahil olmak üzere yapay zekânın olası risklerine ilişkin endişeler her geçen gün artmaya devam ediyor.

Derleyen: Tuğba Çeri