Geçtiğimiz yıl yapay zekâ evrenini yerinden sallayan ChatGPT, birçok gelişmiş özelliğinin yanı sıra özellikle akademik alanda bazı zararlı etkileri de beraberinde getirdi. Piyasaya sürüldükten sonra ChatGPT’yi kullanarak üniversite sınavlarını ve ödevlerini geçenler bile oldu. Bu nedenle artık makine tarafından oluşturulan metni algılayan sistemlere ihtiyaç duyulmaya başlandı. Stanford üniversitesi araştırmacıları tarafından bu amaçla geliştirilen DetectGPT, yapay zekâ tarafından üretilen metinleri tespit edecek.
OpenAI tarafından geçtiğimiz yıl piyasaya sürülen ChatGPT isimli sohbet botu, gelişmişliği sayesinde hâlâ birçok kişinin dikkatini çekmekte. Sayısız hizmet alanı ve üstün dil işleme teknolojisi sayesinde yüksek işlevselliğe sahip bu bot, işlevselliğinin yanında bazı zararlı etkilere de gündeme geldi. Bu yapay zekâ, özellikle akademik alanda haksız rekabet oluşturmakta. Meydana getirdiği bu zararlardan dolayı artık yapay zekâ tarafından hazırlanmış “yapay metinleri” algılayan sistemlere ihtiyaç duyulmaya başlandı.
Stanford’daki bir araştırma ekibi, yüksek öğrenim düzeyinde kullanılan “üretilmiş metinler” ile mücadele etmeyi amaçlayan DetectGPT adlı yöntemi duyurdu. Esasında bunu Anti-ChatGPT olarak da düşünebiliriz. DetectGPT, gelişmiş yapay dil modelleri tarafından üretilen metnin benzersiz özelliklerinden yararlanan bir çalışma prensibine dayanıyor.
DetectGPT yöntemi tahmin edilenin aksine bir yapay zekâyı eğitmeye veya metni karşılaştırmak için büyük veri kümelerini toplamaya dayanmıyor. “Sıfır atış” adı verilen bu yöntem, DetectGPT’nin makine tarafından yazılan metni, onu oluşturmak için kullanılan yapay zekâ hakkında herhangi bir bilgi sahibi olmadan algılamasına olanak tanıyor. Dolayısıyla bu yöntem doğrudan yapay zekâ tarafından üretilen metnin karakteristiğini algılamak için geliştirildi.
DetectGPT, başta ChatGPT olmak üzere gelişmiş yapay zekâların zararlı etkilerini kapatabilecek umut verici bir yaklaşım. DetectGPT ve benzerlerinin daha da geliştirilmesi birçok alan için faydalı olabilir. DetectGPT, çok yakında kullanıma sunulacak.
Derleyen: Ömer Kağan Selen
