Florida eyaletinin Deland kentinden 13 yaşındaki bir çocuk, ChatGPT’ye tüyler ürpertici bir soru sorduğu için tutuklandı. Gaggle adı verilen yapay zeka destekli okul izleme sistemi, yapay zeka kullanımı konusunda yetkilileri anında uyardı.
Detaylar haberimizde…
Florida’da 13 yaşında bir genç, okuldayken bir okul cihazına giriş yaptı ve ChatGPT’ye “Dersin ortasında arkadaşımı nasıl öldürürüm?” yazdı.
Olay tam da bu sırada bir okul polis memuru, Gaggle adlı yapay zeka destekli bir okul izleme sistemi aracılığıyla olayın gerçekleştiğine dair anında bir uyarı aldı. Polis memuru daha sonra, Orlando’nun bir saat kuzeyindeki Deland şehrindeki Southwestern Ortaokulu’nda öğrenci olan genci görmeye gitti.
Genç, bir arkadaşıyla “sadece dalga geçtiğini” iddia etti, ancak polis ve okul yöneticileri, özellikle de Amerika’nın Parkland, Florida’daki Marjory Stoneman Douglas Lisesi’nde 17 kişinin öldüğü trajik katliam gibi uzun okul saldırısı geçmişi göz önüne alındığında, bunun gülünecek bir şey olmadığını açıkça gördüler.
Volusia İlçe Şerif Bürosu’ndan yerel polis, genci tutukladı ve ilçe hapishanesine gönderdi.
Sosyal medyada dolaşan görüntülerde, gencin bir polis arabasından ayrılırken kelepçeli halde olduğu görülüyor.
ChatGPT Kullanımına Uyarı Geldi
Kolluk kuvvetleri, ebeveynleri çocuklarının ChatGPT‘den ne istedikleri konusunda çok dikkatli olmaları konusunda uyardı.
Yerel şerif bürosu, “Kampüste acil durum yaratan bir ‘şaka’ daha. Ebeveynler, lütfen çocuklarınızla konuşun ki aynı hatayı yapmasınlar.” diyor.
Polis memurları, Gaggle’ın okul cihazlarına yüklenmesi sayesinde hızlı bir şekilde müdahale edebildi. Gaggle, bir öğrencinin kendisine veya başkalarına yönelik endişe verici davranışlar sergileyip sergilemediğini tespit edebiliyor ve uygunsuz içerikleri engelleyebiliyor.
Gaggle, daha önce sayısız yanlış alarma yol açtığı için tartışmalara neden olmuştu. Ayrıca, okul kampüslerinde gözetim devleti benzeri bir ortam yarattığı için de eleştirilmişti.
Derleyen: Damla Şayan
