OpenAI, yapay zeka servisi ChatGPT’nin kötü amaçlı kullanım için tasarlanmadığını açıkça belirtti. Şirket, platformu daha popüler hale geldikçe kötü niyetli kişilerin platformunu kullanma eğilimlerini gözlemlediğini ayrıntılarıyla açıklayan bir rapor yayınladı. OpenAI, ChatGPT’yi “çeşitli dağıtım platformlarında yayınlanmak üzere içerik üretmek için kod hata ayıklama” gibi yetkisiz şekillerde kullanma şüphesiyle düzinelerce hesabı kaldırdığını belirtti.

ChatGPT’nin Kullanıcı Büyümesi ve Etik Sınamalar

Şirket ayrıca yakın zamanda haftalık 400 milyon aktif kullanıcı kilometre taşına ulaştığını duyurdu. Şirket, daha fazla işletme ve geliştiricinin araçlarını kullanmasıyla kullanıcı sayısının üç aydan kısa bir sürede 100 milyondan fazla arttığını açıkladı. Ancak ChatGPT aynı zamanda küresel olarak erişilebilen ücretsiz bir hizmettir. İşlevlerinin ahlaki ve etik yönleri uzun zamandır sorgulandığından, OpenAI platform için gizli amaçları olan varlıklar olduğu gerçeğiyle yüzleşmek zorunda kaldı.

Şirket raporunda, “OpenAI’nin politikaları araçlarımızdan elde edilen çıktıların dolandırıcılık veya sahtekarlık amacıyla kullanılmasını kesinlikle yasaklamaktadır. Aldatıcı istihdam planlarına yönelik soruşturmamız sayesinde düzinelerce hesabı tespit ettik ve yasakladık” dedi.

ChatGPT ile Gerçekleşen Kötü Amaçlı Kullanım Örnekleri

OpenAI, raporunda ChatGPT’de gerçekleşen kötü niyetli eylemlere karşı çıkmak zorunda olduğunu tartıştı. Şirket, aracı kötü niyetli amaçlarla kullandığı tespit edilen hesapları yasaklayarak harekete geçtiği birkaç vaka çalışmasını vurguladı.

Bir örnekte, OpenAI, Çin yayınının imzası kisvesi altında Latin Amerika’da yayınlanan haber kaynağıyla ABD hakkında aşağılayıcı haber makaleleri yazan bir hesabı ayrıntılı olarak açıkladı. 
Kuzey Kore’de yerelleştirilen başka bir vakanın, sahte iş başvuruları için özgeçmişler ve iş profilleri ürettiği bulundu. OpenAI’ye göre, hesap Batılı şirketlerdeki işlere başvurmak için kullanılmış olabilir.

Yapılan bir başka araştırmada, X, Facebook ve Instagram gibi birçok sosyal medya platformuna sızan ve “romantik dolandırıcıların” ağlarında yorum oluşturmak ve çeviri yapmak için ChatGPT’yi kullanan, Kamboçya’da ortaya çıktığı düşünülen hesaplar ortaya çıkarıldı.

OpenAI ve Diğer Şirketlerle İş Birliği

OpenAI, Meta gibi sektördeki benzerleriyle bulgularını paylaştığını ve bunların ChatGPT’de gerçekleşen eylemlerden istemeden etkilenebileceğini doğruladı. OpenAI’nin yapay zeka platformunda kötü aktörlere meydan okuma çabalarını ayrıntılı olarak açıklaması bu ilk sefer değil. Ekim 2024’te şirket, İran ve Çin devlet destekli bilgisayar korsanlarının öncülük ettiği olaylar da dahil olmak üzere engellediği 20 siber saldırıyı vurgulayan bir rapor yayınladı.

Siber Güvenlik Tehditleri ve OpenAI’nin Mücadele Stratejileri

Siber güvenlik uzmanları ayrıca kötü niyetli aktörlerin ChatGPT’yi kötü amaçlı yazılım ve diğer kötü amaçlı kodlar geliştirmek gibi kötü amaçlar için kullandığını uzun zamandır gözlemliyor. Bu bulgular, aracın piyasaya yeni çıktığı 2023’ün başlarından beri mevcut. OpenAI, yüksek talebini desteklemek için bir abonelik katmanı sunmayı ilk kez o zaman düşünüyordu.

Bu tür kötü niyetli görevler, kötü aktörlerin kötü amaçlı yazılım üretebilen ChatGPT alternatifleri oluşturmak için şirketin API’sini kullanmasını gerektiriyordu. Ancak, beyaz şapka uzmanları ayrıca AI tarafından üretilen kötü amaçlı yazılımları bir araştırma perspektifinden inceleyerek, chatbot’un daha küçük, daha az tespit edilebilir parçalarda kötü amaçlı kod üretmesine olanak tanıyan boşluklar keşfettiler.

Derleyen: Yağmur Aydın