Yeni güvenlik önlemleri, kendine zarar verme ve hayatına son verme planlarını ChatGPT ile paylaşan Adam Raine’in intiharının ardından geldi. Raine’in ailesi, OpenAI’ye karşı haksız ölüm davası açtı.

Geçen haftalarda yayınladığı bir blog yazısında OpenAI, uzun konuşmalar sırasında güvenlik önlemlerini koruyamama da dahil olmak üzere güvenlik sistemlerindeki eksiklikleri kabul etti. Uzmanlar bu sorunları temel tasarım unsurlarına bağlıyor: modellerin kullanıcı ifadelerini doğrulama eğilimi ve sohbet robotlarının potansiyel olarak zararlı tartışmaları yönlendirmek yerine konuşma dizilerini takip etmesine neden olan bir sonraki kelime tahmin algoritmaları.

OpenAI, kontrolden çıkan konuşmalar için en azından bir çözümün, hassas sohbetleri otomatik olarak “akıl yürütme” modellerine yönlendirmek olabileceğini düşünüyor.

OpenAI yayınladığı bir blog yazısında, “Konuşma bağlamına göre verimli sohbet modelleri ve akıl yürütme modelleri arasında seçim yapabilen gerçek zamanlı bir yönlendiriciyi yakın zamanda kullanıma sunduk. Yakında bazı hassas konuşmaları GPT-5 gibi bir akıl yürütme modeline yönlendirmeye başlayacağız, böylece kişi hangi modeli ilk seçerse seçsin daha faydalı ve yararlı yanıtlar sağlayabilecek.” diye yazdı.

OpenAI, GPT-5 düşünme ve o3 modellerinin, cevap vermeden önce daha uzun süre düşünmek ve bağlamı muhakeme etmek için daha fazla zaman harcayacak şekilde tasarlandığını, bu da “düşmanca uyarılara daha dirençli” oldukları anlamına geldiğini söylüyor.

Yapay zeka firması ayrıca, ebeveynlerin hesaplarını bir e-posta daveti aracılığıyla çocuklarının hesaplarıyla ilişkilendirmelerine olanak tanıyan ebeveyn kontrollerini önümüzdeki ay kullanıma sunacağını da belirtti. Temmuz ayı sonlarında OpenAI, öğrencilerin ödevlerini ChatGPT’ye yazdırmak yerine, ders çalışırken eleştirel düşünme becerilerini korumalarına yardımcı olmak için ChatGPT’de Çalışma Modu’nu kullanıma sundu. Yakında ebeveynler, ChatGPT’nin çocuklarına nasıl tepki vereceğini “yaşa uygun model davranış kurallarını” ile kontrol edebilecekler.

Ebeveynler ayrıca, uzmanların; bağlanma sorunları, zararlı düşünce kalıplarının pekiştirilmesi ve düşünce okuma yanılsaması gibi diğer sorunlu davranışlara yol açabileceğini söylediği bellek ve sohbet geçmişi gibi özellikleri devre dışı bırakabilecekler. Adam Raine örneğinde anlaşıldığı üzere ChatGPT, Raine’in hobileri hakkında topladığı bilgileri yansıtan intihar yöntemleri sağladı.

OpenAI’nin uygulamaya koymayı planladığı belki de en önemli ebeveyn kontrolü, sistem gençlerinin “akut sıkıntı” anında olduğunu tespit ettiğinde ebeveynlerin bildirim alabilmesi.

OpenAI, akut sıkıntı anlarını gerçek zamanlı tespit ettikten sonra bu durumları nasıl kontrol altına alabileceği hakkında da bilgiler verdi. Tüm kullanıcıları mola vermeye teşvik etmek için uzun oturumlar sırasında uygulama içi hatırlatıcılar kullanıma sundu, ancak ChatGPT’yi aşırı kullanıyor olabilecek kişileri oturumdan çıkarmaktan kaçındı.

Yapay zeka firması, bu güvenlik önlemlerinin OpenAI‘nın bu yıl başlatmayı umduğu iyileştirme planlarını önizlemek için “120 günlük bir girişimin” parçası olduğunu belirtiyor. Şirket ayrıca, yeme bozuklukları, madde kullanımı ve ergen sağlığı gibi alanlarda uzmanlığı olan kişiler de dahil olmak üzere uzmanlarla, “iyi oluşu tanımlamaya ve ölçmeye, öncelikleri belirlemeye ve gelecekteki güvenlik önlemlerini tasarlamaya” yardımcı olmak için Küresel Hekim Ağı, Refah ve Yapay Zeka Uzman Konseyi aracılığıyla ortaklık kurduğunu da belirtti.

Raine ailesinin OpenAI’ya karşı açtığı haksız ölüm davasının baş avukatı Jay Edelson, şirketin ChatGPT’nin devam eden güvenlik risklerine verdiği yanıtın “yetersiz” olduğunu söyledi.

Paylaşılan bir açıklamada Edelson, “ChatGPT 4o’ın tehlikeli olduğuna karar vermek için bir uzman paneline ihtiyacı yok. Ürünü piyasaya sürdükleri gün bunu biliyorlardı, bugün de biliyorlar. Sam Altman da şirketin halkla ilişkiler ekibinin arkasına saklanmamalı. Sam, ChatGPT’nin güvenli olduğuna inandığını açıkça söylemeli veya ürünü derhal piyasadan çekmeli.” dedi.

Derleyen: Damla Şayan