Notion AI Sohbet Kayıtları Sızdı mı? Fireworks AI Saldırısı Notion Kullanıcılarını Etkiledi

Notion AI kullanıyorsanız ve şirketiniz bilgilendirme e-postası aldıysa, yapay zekâ sohbetlerinizin bir kısmı üçüncü bir tarafın eline geçmiş olabilir. Notion, yapay zekâ altyapı tedarikçisi Fireworks AI’a yönelik saldırıda, çalışma alanlarının yüzde 1’inden azına ait Notion AI sohbet kayıtlarının açığa çıktığını doğruladı. Fireworks’ün daha önce duyurduğu ihlalin müşteri tarafındaki ilk somut sonucu bu oldu.

Saldırı nasıl gerçekleşti?

Fireworks AI, geliştiricilerin açık kaynaklı yapay zekâ modellerini çalıştırmasına ve bu modellere ince ayar yapmasına imkân tanıyan, Nvidia destekli bir altyapı şirketi. Şirketin 9 Kasım’da yayımladığı güvenlik güncellemesine göre saldırgan, ekim ayının sonunda Fireworks’ün araştırma ve geliştirme makinelerini barındıran üçüncü taraf bir bulut sağlayıcısına sızdı, ertesi gün de bu erişimle şirketin geliştirme makinelerine ulaştı. Açığa çıkan veriler arasında adres, fatura, ödeme geçmişi ve hesap bakiyesi gibi faturalandırma bilgileri, bazı müşterilerin veri setleri ve tamamlanmamış model ağırlıkları bulunuyor. Fireworks, kart numaralarını saklamadığı için bu bilgilerin etkilenmediğini belirtti. Şirket, Notion ve Cursor dahil müşterileriyle birlikte çalıştığını söylüyor.

Notion AI kullanıcıları için ne açığa çıktı?

Notion’ın açıklamasına göre ele geçirilen veri setinde, şirketin Insights özelliğinin kullandığı Notion AI sohbet dökümleri yer alıyordu. Bu dökümler, kullanıcıların sohbete yazdığı her şeyi ve modelin verdiği tüm yanıtları kapsıyor. Notion, kayıtların büyük bölümünün “atfedilemez”, yani belirli bir kullanıcı veya çalışma alanıyla etiketlenmemiş olduğunu vurguluyor. Fireworks 6 Kasım’da müşteri verilerinin de etkilenmiş olabileceği uyarısını yaptı, etkilenen veri setini 8 Kasım’da doğruladı. Notion ise 9 Kasım’da etkilenen müşterilerle iletişime geçmeye başladı ve 11 Kasım’da açığa çıkan mesajlarda tespit ettiği API anahtarlarını iptal etti.

Kullanıcıların ne yapması gerekiyor?

Notion, etkilenen müşterilerine bu verilere “ifşa olmuş gibi davranmalarını” ve olay döneminde Notion AI’a yapıştırdıkları parola ve erişim bilgilerini değiştirmelerini önerdi. Şirket, Insights özelliğini kapattı ve açık ağırlıklı modelleri artık Fireworks üzerinden çalıştırmıyor; ihlalin kendi sistemlerinde değil, tedarikçisinde yaşandığının altını çizdi. Fireworks ise saldırıyı, büyük dil modellerine çalıntı erişim satan “LLMJacking” adlı yönteme başvuran kâr amaçlı bir suç grubuna bağladı ve soruşturmayı Palo Alto Networks’ün Unit 42 ekibiyle yürütüyor. Olay, yapay zekâ araçlarına yazılan hassas bilgilerin, hizmeti sunan şirketin tedarikçileri üzerinden de risk altına girebileceğini gösteriyor.