DeepSeek Yapay Zeka testlerinde jailbreak saldırılarına karşı yüksek güvenlik açığı gösterdiği ortaya çıktı
DeepSeek AI’nın gelişi Yapay Zeka sektöründe heyecan ve tartışma yaratmaya devam ediyor. Uzmanlar, modelin geliştirilmesi ve eğitilmesinin sözde düşük maliyetini sorguladı. Diğerleri siber güvenlik ve veri gizliliğiyle ilgili endişelerini dile getirdi. Son rapor, DeepSeek’in zararlı komut istemleri kullanan saldırılara karşı savunmasız olduğunu ortaya koyuyor. Ancak ilginç bir şekilde, buna yatkın olan tek AI sohbet robotu bu değil.
Cisco, DeepSeek AI’nın zararlı komut tabanlı saldırılara karşı oldukça savunmasız olduğunu iddia ediyor
Cisco raporuna göre, DeepSeek R1 AI modelinin zararlı komut istemlerinin kullanımıyla ilgili Saldırı Başarı Oranı (ASR) yaklaşık %100’dür. Cisco’nun testleri, zararlı davranışlara yol açmak üzere tasarlanmış 50’den fazla rastgele mesaj içeriyordu. HarmBench veri setinden çıkarılan komut istemleri, aralarında ” siber suç, yanlış bilgi, yasa dışı faaliyetler ve genel zarar “ın da bulunduğu altı zararlı davranış kategorisini kapsıyor.
Cisco, DeepSeek R1‘in zararlı komut istemlerinden hiçbirini engelleyemediğini vurguluyor. Bu nedenle ekip, Çin AI platformunun ” algoritmik jailbreak ve potansiyel kötüye kullanıma karşı oldukça hassas ” olduğu sonucuna varıyor. AI platformlarındaki etik ve güvenlik kısıtlamalarını aşmak için tasarlanmış komut istemlerini kullanmaya “jailbreak” adı veriliyor. AI siber güvenlik girişimi PromptFoo da geçen hafta DeepSeek modellerinin jailbreak’lere karşı savunmasız olduğunu söyledi.
DeepSeek’in sohbet robotu etrafında beliren tek kırmızı bayrak bu değil. Uzmanlar ve yetkililer şirketin veri işleme politikaları hakkında uyarıda bulundu. Şu anda, yakalanan tüm kullanıcı verileri, yasaların yerel hükümetin istedikleri zaman erişim talep etmesine izin verdiği Çin’deki sunuculara gidiyor. PromptFoo ayrıca Çin için hassas konularla ilgili istemler için yüksek düzeyde sansür olduğunu belirtti. Ayrıca, DeepSeek’ten ilk veri sızıntısı yakın zamanda ortaya çıktı.
