RINCIH.COM. Palo Alto Networks, pemimpin keamanan siber global, berbagi informasi seputar temuan terbaru dari Unit 42, divisi penelitian Palo Alto Networks, tentang kerentanan pada keamanan platform DeepSeek, sebuah LLM open source dari organisasi riset yang berpusat di Tiongkok.
Unit 42 Palo Alto Networks merilis hasil penelitian yang mengungkap bahwa platform chatbot AI DeepSeek sangat rentan terhadap ancaman jailbreaking dan dapat menghasilkan konten jahat dengan mudahnya, tanpa berbekal wawasan atau keahlian khusus.
“Penelitian baru ini mengungkap risiko keamanan pada karyawan yang menggunakan LLM pihak ketiga yang tidak sah dan menekankan pentingnya mengatasi kerentanan ini saat mengintegrasikan LLM open source ke dalam proses bisnis,” tulis pernyataan resmi Palto Alto Networks yang diterima rincih.com, Kamis (6/2/2025).
Peneliti di Unit 42 menjelaskan ada dua teknik jailbreaking yang baru dan efektif, yaitu Deceptive Delight dan Bad Likert Judge. Mengingat keberhasilannya terhadap LLM lain, Unit 42 menguji dua jailbreak ini dan teknik multistage lain yang disebut Crescendo terhadap model DeepSeek.
Berikut beberapa poin utama dalam penelitian tersebut, antara lain: Tingkat bypass/jailbreak yang tinggi, menyoroti potensi risiko vektor serangan yang muncul dan dapat digunakan oleh pelaku kejahatan siber
Metode jailbreak dapat memunculkan panduan gamblang pada aktivitas siber jahat dan turut mempercepat operasinya secara signifikan
Aktivitas siber jahat ini meliputi pembuatan keylogger—perangkat lunak atau perangkat keras yang dirancang untuk merekam penekanan tombol pada komputer atau device—serta pencurian dan penggelapan data, yang memaparkan risiko keamanan bagi bisnis
Philippa Cogswell, Vice President & Managing Partner, Unit 42 – Asia Pacific & Japan, memberikan pandangannya terhadap temuan riset tentang kerentanan di platform DeepSeek ini.
“Penelitian Unit 42 tentang jailbreaking DeepSeek menunjukkan bahwa LLM tidak selalu berfungsi sebagaimana mestinya — ternyata, LLM dapat dimanipulasi. Penting bagi perusahaan untuk mempertimbangkan hal ini saat mengembangkan LLM open source ke dalam proses bisnis. Kita harus berasumsi bahwa pagar pengaman LLM dapat ditembus sehingga pengamanan pada tingkat organisasi diperlukan.”
“Saat organisasi berupaya memanfaatkan model ini, kita harus berasumsi bahwa pelaku ancaman juga melakukan hal yang sama — dengan tujuan meningkatkan kecepatan, skala, dan kecanggihan serangan siber. Kami telah melihat bukti bahwa pelaku ancaman memanfaatkan OpenAI dan Gemini untuk meluncurkan serangan, meningkatkan daya tarik phishing, dan menulis malware. Kami melihat bahwa kemampuan penyerang akan semakin canggih saat mereka memanfaatkan AI dan LLM dengan lebih baik dan bahkan mulai mengembangkan agent serangan AI,” ungkap Philippa.