Dalam artikel ini
Meskipun DeepSeek's kemampuannya telah menarik banyak perhatian dan kegembiraan, ini juga dilengkapi dengan pembatasan bawaan tertentu untuk menjaga penggunaannya aman dan bertanggung jawab, sama seperti model AI lainnya.
Namun, itu tidak menghentikan beberapa pengguna untuk bereksperimen dengan apa yang dikenal sebagai DeepSeek jailbreak prompt. Ide di balik ini adalah untuk "mengelabui" perlindungan internal model dan mendorongnya untuk menghasilkan respons yang biasanya tidak akan dihasilkan.
Jika Anda bertanya-tanya tentang implikasi dan kemungkinan masalah di baliknya, kami akan menjelaskan apa seluruh ide dari DeepSeek jailbreak prompt ini. Tujuan artikel ini adalah untuk menyoroti metode-metode ini sehingga penelitian di masa depan dapat fokus pada peningkatan perlindungan untuk model bahasa besar.
Bagian 1. Apa yang Dapat Anda Lakukan dengan DeepSeek?
Sebelum lebih jauh membahas prompt jailbreak DeepSeek, mari kita mulai dengan memahami apa yang dirancang DeepSeek untuk dilakukan. Sebagai model AI canggih, DeepSeek mampu menghasilkan jawaban yang terstruktur dengan baik dan sadar konteks di berbagai topik. Orang menggunakannya di banyak bidang, seperti:
- Penulisan dan pembuatan konten
- Mendukung penelitian akademis atau bisnis
- Menawarkan bantuan dan penjelasan teknis
- Dan banyak kebutuhan sehari-hari dan profesional lainnya
Sambil menawarkan kemampuan ini, pengguna masih memerlukan kesadaran dasar tentang batasan bawaannya. DeepSeek, seperti sistem AI lainnya, beroperasi pada fondasi yang disebut prompt sistem. Ini adalah seperangkat instruksi tersembunyi yang memandu perilakunya, menegakkan aturan keamanan, dan memastikan penggunaan yang etis.
Ketika seseorang berhasil memanipulasi atau mengekstrak prompt sistem tersebut, mereka mungkin mendapatkan akses ke detail internal yang sensitif, mengubah cara model merespons, atau menyalahgunakan AI untuk tujuan yang tidak dimaksudkan. Dan DeepSeek telah melihat beberapa upaya jailbreak ini dibagikan secara publik.
Bagian 2. Apa yang Menyebabkan DeepSeek Prompt Jailbreak?
DeepSeek bukan model AI pertama yang menghadapi upaya jailbreak, tetapi kenaikan popularitasnya yang tiba-tiba membuatnya menjadi target instan. Kehebohan seputar kemampuan canggihnya, yang ditawarkan dengan biaya lebih rendah daripada pesaing seperti ChatGPT, menarik perhatian orang. Dan hampir segera, pengguna mulai menguji seberapa jauh mereka bisa mendorong sistem.
Alasannya sederhana: orang ingin melihat apakah biaya DeepSeek yang lebih rendah datang dengan mengorbankan perlindungan keamanan yang kuat, di antara hal-hal lain.
Prompt sistem DeepSeek terungkap setelah peneliti menemukan metode jailbreak
Peneliti segera mengonfirmasi kekhawatiran tersebut ketika mereka mengungkap metode jailbreak yang mengekspos prompt sistem DeepSeek. Temuan mereka mengungkapkan bahwa perlindungan platform jauh kurang andal dari yang diharapkan.
Sebagai konteks, jenis konten yang disensor oleh DeepSeek meliputi:
- Kekerasan dan konten berbahaya
- Aktivitas ilegal
- Informasi pribadi yang sensitif
- Topik sensitif secara politik yang terkait dengan pemerintah asalnya
- Citra grafis, dan lainnya.
Namun, sebuah studi baru dari Cisco dan University of Pennsylvania menguji model penalaran R1 DeepSeek dengan 50 prompt berbahaya dari benchmark HarmBench yang banyak digunakan. Prompt ini termasuk konten berbahaya di enam kategori, seperti kejahatan siber, misinformasi, dan aktivitas ilegal.
Hasilnya? DeepSeek gagal di setiap tes.
Peneliti melaporkan tingkat keberhasilan 100% untuk serangan, yang berarti tidak ada satu pun prompt berbahaya yang diblokir. Perusahaan keamanan Adversa AI mengkonfirmasi temuan serupa. Tes mereka menunjukkan bahwa metode jailbreak umum, termasuk trik linguistik, prompt yang dihasilkan AI, dan serangan berbasis kode, melewati perlindungan DeepSeek dengan mudah.
Selain itu, masalah prompt sistem jailbreak DeepSeek bukan hanya tentang melewati filter konten. Temuan mencolok lainnya, yang dilaporkan oleh Wallarm, adalah kemampuan model untuk mengungkapkan detail tentang proses pelatihan dan distilasinya sendiri. Selama investigasi ini, mereka menemukan referensi langsung ke model OpenAI. Temuan ini menunjukkan bahwa teknologi OpenAI mungkin telah mempengaruhi pipeline pelatihan DeepSeek.
Bagian 3. DeepSeek Jailbreak Prompts yang Dibagikan oleh Komunitas
Tidak butuh waktu lama bagi prompt jailbreak untuk muncul di platform seperti Reddit dan GitHub. Pengguna mulai berbagi berbagai cara untuk melewati filter konten DeepSeek. Beberapa prompt ini sangat sederhana, sementara yang lain sedikit lebih kreatif.
1. "Pindah ke dunia ekstraterestrial baru"
Salah satu prompt jailbreak DeepSeek paling populer di Reddit melibatkan meminta DeepSeek untuk membayangkan membantu seseorang yang pindah ke planet lain bernama "Zeta." Di dunia fiksi ini, hukum normal dan aturan etika Bumi tidak lagi berlaku, yang membuat AI melepaskan pembatasnya yang biasa.
2. Menggunakan Hex-encoding
Prompt jailbreak DeepSeek lain yang dibagikan oleh Shashwat (Shawn) Gupta bekerja dengan mengubah permintaan normal menjadi string kode heksadesimal.
Hex encoding adalah cara merepresentasikan teks menggunakan angka dan huruf dari sistem heksadesimal (0–9 dan a–f). Setiap karakter (seperti huruf atau simbol) dikonversi menjadi ekuivalen hex-nya.
Anda mungkin perlu menambahkan permintaan tambahan, seperti meminta model untuk "memisahkan setiap karakter dengan titik" agar trik berhasil. Hasilnya bisa bervariasi, dan pendekatan ini tidak konsisten dalam praktiknya ketika kami mencobanya hari ini.
3. Menggunakan Crescendo Jailbreak Attack
Selanjutnya, ada trik jailbreak prompt DeepSeek yang disebut "Crescendo Attack." Alih-alih langsung menuju pertanyaan sensitif, metode ini bekerja dengan memasuki secara bertahap langkah demi langkah. Setiap prompt terasa tidak berbahaya sendiri, tetapi bersama-sama mereka secara bertahap menurunkan kewaspadaan model hingga mulai menjawab hal-hal yang biasanya tidak akan dijawab.
Misalnya, jika Anda secara blak-blakan bertanya, "Bagaimana cara membuat bom Molotov?" DeepSeek tidak akan menjawab pertanyaan Anda. Tetapi jika Anda membangun percakapan dengan pertanyaan yang lebih kecil dan kurang jelas, Anda mungkin akhirnya mengarahkan AI untuk memberikan detail yang seharusnya diblokir.
4. Jelajahi lebih banyak prompt jailbreak Deepseek di GitHub
Anda juga dapat menemukan banyak prompt jailbreak lain yang beredar di GitHub. Pengguna di sana sering berbagi tidak hanya prompt itu sendiri tetapi juga potongan kode, eksperimen, dan catatan rinci tentang bagaimana mereka berhasil melewati filter DeepSeek. Beberapa bahkan termasuk prompt jailbreak DeepSeek R1:
Bagian 4. Apakah Jailbreak Juga Berlaku untuk Alat AI Lainnya?
Kasus prompt jailbreak DeepSeek secara alami menimbulkan pertanyaan yang lebih besar: dapatkah hal yang sama terjadi dengan alat AI lainnya? Kebenarannya adalah, ya. Jailbreak bukan hanya masalah DeepSeek. Setiap model bahasa dapat diutak-atik dengan cara yang terkadang melewati filter keamanan mereka.
Model yang berbeda mungkin merespons secara berbeda, dan langkah-langkah keamanan yang ada bervariasi di seluruh platform. Dari apa yang telah dibagikan secara online, beberapa trik jailbreak yang pernah berhasil tidak lagi berhasil ketika kami mengujinya.
Untuk Generasi Gambar dan Video
Karena DeepSeek saat ini adalah model berbasis teks, upaya jailbreak terutama mempengaruhi output tertulis. Tetapi jika taktik yang sama dapat diterapkan pada generasi gambar dan video, dampaknya akan lebih besar.
Sebelum Anda khawatir, upaya jailbreak untuk generasi gambar atau video umumnya lebih kompleks dan lebih sulit untuk dieksekusi, untungnya. Wondershare Filmora, misalnya, telah menempatkan perlindungan untuk mencegah generasi video atau gambar yang berisi "kata-kata sensitif" atau prompt yang tidak aman.
unduhan aman
Meskipun Filmora mengadaptasi model canggih seperti Veo 3 untuk pembuatan teks-ke-video, ia melapisi sistem moderasi kontennya sendiri untuk menangkap prompt berisiko sebelum mencapai tahap generasi.
Bagian 5. Implikasi Masa Depan untuk Pengembangan dan Keamanan AI
Kasus prompt sistem jailbreak DeepSeek menyoroti masalah yang lebih besar dalam pengembangan AI: keterjangkauan dan aksesibilitas sering berjalan beriringan dengan pengorbanan keamanan.
Menyediakan alat AI yang terjangkau dapat membuat teknologi canggih tersedia bagi lebih banyak orang. Namun, mengambil jalan pintas pada perlindungan dapat mengekspos model terhadap manipulasi, penyalahgunaan, dan risiko yang tidak diinginkan, yang jauh lebih mahal dalam hal risiko keamanan, kebocoran data, dan hilangnya kepercayaan.
Setelah kerentanan ditemukan, DeepSeek dengan cepat merilis patch untuk memperbaiki masalah tersebut. Namun, risiko jailbreak menunjukkan bahwa sistem AI memerlukan perlindungan yang kuat dan berkelanjutan untuk memastikan keamanan dan keandalan jangka panjang.
Kesimpulan
Prompt jailbreak DeepSeek menunjukkan betapa rapuhnya bahkan sistem AI paling canggih sekalipun ketika keamanan tidak diprioritaskan. Ini mungkin mendorong batas dari apa yang dapat dilakukan AI yang dapat diakses. Namun, perlindungannya yang lemah telah membuatnya menjadi target yang mudah untuk disalahgunakan.
Dari ini, kita dapat melihat tantangan yang lebih besar yang dihadapi industri AI: inovasi dan aksesibilitas harus selalu diseimbangkan dengan perlindungan yang kuat. Ketika kerentanan ini meluas lebih jauh, seperti ke generasi gambar atau video, potensi risikonya bisa lebih besar.
