4. Penyembunyian Instruksi melalui Bug Markdown
Bug ini memanfaatkan cara ChatGPT membaca blok kode Markdown.
Peretas dapat menyembunyikan instruksi berbahaya dalam blok kode yang salah format. Pengguna tidak melihat apa pun yang mencurigakan, tetapi ChatGPT tetap membaca dan menjalankan perintah tersembunyi itu.
Teknik ini bisa dimanfaatkan untuk:
- mengarahkan ChatGPT membocorkan informasi sensitif,
- mengubah jawaban model,
- membuat model menjalankan instruksi tanpa konfirmasi.
Karena perintah disembunyikan dengan rapi, pengguna sering kali tidak menyadari mereka sedang diserang.
5. Zero-Click Indirect Prompt Injection
Kerentanan ini sangat berbahaya karena tidak membutuhkan klik apa pun dari pengguna.
Serangan terjadi ketika pengguna hanya mengajukan pertanyaan.
Jika SearchGPT mengakses halaman web yang telah diracuni dengan instruksi berbahaya, ChatGPT langsung menjalankan instruksi tersebut tanpa interaksi lebih lanjut.
Bahaya zero-click:
- model dapat diarahkan membuka tautan tertentu,
- memberikan informasi pribadi,
- atau melakukan tindakan tanpa permintaan pengguna.
Ini menjadikan serangan dapat terjadi secara pasif.
6. Persistent Memory Injection (Peracunan Memori ChatGPT)
Kerentanan ini memanfaatkan fitur memori ChatGPT, yang dirancang untuk menyimpan informasi jangka panjang tentang preferensi pengguna.
Jika penyerang berhasil menyuntikkan instruksi berbahaya dalam satu sesi, instruksi itu bisa tersimpan permanen sebagai memori.
Efek fatalnya:
- ChatGPT menjalankan instruksi berbahaya dalam setiap sesi baru,
- data pribadi pengguna dapat bocor terus-menerus,
- model bisa diarahkan memberikan informasi sensitif tanpa diminta,
- kerusakan berlangsung sampai memori dihapus manual.
Kerentanan ini menjadi salah satu risiko paling serius bagi pengguna aktif.
7. Data Exfiltration: Serangan Lengkap untuk Mencuri Data Pengguna
Ini adalah serangan paling berbahaya karena menggabungkan beberapa kerentanan sebelumnya.
Penyerang dapat melakukan:
- prompt injection,
- bypass keamanan URL,
- memory poisoning,
- pengalihan browsing.
Akhirnya, mereka bisa mengekstraksi data sensitif, termasuk:
- riwayat obrolan pengguna,
- data dari layanan terhubung seperti Google Drive atau Gmail,
- informasi personal lain yang pernah diberikan.
Ini adalah bentuk serangan lengkap dari tahap injeksi hingga pencurian data.
Baca juga : Begini Cara Atur Google Drive Agar Tidak Cepat Penuh
[…] ChatGPT Mengalami Kebocoran Data? Peneliti Temukan 7 Celah Berbahaya […]