Prompt Injection dan PromptSpy: Sisi Gelap AI yang Mengancam Perusahaan

Sebuah chatbot perusahaan tiba-tiba membocorkan data rahasia setelah menerima instruksi tersembunyi dari luar. Fenomena nyata yang dikenal sebagai Prompt Injection ini membuktikan bahwa sistem kecerdasan buatan kini menjadi target manipulasi yang sangat rawan dieksploitasi oleh penjahat siber.

Kondisi ini kian mengkhawatirkan dengan munculnya PromptSpy, malware Android pertama yang memanfaatkan AI generatif untuk bersembunyi dan bertahan di perangkat kerja karyawan. Kehadiran dua ancaman baru ini menjadi sinyal kuat bahwa lanskap kejahatan siber telah bergeser, di mana AI kini aktif dijadikan senjata untuk melumpuhkan pertahanan perusahaan.

Berikut ulasan lengkap mengenai bagaimana kedua ancaman ini bekerja serta dampak nyata yang harus diwaspadai oleh perusahaan.

Apa Itu Prompt Injection?

Prompt injection adalah teknik manipulasi terhadap sistem AI berbasis large language model (LLM) dengan cara menyisipkan instruksi tersembunyi ke dalam input yang diproses oleh sistem tersebut. Tujuannya adalah membuat AI mengabaikan instruksi aslinya dan menjalankan instruksi yang disusupkan oleh penyerang.

Ada dua bentuk utama prompt injection yang perlu dipahami perusahaan:

• Direct prompt injection, penyerang secara langsung memasukkan instruksi berbahaya melalui kolom input, misalnya chat dengan asisten AI perusahaan.
• Indirect prompt injection, instruksi berbahaya disisipkan pada sumber eksternal yang nantinya dibaca oleh sistem AI, seperti halaman web, dokumen, email, atau lampiran file. Ketika AI “membaca” sumber tersebut sebagai bagian dari tugasnya, instruksi tersembunyi itu ikut terbawa dan dieksekusi.

Risiko ini menjadi semakin nyata karena banyak perusahaan kini mengintegrasikan AI generatif ke dalam sistem yang terhubung langsung dengan data internal, email, dokumen, hingga sistem transaksi, sehingga satu celah prompt injection bisa berujung pada kebocoran data atau tindakan yang tidak sah atas nama sistem.

Baca juga: Ancaman Serangan Siber AI: Mengapa Keamanan Konvensional Tidak Lagi Cukup?

PromptSpy: Saat Malware Dipersenjatai AI

Selain risiko terhadap sistem AI itu sendiri, ancaman lain justru datang dari arah sebaliknya: AI generatif yang dijadikan alat oleh malware untuk menyerang penggunanya. Inilah yang terjadi pada PromptSpy.

PromptSpy adalah malware Android yang diidentifikasi oleh tim peneliti ESET sebagai malware pertama yang memanfaatkan AI generatif dalam alur eksekusinya. Alih-alih mengandalkan skrip kaku yang mudah gagal ketika tampilan antarmuka perangkat berbeda-beda, PromptSpy mengirimkan gambaran layar korban ke model Gemini milik Google, lalu menerima instruksi langkah demi langkah tentang cara menavigasi antarmuka tersebut agar aplikasi berbahaya tetap tertanam dan tidak mudah dihapus dari perangkat.

Setelah berhasil bertahan di perangkat, tujuan utama PromptSpy adalah menanamkan modul akses jarak jauh yang memungkinkan pelaku melihat layar, mencuri PIN layar kunci, mengambil tangkapan layar, merekam aktivitas layar, serta memblokir upaya penghapusan aplikasi. Malware ini disebarkan melalui situs yang menyamar sebagai aplikasi perbankan, menargetkan korban dengan motif finansial.

PromptSpy penting dipahami bukan karena ia menjalankan prompt injection dalam definisi teknisnya, melainkan karena ia membuktikan pergeseran besar dalam lanskap ancaman: pelaku kejahatan siber kini secara aktif mengintegrasikan AI generatif ke dalam senjata mereka, membuat malware lebih adaptif, lebih sulit dideteksi dengan pendekatan keamanan konvensional, dan lebih mudah disesuaikan ke berbagai jenis perangkat.

Baca juga: Shadow AI: Risiko Kebocoran Data di Balik Penggunaan AI Tak Terkendali

Mengapa Perusahaan Wajib Waspada?

Prompt injection dan PromptSpy berada di dua sisi yang berbeda, namun keduanya menegaskan satu hal yang sama: batas antara “pengguna AI” dan “korban AI” menjadi semakin kabur.

• Prompt injection mengancam integritas sistem AI yang digunakan perusahaan, mulai dari chatbot layanan pelanggan, asisten internal, hingga AI agent yang memiliki akses ke sistem dan data sensitif.
• PromptSpy menunjukkan bagaimana AI generatif dimanfaatkan penyerang untuk membuat ancaman terhadap perangkat karyawan, termasuk perangkat mobile yang sering digunakan untuk mengakses email kantor, aplikasi perbankan, atau sistem kerja berbasis cloud.

Bagi perusahaan, ini berarti risiko keamanan AI tidak lagi cukup dilihat dari satu sisi saja. Perusahaan perlu memastikan sistem AI internalnya aman dari manipulasi, sekaligus memastikan perangkat karyawan terlindungi dari malware generasi baru yang semakin adaptif.

Baca juga: Cyber Security Maturity Assessment di Era AI: Menakar Kesiapan Pertahanan

Dampak Bisnis Jika Ancaman Ini Diabaikan

• Kebocoran data sensitif akibat sistem AI internal yang dimanipulasi melalui prompt injection untuk mengungkap informasi rahasia.
• Kerugian finansial langsung apabila perangkat karyawan terinfeksi malware bergaya PromptSpy yang menyasar akses perbankan atau kredensial perusahaan.
• Ketidakpatuhan regulasi, khususnya terhadap UU Pelindungan Data Pribadi (UU PDP) dan ketentuan keamanan sistem informasi seperti ISO/IEC 27001, jika insiden terjadi akibat lemahnya kontrol keamanan AI dan endpoint.
• Hilangnya kepercayaan pelanggan, terutama jika insiden melibatkan sistem AI yang berinteraksi langsung dengan pelanggan.

Baca juga: Zero Trust Security Framework: Fondasi Keamanan Perusahaan Modern

Strategi Benteng Pertahanan Perusahaan

Untuk risiko prompt injection pada sistem AI internal:

• Terapkan validasi dan penyaringan input sebelum data diproses oleh sistem AI, terutama untuk AI yang membaca sumber eksternal (dokumen, email, halaman web).
• Batasi hak akses (least privilege) AI agent terhadap sistem dan data, jangan biarkan AI memiliki akses lebih luas daripada yang benar-benar diperlukan.
• Terapkan human-in-the-loop untuk tindakan-tindakan kritis, seperti transaksi finansial atau perubahan data penting, alih-alih sepenuhnya mengandalkan keputusan otomatis AI.
• Lakukan pengujian keamanan berkala terhadap sistem AI, termasuk simulasi serangan prompt injection, sebagai bagian dari penetration testing.

Untuk risiko malware berbasis AI seperti PromptSpy:

• Terapkan Mobile Device Management (MDM) untuk mengontrol instalasi aplikasi pada perangkat kerja, termasuk larangan instalasi aplikasi dari luar toko resmi.
• Perkuat endpoint protection dengan pendekatan deteksi berbasis perilaku (behavior-based detection), bukan hanya mengandalkan signature yang mudah dilewati malware adaptif.
• Edukasi karyawan secara berkelanjutan mengenai risiko aplikasi palsu yang menyamar sebagai aplikasi resmi, khususnya aplikasi perbankan atau layanan keuangan.
• Adopsi pendekatan Zero Trust, sehingga akses ke sistem perusahaan tidak sepenuhnya bergantung pada asumsi bahwa perangkat yang sudah terhubung otomatis aman.

Baca juga: Pentingnya AI-MDR untuk Mencegah Ransomware yang Semakin Adaptif

Pentingnya Tata Kelola Keamanan AI

Menghadapi ancaman yang terus berevolusi seperti prompt injection dan malware berbasis AI, perusahaan memerlukan lebih dari sekadar tools keamanan tambahan. Diperlukan kerangka tata kelola AI (AI Governance) yang jelas serta evaluasi kesiapan keamanan secara berkala melalui Cyber Security Maturity Assessment.

Proxsis IT Consulting membantu organisasi memetakan risiko ini secara menyeluruh, mulai dari asesmen kematangan keamanan siber, penetration testing, hingga penyusunan kerangka AI Governance yang menyelaraskan penggunaan AI generatif dengan kebutuhan keamanan dan kepatuhan regulasi. Pendekatan ini memastikan adopsi AI di perusahaan tidak hanya cepat, tetapi juga aman dan terkendali.

Kesimpulan

Prompt injection dan PromptSpy adalah dua wajah dari tren yang sama: AI generatif kini menjadi bagian dari arsenal penyerang, bukan hanya alat bantu bisnis.

Prompt injection mengincar sistem AI yang digunakan perusahaan, sementara PromptSpy membuktikan bahwa AI generatif juga bisa “direkrut” untuk membuat malware konvensional menjadi lebih adaptif dan berbahaya. 

Perusahaan yang ingin tetap kompetitif dalam mengadopsi AI harus menyeimbangkannya dengan tata kelola risiko yang matang, sebelum insiden yang mengingatkan pada kasus ini benar-benar terjadi di internal mereka.

FAQ Seputar Prompt Injection dan PromptSpy

1. Apa perbedaan prompt injection dan PromptSpy?
   Prompt injection adalah teknik manipulasi terhadap sistem AI melalui instruksi tersembunyi pada input. PromptSpy adalah malware Android nyata yang memanfaatkan AI generatif (Gemini) untuk membantu dirinya bertahan di perangkat korban. Keduanya berbeda secara teknis, tetapi sama-sama menunjukkan bagaimana AI generatif dimanfaatkan dalam skenario serangan.
2. Apakah prompt injection hanya mengancam chatbot?
   Tidak. Prompt injection dapat mengancam semua sistem berbasis LLM yang memproses input dari sumber eksternal, termasuk AI agent yang memiliki akses ke email, dokumen, atau sistem internal perusahaan.
3. Bagaimana cara mendeteksi potensi prompt injection di sistem AI perusahaan? Deteksi dapat dilakukan melalui pengujian keamanan khusus (AI red-teaming/penetration testing), pemantauan output AI yang tidak wajar, serta audit berkala terhadap sumber data yang diproses oleh sistem AI.
4. Apakah PromptSpy sudah menyerang perusahaan di Indonesia?
   Berdasarkan temuan awal, kampanye PromptSpy teridentifikasi menyasar pengguna di kawasan tertentu dengan motif finansial. Meski demikian, karena sifatnya yang adaptif dan mudah dimodifikasi, perusahaan di Indonesia tetap perlu waspada dan memperkuat perlindungan endpoint sejak dini.

Ingin memastikan sistem AI dan keamanan siber perusahaan Anda siap menghadapi ancaman generasi baru ini? Konsultasikan kebutuhan AI Governance dan Cyber Security Maturity Assessment Anda dengan tim Proxsis IT Consulting.