AI Adversarial Mengancam Industri Keuangan 2025

May 15, 2025

Ditulis oleh :

rexy

Industri keuangan kini menggantungkan banyak proses penting pada kecerdasan buatan (AI). Mulai dari mempercepat analisis data, mendeteksi penipuan, hingga mempersonalisasi layanan nasabah—semua dijalankan dengan bantuan AI.

Namun, di balik manfaat besar itu, ada ancaman tersembunyi yang belum banyak disadari: adversarial AI. Ini bukan sekadar serangan siber biasa. Ini adalah bentuk manipulasi yang dirancang khusus untuk menyesatkan algoritma AI agar menghasilkan keputusan yang salah. Sayangnya, banyak lembaga keuangan belum siap menghadapinya.

Dalam artikel ini, kita akan membahas apa itu adversarial AI, bagaimana ancaman ini bisa merusak sistem keuangan, dan langkah strategis apa yang harus diambil agar industri keuangan tetap aman dan berkelanjutan di tengah gelombang transformasi digital yang dipicu oleh AI.

Apa Itu Adversarial AI?

Adversarial AI adalah bentuk serangan siber canggih yang menargetkan model kecerdasan buatan itu sendiri bukan infrastruktur IT seperti server atau jaringan. Tujuannya bukan untuk merusak sistem, tapi untuk membuat AI mengambil keputusan yang salah dengan cara yang nyaris tak terlihat.

Caranya bisa bermacam-macam: mulai dari memasukkan data yang menyesatkan ke dalam proses pelatihan (data poisoning), mengganggu input agar AI keliru membaca situasi, hingga meniru dan mencuri model AI untuk kepentingan pihak luar.

Dalam konteks industri keuangan, akibatnya bisa sangat serius. AI yang salah mengklasifikasikan transaksi bisa gagal mendeteksi penipuan. AI yang salah membaca data pasar bisa memberi saran investasi yang keliru. Lebih parah lagi, AI yang bias bisa membuat keputusan yang tidak adil terhadap nasabah.

Inilah yang membuat adversarial AI berbahaya: ia menyerang dari dalam, dan sering kali tidak terdeteksi sampai dampaknya terasa.

Ancaman Nyata Adversarial AI untuk Lembaga Keuangan

1. AI Hallucination: Ketika AI “Ngaco” Tapi Meyakinkan

Model bahasa besar (Large Language Models/LLM) punya kemampuan menyusun kalimat yang terdengar logis—padahal isinya bisa saja salah total. Ini disebut hallucination. Masalahnya, di dunia keuangan, kesalahan kecil bisa berdampak besar.

Bayangkan AI yang digunakan untuk memberi rekomendasi investasi. Jika sistem tersebut diberi data palsu oleh aktor jahat, AI bisa menyusun proyeksi keuntungan yang sangat meyakinkan tapi tidak berdasar. Investor bisa saja mengambil keputusan penting berdasarkan informasi yang salah, dan mengalami kerugian besar tanpa menyadari sumber masalahnya.

2. Data Poisoning: Racuni Data, Hancurkan Output

AI hanya secerdas data yang digunakan untuk melatihnya. Jika data pelatihan disusupi misalnya dengan transaksi penipuan yang dikemas seolah-olah legal, maka kemampuan AI dalam mendeteksi fraud akan terganggu.

Ini disebut data poisoning. Serangan ini sangat berbahaya karena merusak akurasi AI dari dalam. Jika tidak ada mekanisme verifikasi kualitas data saat pelatihan ulang, model AI bisa “belajar” bahwa transaksi mencurigakan itu sah, dan membiarkan kejahatan lolos tanpa terdeteksi.

3. Model Theft: Pencurian Model = Pencurian Strategi Bisnis

Model AI bukan sekadar algoritma; ia adalah strategi bisnis yang dikemas dalam kode. Di sektor keuangan, model ini bisa menentukan arah investasi, deteksi risiko, dan bahkan respons pasar.

Dengan teknik model extraction, penyerang bisa menyalin model AI hanya dengan mengamati input-output secara berulang. Jika berhasil, mereka bisa meniru algoritma eksklusif yang dikembangkan dengan investasi besar. Akibatnya, mereka bisa menyusup ke pasar, mencuri keunggulan kompetitif, atau bahkan menyalahgunakan sistem untuk manipulasi pasar.

4. Bias Etis: Diskriminasi Terselubung oleh AI

AI tampak objektif, tapi sebenarnya sangat bergantung pada data pelatihannya. Jika data tersebut mencerminkan ketimpangan sosial atau bias historis, maka AI bisa ikut “menurunkan” bias itu ke dalam keputusannya.

Di dunia keuangan, dampaknya bisa serius. AI yang digunakan untuk analisis kredit, misalnya, bisa secara konsisten menilai individu dari kelompok tertentu sebagai “berisiko tinggi” meskipun memiliki profil keuangan yang sama dengan pemohon lainnya. Ini bukan hanya soal ketidakadilan, tapi juga bisa menjadi masalah hukum dan merusak reputasi institusi.

5. Serangan Rantai Pasok AI: Bahaya dari Pihak Ketiga

Tidak semua institusi keuangan membangun AI dari nol. Banyak yang mengandalkan library, plugin, atau pre-trained model dari vendor pihak ketiga. Dan di sinilah celah baru muncul.

Jika komponen yang digunakan telah disusupi misalnya oleh malware tersembunyi dalam pustaka atau antarmuka AI bisa menjadi saluran serangan siber tanpa disadari. Ini bukan teori. Serangan semacam ini sudah terjadi, seperti dalam kasus plugin palsu yang menyamar sebagai ChatGPT dan Claude, namun diam-diam menyebarkan malware ke dalam sistem internal perusahaan.

Mengapa Industri Keuangan Harus Khawatir?

AI sudah menjadi tulang punggung operasi keuangan modern. Namun, tanpa perlindungan yang memadai terhadap adversarial AI, penggunaan AI bisa berubah dari keuntungan menjadi bencana.

Industri keuangan sangat rentan karena beberapa alasan krusial:

Data sensitif dan bernilai tinggi. Informasi nasabah, transaksi, dan rahasia bisnis adalah target utama bagi pelaku kejahatan yang ingin mendapatkan keuntungan besar.
Keputusan otomatis yang berdampak besar. AI mengendalikan proses penting seperti penilaian risiko kredit, deteksi penipuan, dan rekomendasi investasi. Kesalahan AI bisa berakibat langsung pada kerugian finansial dan reputasi.
Target utama serangan canggih. Pelaku kejahatan selalu membidik sektor yang menjanjikan imbal hasil besar. AI yang rentan menjadi pintu masuk untuk serangan yang lebih kompleks dan merusak.

Oleh karena itu, tanpa kesiapan menghadapi ancaman adversarial AI, fondasi digital industri keuangan bisa goyah—berpotensi mengguncang kepercayaan publik dan stabilitas ekonomi secara luas.

c

Menghadapi ancaman adversarial AI bukan perkara mudah. Dibutuhkan strategi yang terencana dan melibatkan berbagai disiplin ilmu. Berikut dua langkah utama yang bisa dilakukan institusi keuangan:

1. Bentuk AI Red Team

Bangun tim lintas-disiplin yang bertugas menguji model AI secara berkala dengan pola pikir seperti penyerang. Tujuannya adalah menemukan celah dan kelemahan sebelum dimanfaatkan pihak jahat. Tim ini idealnya terdiri dari:

Data scientist: Memahami bagaimana data digunakan dan potensi manipulasi.
Ahli keamanan siber: Mengidentifikasi risiko dan ancaman teknis.
Insinyur sistem: Menangani aspek infrastruktur dan integrasi teknologi.
Profesional tata kelola: Memastikan kepatuhan pada aturan dan standar.

2. Lakukan Synthetic Threat Modelling

Simulasi serangan adversarial secara terkontrol untuk menguji respons AI Anda. Dengan mensimulasikan berbagai metode serangan, institusi dapat memetakan titik lemah sistem dan melakukan perbaikan proaktif sebelum ada serangan nyata.

3. Tingkatkan Kualitas Data

Data adalah nyawa AI. Pastikan data pelatihan dan data input operasional memenuhi standar ketat:

Terverifikasi sumbernya. Gunakan data dari sumber terpercaya dan pastikan proses verifikasi berjalan ketat.
Bersih dari noise. Hilangkan data yang tidak relevan atau berpotensi merusak model.
Diperiksa secara berkala. Lakukan audit dan pembersihan data secara rutin untuk menghindari penurunan kualitas model akibat data lama atau terkontaminasi.

4. Evaluasi Supply Chain AI

Banyak risiko tersembunyi berasal dari pihak ketiga yang menyediakan komponen AI:

Audit secara menyeluruh library dan model eksternal yang digunakan.
Terapkan sistem pemantauan real-time dan sandboxing untuk mendeteksi perilaku mencurigakan sebelum komponen digunakan dalam lingkungan produksi.

5. Dorong Regulasi yang Progresif

Kerangka regulasi saat ini masih fokus pada keamanan TI tradisional dan belum cukup mengatasi ancaman khusus AI.

Regulasi baru harus mencakup perlindungan terhadap serangan yang menargetkan model AI, data pelatihan, dan algoritma.
Industri keuangan perlu bekerja sama dengan regulator untuk membangun standar keamanan AI yang relevan dan adaptif terhadap perubahan teknologi.

Memperkuat Keamanan AI dengan Upgrade ISO/IEC 27001:2022

Ancaman dari adversarial AI membuat keamanan data di industri keuangan jadi sangat penting. Salah satu langkah tepat untuk melindungi sistem adalah dengan menggunakan standar keamanan informasi terbaru, yaitu ISO/IEC 27001:2022.

Dengan upgrade standar ini, perusahaan keuangan bisa memastikan data yang dipakai AI tetap aman dan sistemnya lebih tahan terhadap serangan yang mencoba memanipulasi AI. Proxsis IT menawarkan layanan lengkap untuk upgrade ISO/IEC 27001, mulai dari analisis kebutuhan sampai pendampingan sertifikasi.

Kalau kamu ingin memperkuat keamanan AI dan menjaga bisnis tetap aman dari ancaman siber, cek layanan upgrade ISO/IEC 27001:2022 dari Proxsis IT di sini: https://it.proxsisgroup.com/upgrade-iso-iec/

Kesimpulan

AI kini sudah jadi bagian penting dalam dunia keuangan. Tapi kalau keamanannya tidak diperkuat, ancaman adversarial AI bisa menjadi bom waktu yang berbahaya bagi lembaga keuangan di seluruh dunia. Regulasi harus terus berkembang mengikuti teknologi, dan perusahaan harus berubah dari yang hanya reaktif menjadi lebih proaktif dalam menghadapi risiko.

Menggunakan AI tanpa perlindungan yang kuat sama saja dengan meninggalkan brankas terbuka di tengah kota. Saatnya industri keuangan sadar bahwa keamanan AI bukan hanya soal teknologi, tapi juga kunci keberlangsungan bisnis di masa depan.

Kesimpulan

AI sudah menjadi bagian integral dari sistem keuangan modern.
Peran AI tidak hanya sebatas alat bantu, tetapi telah menjadi pusat inovasi yang memungkinkan lembaga keuangan mempercepat pengambilan keputusan, meningkatkan akurasi dalam mendeteksi penipuan, dan menyajikan layanan yang lebih personal bagi pelanggan. Dengan AI, sektor keuangan bisa beroperasi lebih efisien dan responsif di era digital.
Namun, tanpa pengamanan yang memadai, adversarial AI menjadi ancaman yang sangat serius.
Serangan yang menargetkan model AI dan data pelatihan dapat mengubah output AI menjadi salah dan menyesatkan. Dalam dunia keuangan, kesalahan ini bisa menyebabkan kerugian finansial yang sangat besar, menimbulkan risiko hukum, dan merusak reputasi institusi. Ancaman ini jauh lebih rumit dan tersembunyi dibanding serangan siber tradisional.
Regulasi dan standar keamanan harus terus diperbarui untuk mengimbangi laju perkembangan teknologi AI.
Saat ini, kerangka regulasi keamanan siber yang ada masih berfokus pada perlindungan sistem TI tradisional. Adversarial AI membutuhkan aturan dan pedoman baru yang khusus mengatur perlindungan model AI, data yang digunakan, dan algoritma di baliknya. Ini penting agar seluruh industri keuangan dapat menghadapi ancaman ini secara terkoordinasi dan efektif.
Organisasi keuangan harus bertransformasi dari pendekatan yang reaktif menjadi proaktif.
Membangun tim lintas disiplin yang terdiri dari ahli keamanan, data scientist, insinyur, dan profesional tata kelola menjadi sangat penting untuk menguji dan memperkuat sistem AI secara berkelanjutan. Langkah ini membantu mendeteksi potensi celah sebelum dimanfaatkan oleh penyerang, serta meningkatkan kesadaran dan respons terhadap risiko AI.
Menggunakan AI tanpa perlindungan yang kuat sama seperti meninggalkan brankas terbuka di tengah kota.
Ini adalah risiko besar yang bisa mengancam keberlangsungan bisnis dan kepercayaan pelanggan. Keamanan AI bukan hanya masalah teknis, tapi juga aspek strategis yang harus menjadi prioritas utama perusahaan keuangan. Investasi dalam keamanan AI berarti menjaga reputasi, mengurangi risiko kerugian, dan memastikan bisnis bisa bertahan dan berkembang di masa depan.
Industri keuangan harus segera mengambil langkah konkret untuk memperkuat keamanan AI mereka.
Salah satu langkah penting adalah menerapkan standar keamanan informasi terbaru seperti ISO/IEC 27001:2022. Standar ini membantu memastikan data dan sistem AI terlindungi secara menyeluruh dari berbagai jenis ancaman, termasuk adversarial AI. Dengan fondasi keamanan yang kuat, lembaga keuangan bisa lebih percaya diri dalam mengadopsi teknologi AI secara luas dan aman.