Keamanan AI Agent: Jangan Kasih Akses Berlebihan

Ketika AI agent diberi akses ke email, CRM, database, API, atau workflow perusahaan, ia tidak lagi sekadar menjadi asisten digital. Ia berubah menjadi identitas operasional yang bisa bertindak.

Masalahnya, banyak perusahaan masih mengelola AI agent seperti fitur tambahan, bukan seperti akun digital yang memiliki hak akses, risiko, dan jejak aktivitas. Padahal, satu agent dengan permission terlalu luas bisa menjadi celah baru yang sulit dilacak saat terjadi insiden.

AI agent dapat membaca data, memanggil API, mengirim instruksi, membuat tiket, menjalankan workflow, hingga mengambil langkah lanjutan berdasarkan konteks yang ia terima. Di satu sisi, kemampuan ini membuka peluang besar untuk otomasi. Di sisi lain, ia menciptakan risiko baru, siapa yang sebenarnya sedang bertindak di dalam sistem perusahaan?

Manusia? Sistem? Service account? Atau AI agent?

Bagi tim security, ini bukan pertanyaan filosofis. Ini pertanyaan kontrol.

Di sinilah agentic AI security menjadi penting. 

Bukan hanya untuk mengamankan model AI, tetapi untuk memastikan setiap AI agent memiliki identitas yang jelas, akses yang terbatas, owner yang bertanggung jawab, serta aktivitas yang bisa diaudit. Tanpa itu, AI agent bisa berubah menjadi “akun super” baru, bergerak cepat, punya akses luas, tetapi tidak cukup terlihat oleh governance.

 

AI Agent untuk Perusahaan

Selama ini, banyak perusahaan mengelola akses berdasarkan manusia. Ada karyawan, admin, vendor, developer, partner, atau user eksternal. Setiap identitas memiliki role, permission, approval, dan batas akses.

AI agent mengubah pola ini.

Agent bukan manusia, tetapi bisa melakukan tindakan seperti manusia. Ia bisa mengambil data dari satu sistem, mengolahnya, lalu memicu proses di sistem lain. Ia bisa berjalan otomatis, merespons input, memanggil tools, dan bertindak berdasarkan instruksi yang tidak selalu sederhana.

Karena itu, AI agent tidak cukup diperlakukan sebagai fitur aplikasi. Ia perlu diperlakukan sebagai non-human identity atau identitas non-manusia yang dapat beroperasi di dalam ekosistem digital perusahaan.

Dalam sistem enterprise, setiap aktivitas idealnya bisa dikaitkan dengan identitas yang jelas. Ada user ID, service account, API key, token, workload identity, atau machine identity.

AI agent harus masuk ke logika yang sama.

Jika agent menggunakan akses milik user manusia tanpa pemisahan yang jelas, perusahaan akan kesulitan menjawab pertanyaan penting saat terjadi insiden. Apakah tindakan itu dilakukan oleh user? Oleh agent? Oleh sistem otomatis? Atau oleh pihak lain yang menyalahgunakan akses tersebut?

Tanpa identitas yang unik, audit trail menjadi kabur. Ketika audit trail kabur, investigasi insiden ikut melemah.

Risiko klasik dalam security adalah akses berlebihan.

Dalam konteks AI agent, risikonya bisa lebih besar karena agent dapat bekerja cepat, berulang, dan lintas sistem.

Bayangkan AI agent customer service yang diberi akses ke data pelanggan, tiket komplain, riwayat transaksi, dan email follow-up. Jika aksesnya tidak dibatasi, agent bukan hanya membantu layanan pelanggan. Ia juga bisa menjadi titik rawan jika terjadi kesalahan instruksi, prompt injection, atau penyalahgunaan credential.

Contoh lain, AI agent DevOps yang dapat membaca repository, memeriksa pipeline, dan mengakses environment produksi. Jika permission-nya terlalu luas, satu kesalahan konfigurasi dapat berdampak ke sistem kritikal.

Karena itu, prinsip least privilege access tidak bisa ditawar. AI agent hanya boleh memiliki akses sesuai tugasnya, bukan akses seluas mungkin agar “lebih praktis”. Dalam security, yang terlalu praktis di awal sering menjadi mahal di belakang.

AI agent bekerja berdasarkan instruksi, konteks, data, dan integrasi yang tersedia. Masalahnya, instruksi tidak selalu datang dari sumber yang aman.

Agent bisa saja membaca dokumen yang berisi instruksi manipulatif, menerima input yang ambigu, atau memproses data yang sudah disisipi arahan tertentu. Dalam skenario seperti ini, risikonya bukan sekadar agent memberi jawaban salah. Risikonya adalah agent melakukan tindakan yang salah.

Perbedaan ini besar.

Chatbot biasa mungkin hanya menghasilkan respons yang perlu diperiksa ulang. AI agent yang terhubung ke sistem dapat memicu workflow, mengambil data, mengubah status, mengirim pesan, atau menjalankan perintah. Semakin luas aksesnya, semakin besar pula dampaknya jika agent bergerak di luar batas.

 

Keamanan AI Agent Bukan Hanya Soal Model, Tapi Rantai Aksi

Banyak diskusi keamanan AI masih berhenti pada model: apakah output-nya akurat, apakah ada bias, apakah jawabannya aman, atau apakah model bisa dibobol dengan prompt tertentu.

Semua itu penting. Namun untuk AI agent, lapisan risikonya lebih panjang.

AI agent biasanya tidak bekerja sendirian. Ia terhubung dengan email, kalender, CRM, ERP, cloud storage, database, DevOps pipeline, ticketing system, aplikasi internal, atau sistem customer service. Setiap koneksi menjadi bagian dari rantai aksi.

Karena itu, AI agent security harus melihat keseluruhan alur: input apa yang diterima, data apa yang diakses, tools apa yang dipanggil, sistem mana yang disentuh, tindakan apa yang dijalankan, dan log apa yang tersimpan.

Jika perusahaan hanya mengamankan interface agent, tetapi tidak memahami rantai aksinya, risiko tetap terbuka.

 

Identity Governance Menjadi Lapisan Kontrol Utama

Identity governance membantu perusahaan mengatur siapa atau apa yang boleh mengakses sistem, dengan hak apa, dalam kondisi apa, dan bagaimana akses tersebut ditinjau.

Dalam konteks AI agent, identity governance perlu diperluas. Bukan hanya untuk user manusia, tetapi juga untuk non-human identity seperti service account, API token, workload identity, automation bot, machine identity, dan AI agent.

Pertanyaannya menjadi lebih tajam:

• Apakah setiap AI agent memiliki identitas unik?
• Apakah akses agent dipisahkan dari akses user manusia?
• Apakah agent hanya memiliki permission sesuai tugasnya?
• Apakah credential agent dikelola dengan aman?
• Apakah akses agent memiliki masa berlaku?
• Apakah aktivitas agent dapat diaudit?
• Apakah ada mekanisme revoke jika agent tidak lagi digunakan?
• Apakah approval diperlukan untuk agent yang mengakses data sensitif?

Tanpa jawaban yang jelas, AI agent berpotensi menjadi akun operasional yang bergerak tanpa pengawasan memadai.

 

Baca juga : AI Governance untuk Perusahaan: Cara Hindari Temuan Audit

 

Risiko yang Sering Luput Saat AI Agent Mulai Terhubung ke Sistem

Banyak organisasi terlalu cepat melihat manfaat agentic AI: otomasi, kecepatan, efisiensi, dan pengurangan pekerjaan manual. Itu wajar. Namun risiko dasar sering terlambat dibangun karena agent dianggap hanya fitur tambahan.

Padahal, begitu agent terhubung ke sistem, ia sudah menjadi bagian dari permukaan risiko perusahaan.

1. Agent Memakai Akses Manusia Tanpa Batas yang Jelas

Ini salah satu kesalahan paling berbahaya.

AI agent dijalankan menggunakan credential user atau service account yang sudah ada. Alasannya biasanya sederhana: lebih cepat, lebih mudah, tidak perlu desain akses baru.

Namun cara ini membuat akuntabilitas lemah. Jika agent mengubah data, mengirim pesan, membuat tiket, atau memicu proses, aktivitasnya bisa terlihat seperti dilakukan oleh user manusia atau akun umum.

Saat terjadi insiden, tim security akan kesulitan membedakan mana tindakan manusia, mana tindakan agent, dan mana potensi penyalahgunaan.

2. Agent Diberi Permission Terlalu Luas

Karena ingin agent bekerja maksimal, perusahaan sering tergoda memberi akses luas. Agent boleh membaca banyak folder, mengakses banyak aplikasi, memanggil banyak API, dan menjalankan berbagai tindakan.

Ini bertentangan dengan prinsip privileged access management dan least privilege.

Jika tugas agent hanya merangkum tiket, ia tidak perlu akses ke seluruh data pelanggan. Jika tugasnya mengatur jadwal, ia tidak perlu membaca dokumen finansial. Jika tugasnya membantu DevOps, ia tidak otomatis boleh punya akses ke production tanpa kontrol tambahan.

AI agent yang aksesnya terlalu luas bukan produktivitas. Itu privilege risk yang dibungkus otomasi.

3. Tidak Ada Access Review Berkala

Akses manusia saja perlu ditinjau berkala. Akses AI agent juga sama.

Masalahnya, banyak organisasi belum memasukkan agent ke proses access review. Akibatnya, agent yang sudah tidak aktif masih memiliki akses. Agent eksperimen tetap terhubung ke data sensitif. Token lama masih hidup. Permission yang dulu diberikan untuk uji coba tidak pernah dicabut.

Ini celah klasik, hanya wajahnya sekarang lebih modern.

4. Log Aktivitas Agent Tidak Cukup Detail

Audit log bukan hanya soal mencatat bahwa agent berjalan. Log harus bisa menjelaskan tindakan agent secara cukup detail.

Apa input-nya? Sistem apa yang diakses? Data apa yang dibaca? Tools apa yang dipanggil? Output apa yang dihasilkan? Apakah ada approval manusia? Apakah ada tindakan yang diblokir?

Tanpa log seperti ini, perusahaan akan kesulitan melakukan forensik ketika terjadi anomali.

 

 

Kontrol Minimum agar AI Agent Tidak Menjadi Akun Super Baru

Perusahaan tidak perlu menunggu arsitektur sempurna untuk mulai mengamankan AI agent. Namun kontrol minimum harus dibangun sejak awal agar eksperimen tidak berubah menjadi risiko operasional.

1. Agent Identity Register

Setiap AI agent perlu dicatat sebagai identitas digital yang jelas.

Register ini sebaiknya memuat nama agent, owner, tujuan penggunaan, sistem yang diakses, jenis data yang diproses, permission yang dimiliki, status approval, dan masa berlaku akses.

Tanpa register, perusahaan tidak tahu berapa banyak agent yang berjalan dan apa saja yang mereka lakukan. Itu bukan governance. Itu berharap semuanya aman sambil menutup mata.

2. Least Privilege Access

AI agent hanya boleh memiliki akses sesuai tugasnya.

Jika agent hanya perlu membaca data, jangan beri akses menulis. Jika hanya perlu mengakses satu aplikasi, jangan beri akses lintas sistem. Jika agent masih dalam tahap eksperimen, jangan hubungkan ke data produksi.

Prinsip ini sederhana, tetapi sering dilanggar karena alasan praktis. Padahal, untuk AI agent, akses berlebihan dapat memperluas dampak kesalahan secara cepat.

3. Human Approval untuk Aksi Berisiko Tinggi

Tidak semua tindakan agent boleh berjalan otomatis.

Aksi seperti menghapus data, mengubah konfigurasi, mengirim informasi sensitif, mengeksekusi perintah produksi, membuat perubahan finansial, atau memengaruhi keputusan pelanggan perlu memiliki human approval.

AI agent boleh mempercepat proses. Namun untuk tindakan berdampak besar, manusia tetap harus menjadi titik kontrol.

4. Segregation of Duties

Agent tidak boleh memiliki seluruh rantai kontrol dalam satu tangan.

Agent yang menganalisis risiko tidak seharusnya sekaligus menyetujui keputusan akhir. Agent yang membuat rekomendasi perubahan sistem tidak otomatis boleh mengeksekusi perubahan tersebut. Agent yang mengolah data sensitif tidak boleh bebas mengirimkannya ke pihak luar.

Segregation of duties membantu mencegah satu agent memiliki kekuasaan terlalu besar di dalam proses bisnis.

5. Continuous Monitoring dan Audit Trail

Aktivitas AI agent harus dimonitor secara berkelanjutan.

Perusahaan perlu melihat pola akses, anomali tindakan, percobaan akses yang ditolak, penggunaan data sensitif, perubahan permission, serta aktivitas yang menyimpang dari tujuan agent.

Audit trail juga harus cukup kuat untuk menjawab pertanyaan audit dan investigasi: apa yang dilakukan agent, kapan, berdasarkan instruksi apa, dan dengan dampak apa.

 

Baca juga : Shadow AI di Kantor, Waspada Data Bisa Bocor!

 

5 Langkah Awal Mengamankan AI Agent Sebelum Masuk Produksi

Agentic AI security sebaiknya tidak dimulai dari membeli tools baru. Mulailah dari pemetaan risiko, pengelolaan identitas, dan tata kelola akses.

• Petakan AI Agent yang Sudah atau Akan Digunakan

Langkah pertama adalah mencari tahu agent apa saja yang sedang dikembangkan, diuji, atau direncanakan oleh unit kerja. Termasuk agent dari platform SaaS, automation tools, chatbot internal, workflow engine, hingga fitur AI di aplikasi enterprise.

Sering kali, perusahaan baru menyadari bahwa “agent” tidak hanya dibuat oleh tim AI. Ia bisa muncul dari fitur bawaan aplikasi yang sudah digunakan sehari-hari.

• Tentukan Owner dan Batas Tanggung Jawab

Setiap AI agent harus punya owner. Bukan hanya owner teknis, tetapi juga owner bisnis dan owner risiko.

Owner teknis bertanggung jawab atas konfigurasi dan integrasi. Owner bisnis memastikan agent digunakan sesuai tujuan. Owner risiko atau security memastikan kontrolnya memadai.

Jika tidak ada owner, agent akan menjadi aset yatim piatu: digunakan banyak orang, tetapi tidak ada yang benar-benar bertanggung jawab.

• Klasifikasikan Agent Berdasarkan Risiko

Tidak semua agent memiliki risiko yang sama.

Agent yang hanya menjawab FAQ internal tentu berbeda dengan agent yang mengakses data pelanggan, menjalankan proses keuangan, memanggil API produksi, atau mengambil tindakan di sistem operasional.

Klasifikasi risiko membantu perusahaan menentukan kontrol. Agent berisiko rendah bisa memiliki pengawasan yang lebih ringan. Agent berisiko tinggi perlu approval, pembatasan akses, monitoring ketat, dan review berkala.

• Integrasikan Agent ke IAM dan PAM

AI agent perlu masuk ke kerangka identity access management dan privileged access management perusahaan.

Artinya, agent harus memiliki identitas unik, akses berbasis role, permission terbatas, credential yang dikelola aman, serta mekanisme pencabutan akses jika tidak lagi digunakan.

Untuk agent yang memiliki akses istimewa, kontrol PAM menjadi semakin penting. Jangan biarkan agent memiliki privilege tinggi tanpa logging, approval, dan monitoring.

• Uji Skenario Penyalahgunaan

Sebelum agent digunakan luas, perusahaan perlu menguji skenario buruknya.

Apa yang terjadi jika agent menerima instruksi ambigu? Bagaimana jika agent membaca dokumen yang berisi instruksi berbahaya? Apakah agent bisa mengakses data di luar tugasnya? Apakah agent dapat mengeksekusi tindakan tanpa approval? Apakah agent bisa dimanfaatkan untuk mengambil data sensitif?

Pengujian seperti ini membantu perusahaan melihat risiko sebelum risiko itu muncul di lingkungan produksi.

 

Baca juga : Audit Internal Hingga Penyusunan Master Plan TI: Studi Kasus Dinas Kominfo Kabupaten Nganjuk

 

Kesalahan yang Membuat AI Agent Berubah Menjadi Blind Spot Security

Banyak masalah agentic AI security muncul bukan karena teknologinya terlalu rumit, tetapi karena kontrol dasarnya terlambat dibangun.

• Menganggap Agent Sama seperti Aplikasi Biasa

AI agent bukan sekadar aplikasi pasif. Ia bisa mengambil inisiatif berdasarkan konteks, instruksi, dan integrasi yang tersedia.

Jika perusahaan memperlakukannya seperti software biasa, kontrolnya akan kurang memadai. Agent perlu dilihat sebagai identitas operasional yang dapat bertindak, bukan hanya sebagai fitur tambahan.

• Tidak Memisahkan Eksperimen dan Produksi

Eksperimen AI sering dimulai cepat. Itu wajar. Yang berbahaya adalah ketika eksperimen mulai menyentuh data produksi tanpa kontrol tambahan.

Perusahaan perlu memisahkan lingkungan uji coba dan produksi. Data sensitif tidak boleh digunakan sembarangan untuk eksperimen. Agent yang belum lolos review tidak seharusnya memiliki akses ke sistem kritikal.

• Terlalu Percaya pada Output dan Aksi Agent

AI agent dapat terlihat pintar, tetapi tetap perlu batas. Ia bisa salah memahami konteks, memilih tindakan yang tidak tepat, atau mengambil langkah yang tidak diinginkan.

Karena itu, untuk proses penting, output dan tindakan agent harus tetap memiliki mekanisme review. Kepercayaan boleh bertahap, tetapi kontrol tidak boleh hilang.

• Tidak Memasukkan Agent ke Governance Security

Jika AI agent tidak masuk ke kebijakan keamanan, access review, audit, incident response, dan risk management, perusahaan sedang menciptakan blind spot baru.

Agentic AI security tidak boleh berdiri sendiri. Ia perlu masuk ke tata kelola keamanan yang sudah ada.

 

Pertanyaan Kritis Sebelum AI Agent Diberi Akses Lebih Luas

Sebelum AI agent digunakan untuk proses yang lebih penting, tim security dan manajemen perlu menjawab beberapa pertanyaan berikut:

• Apakah setiap agent memiliki identitas unik?
• Apakah akses agent dibatasi sesuai tugas?
• Apakah agent menggunakan credential sendiri, bukan menumpang akses user manusia?
• Apakah tindakan berisiko tinggi membutuhkan approval manusia?
• Apakah aktivitas agent bisa diaudit?
• Apakah agent masuk ke proses access review?
• Apakah ada owner bisnis, owner teknis, dan owner risiko?
• Apakah agent sudah diuji terhadap skenario penyalahgunaan?

Jika jawabannya belum jelas, perusahaan belum siap mengandalkan AI agent untuk proses kritikal.

 

Kesimpulan

Agentic AI membuka peluang besar untuk otomasi, efisiensi, dan peningkatan produktivitas. Namun semakin besar kemampuan AI agent untuk bertindak, semakin besar pula kebutuhan terhadap kontrol identitas, akses, dan governance.

Risiko utamanya bukan hanya AI memberi jawaban salah. Risiko yang lebih serius adalah ketika AI agent memiliki akses luas, menjalankan tindakan, memproses data sensitif, atau memicu workflow tanpa pengawasan yang memadai.

Karena itu, agentic AI security perlu dibangun sejak awal. Perusahaan perlu memperlakukan AI agent sebagai non-human identity yang harus dikelola, dibatasi, diawasi, dan diaudit.

AI agent yang aman bukan hanya agent yang canggih. Agent yang aman adalah agent yang memiliki batas akses jelas, owner yang bertanggung jawab, kontrol tindakan berisiko, dan audit trail yang kuat.

Bangun Tata Kelola Keamanan Sebelum AI Agent Masuk Lebih Dalam ke Sistem

Ketika AI agent mulai terhubung dengan data, aplikasi, API, dan workflow bisnis, keamanan tidak bisa hanya diperiksa di tahap akhir. Kontrol perlu dibangun sejak desain: mulai dari identitas agent, batas akses, owner, approval, monitoring, hingga audit trail.

Dalam konteks ini, pendekatan IT Security Governance membantu perusahaan memastikan penggunaan AI agent tetap berada dalam kerangka keamanan yang jelas. Bukan sekadar membatasi inovasi, tetapi memastikan agent yang digunakan benar-benar memiliki kontrol, akuntabilitas, dan mekanisme pengawasan yang memadai.

PROXSIS IT dapat membantu organisasi meninjau kesiapan tata kelola keamanan, memetakan risiko AI agent, serta menyusun kontrol yang lebih terarah agar agentic AI dapat digunakan secara aman, terkendali, dan siap berkembang.

 

FAQ

1. Apa itu agentic AI security?
   Agentic AI security adalah pendekatan keamanan untuk mengelola risiko AI agent yang dapat mengakses data, memanggil API, menjalankan workflow, atau bertindak atas nama pengguna.
2. Mengapa AI agent harus dianggap sebagai identitas digital?
   Karena AI agent dapat memiliki akses, menjalankan tindakan, dan meninggalkan jejak aktivitas di sistem perusahaan seperti akun digital lainnya.
3. Apa risiko jika AI agent memakai akses user manusia?
   Aktivitas agent akan sulit dibedakan dari aktivitas manusia, sehingga audit trail, investigasi insiden, dan akuntabilitas menjadi lemah.
4. Apa kontrol minimum sebelum AI agent masuk produksi?
   Perusahaan perlu memiliki agent register, least privilege access, human approval, segregation of duties, monitoring, dan audit trail.
5. Apakah AI agent perlu masuk access review?
   Ya. Akses AI agent perlu ditinjau berkala agar permission tetap sesuai kebutuhan dan tidak menjadi celah keamanan.
6. Bagaimana cara membatasi akses AI agent ke data sensitif?
   Perusahaan dapat menggunakan klasifikasi data, role-based access, masking, approval, monitoring, dan pembatasan akses berbasis kebutuhan tugas.
7. Apa hubungan agentic AI security dengan IT Security Governance?
   Agentic AI security perlu masuk ke tata kelola keamanan agar identitas, akses, risiko, dan aktivitas agent dapat dikontrol serta diaudit.