Skybee — Agen kecerdasan buatan berjenis agentic kini masuk ke lingkungan perusahaan dengan sifat otonom dan non-deterministik. Berbeda dari perangkat lunak tradisional, agen ini menggunakan proses penalaran sehingga perilakunya tidak selalu dapat diprediksi saat dijalankan dalam lingkungan nyata.

Di kawasan Asia Pasifik, IDC memperkirakan investasi pada AI dan GenAI mencapai US$175 miliar pada 2028, dengan peran sistem agentic yang kian penting. Namun perkembangan tata kelola untuk mengendalikan risikonya belum secepat laju adopsi teknologi tersebut.

Identitas Mesin Dan Kesenjangan Tata Kelola

Agen AI beroperasi melalui identitas mesin—service accounts, API tokens, dan kredensial yang memberi akses ke sistem dan data. Gartner menyebut manajemen identitas mesin sebagai salah satu area IAM yang belum matang, meskipun skalanya cepat berkembang dan membawa eksposur risiko yang besar.

Data menunjukkan jumlah identitas mesin kini melampaui pengguna manusia, tetapi banyak organisasi masih memfokuskan pengelolaan hanya pada identitas manusia sebagai privileged users. Bentuk gagal yang paling sering muncul adalah over-permissioning, yakni agen diberi akses lebih luas daripada kebutuhan tugasnya.

Praktik Perusahaan Saat Ini

Sebuah survei global menemukan 77% organisasi mengandalkan platform IAM yang ada untuk mendapatkan visibilitas terhadap identitas mesin, namun hanya 2% yang mengimplementasikan solusi keamanan khusus untuk identitas non-human.

Kesenjangan ini sudah berdampak: 80% organisasi melaporkan agen AI mereka pernah melakukan tindakan tidak diinginkan, termasuk mengakses atau membagikan data sensitif. Kondisi tersebut memperlihatkan adanya kekurangan struktural dalam pengelolaan identitas AI.

Regulasi dan Tantangan Lokal

Di Indonesia, aturan perlindungan data menambah urgensi penguatan tata kelola. Undang-Undang Perlindungan Data Pribadi mewajibkan lokalisasi data dan memperketat perlindungan terhadap transfer lintas negara, yang berimplikasi pada pengelolaan agen AI yang mengakses data lintas batas.

Risiko juga dipengaruhi oleh kesenjangan antara tingkat kepercayaan pemimpin teknologi dan kematangan operasional. Banyak organisasi belum memiliki akuntabilitas jelas terkait akses yang dimiliki agen dan keputusan yang dapat dipengaruhinya.

Penanganan dan Prinsip Tata Kelola

Pengelolaan yang efektif menuntut tata kelola dibangun sejak awal—memperlakukan setiap agen AI sebagai identitas terpisah dengan penanggung jawab yang jelas, hak akses terbatas sesuai kewenangan, serta siklus hidup yang terdokumentasi.

Prinsip yang digarisbawahi termasuk menerapkan ketelitian tinjauan akses yang setara dengan akuntabilitas terhadap akun manusia berhak istimewa, serta memastikan visibilitas berkelanjutan alih-alih audit satu kali.

Dalam praktik industri, muncul model yang disebut Agentic Fabric—kapabilitas untuk menemukan, mengelola, dan memantau identitas agen AI secara berkelanjutan pada skala besar. Prinsip inti yang ditekankan adalah identity-first governance: tidak ada agen yang beroperasi tanpa pemilik yang diketahui, izin akses yang terdefinisi, serta kemampuan untuk diaudit dan dicabut aksesnya.

Implikasi Bagi Organisasi

Seiring pemangku kepentingan memasukkan kematangan tata kelola sebagai kriteria penilaian pengadaan, organisasi yang dapat menunjukkan akuntabilitas jelas atas sistem AI akan memperoleh keunggulan struktural.

Manfaat produktivitas agen AI nyata, demikian pula risikonya. Faktor penentu bukan semata kecanggihan agen, melainkan kualitas tata kelola yang menyertai implementasinya.

— GVP ASEAN, SailPoint