JAKARTA – Perkembangan agentic artificial intelligence (agentic AI) yang mampu memproses data dan mengambil keputusan secara mandiri mendorong perusahaan memperkuat sistem pengawasan terhadap teknologi kecerdasan buatan. Salah satu pendekatan yang dinilai penting adalah Know Your Agent (KYA), yakni mengenali identitas, kepemilikan, serta batas kewenangan agen AI yang berinteraksi dengan pelanggan maupun sistem bisnis.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menegaskan bahwa perusahaan perlu mengantisipasi risiko penyalahgunaan data dan tindakan agen AI yang berpotensi melampaui kewenangan yang telah ditetapkan.
“Bukan lagi KYC, Know Your Customer, tapi harus ada KYA, Know Your Agent,” ujar Nezar dalam Hukum Online Executive Breakfast & Networking Session di Jakarta Pusat, Kamis (15/10/2026).
Menurut Nezar, perusahaan kini semakin banyak memanfaatkan agentic AI untuk mendukung berbagai kegiatan bisnis, mulai dari pelayanan pelanggan, pemrosesan transaksi, hingga pelaksanaan sejumlah proses operasional.
Berbeda dengan teknologi AI generatif yang umumnya menghasilkan respons berdasarkan perintah pengguna, agentic AI dilengkapi kemampuan untuk menjalankan rangkaian tugas melalui algoritma dan otorisasi tertentu. Teknologi ini dapat memproses informasi, menentukan langkah berikutnya, serta melakukan tindakan sesuai akses yang diberikan.
Kemampuan tersebut dinilai dapat meningkatkan efisiensi perusahaan. Namun, di sisi lain, penggunaan agen AI juga menghadirkan risiko baru apabila tidak disertai pengawasan dan pembatasan kewenangan yang memadai.
“Dengan mesin bisa membuat keputusan sendiri, risiko meningkat,” katanya.
Nezar menjelaskan, perusahaan perlu memahami secara jelas identitas agen AI yang digunakan, pihak yang memiliki atau mengoperasikannya, serta tindakan yang diperbolehkan dalam sistem bisnis. Langkah tersebut penting karena agen AI dapat berinteraksi dengan berbagai sistem internal dan memproses data berdasarkan otorisasi yang dimilikinya.
Ia mengingatkan bahwa kemampuan agen AI untuk bertindak secara mandiri berpotensi menimbulkan persoalan apabila teknologi tersebut menjalankan tindakan yang tidak sesuai dengan kebijakan perusahaan atau ketentuan yang berlaku.
“Kadang ada agentic AI yang mungkin dia akan mem-bypass sejumlah peraturan-peraturan ataupun regulasi yang dibuat ataupun batasan-batasan di dalam satu korporasi karena dia bisa bertindak,” ungkap Nezar.
Interaksi Bisnis Tak Lagi Hanya Antarmanusia
Nezar menilai perusahaan perlu mulai mempersiapkan sistem tata kelola yang mampu mengakomodasi interaksi antara manusia dan agen AI. Seiring perkembangan teknologi, pihak yang berinteraksi dengan layanan perusahaan tidak selalu berupa individu secara langsung, tetapi juga agen AI yang mewakili individu atau organisasi lain.
“Karena nanti yang akan berhubungan dengan Bapak/Ibu sekalian bukan lagi orang, ada juga agentic AI lain yang akan bertanya ataupun akan masuk, atau individu yang punya agentic AI,” ujarnya.
Kondisi tersebut menuntut perusahaan memiliki mekanisme untuk memverifikasi agen AI yang mengakses layanan, memastikan tujuan penggunaannya, serta membatasi tindakan berdasarkan kewenangan yang diberikan.
Pendekatan KYA diharapkan dapat membantu perusahaan mengidentifikasi agen AI yang berinteraksi dengan sistem mereka sekaligus mengurangi risiko penyalahgunaan akses. Dengan demikian, penggunaan teknologi tersebut dapat berlangsung secara lebih terkendali tanpa mengabaikan aspek keamanan dan kepatuhan.
Pelindungan Data Pribadi Jadi Perhatian
Selain tata kelola agen AI, Nezar menekankan pentingnya pelindungan data pribadi dalam penerapan teknologi kecerdasan buatan. Menurutnya, risiko kebocoran dan penyalahgunaan data tidak hanya berasal dari kelemahan keamanan sistem, tetapi juga dapat muncul akibat pemberian akses dan kewenangan pemrosesan data yang tidak tepat.
Karena itu, perusahaan perlu mempertimbangkan aspek keamanan dan privasi sejak tahap awal pengembangan sistem. Nezar menyoroti pentingnya penerapan prinsip security by design dan privacy by design sebagai bagian dari upaya membangun sistem teknologi yang aman.
Prinsip security by design menekankan penerapan keamanan sejak proses perancangan sistem, sedangkan privacy by design mengutamakan pelindungan privasi sejak awal pengembangan dan penggunaan teknologi.
“Kedua prinsip tersebut, perlu menjadi bagian dari upaya perusahaan memastikan pemrosesan data berjalan sejalan dengan ketentuan pelindungan data pribadi,” tegasnya.
Penerapan kedua prinsip tersebut diharapkan dapat membantu perusahaan mengurangi risiko sejak tahap perencanaan, termasuk dalam menentukan jenis data yang dapat diakses agen AI, tujuan pemrosesannya, serta batas penggunaan informasi.
Pemerintah Terbuka terhadap Masukan Industri
Dalam kesempatan tersebut, Nezar menyatakan pemerintah terbuka terhadap masukan dari pelaku usaha mengenai berbagai persoalan baru yang muncul seiring penerapan teknologi AI.
Masukan dari dunia usaha dinilai penting untuk membantu pemerintah mengidentifikasi risiko, memahami kebutuhan industri, serta mendalami kebutuhan pengaturan teknis yang relevan dengan perkembangan teknologi.
Dengan meningkatnya penggunaan agentic AI, penguatan tata kelola, pengawasan akses, dan pelindungan data pribadi menjadi bagian penting dalam membangun ekosistem digital yang aman dan bertanggung jawab.
Pemerintah dan pelaku usaha diharapkan dapat terus memperkuat koordinasi agar pemanfaatan AI mampu mendukung inovasi serta produktivitas tanpa mengabaikan keamanan sistem, kepatuhan terhadap regulasi, dan hak masyarakat atas pelindungan data pribadi. (Red)
