Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menekankan pentingnya kendali manusia dalam pemanfaatan Agentic Artificial Intelligence (Agentic AI). Pesan itu disampaikan dalam acara Techpresso Metro TV di Jakarta Barat, Kamis (10/9/2026). Menurut Nezar, batas otoritas dan keterlibatan manusia perlu ditetapkan secara jelas karena Agentic AI mampu mengambil keputusan serta menjalankan serangkaian tindakan secara mandiri.
Agentic AI memiliki kemampuan lebih dari sekadar memberikan respons. Teknologi ini dapat membangun penalaran, menentukan keputusan, dan mengeksekusi tindakan berdasarkan otoritas yang diberikan kepadanya.
Konten ini adalah Iklan dari Platform MGID. Headline.co.id tidak terkait dengan materi konten ini.
Agentic AI Dapat Mengambil Keputusan Mandiri
Nezar menilai perkembangan tersebut menghadirkan kemudahan sekaligus risiko. Ia mencontohkan penggunaan Agentic AI sebagai asisten perjalanan yang dapat membantu memilih tiket, mengatur akomodasi, menghubungi penyedia layanan, hingga melakukan pembayaran.
Rangkaian kemampuan itu membuat batas kewenangan AI perlu dipertimbangkan secara hati-hati. “Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?” ujar Nezar.
Ia mengatakan, pemberian otoritas kepada AI dapat memengaruhi keputusan yang diambil oleh sistem. Karena itu, pengguna perlu memperhitungkan risiko sebelum menyerahkan kewenangan tertentu kepada Agentic AI.
“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.
Risiko Keputusan Antarmesin
Menurut Nezar, risiko menjadi semakin kompleks ketika satu Agentic AI dapat berkomunikasi dan berkoordinasi dengan Agentic AI lainnya. Dalam situasi tersebut, proses pengambilan keputusan dapat berlangsung antarmesin tanpa selalu melibatkan manusia secara langsung.
Nezar juga mengingatkan potensi silent autonomy. Kondisi ini terjadi ketika sistem membangun penalaran dan mengambil keputusan tanpa diketahui manusia.
Karena itu, perhatian terhadap Agentic AI tidak cukup hanya diarahkan pada kemampuannya menyelesaikan tugas. Hal lain yang perlu dipastikan adalah manusia tetap memiliki kendali atas keputusan dan tindakan yang dihasilkan teknologi tersebut.
“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah sendiri mengambil pendekatan berbasis risiko untuk menjaga keseimbangan ruang inovasi dan perlindungan terhadap manusia,” tegas Nezar.
Prinsip Human Centric dan Human in the Loop
Dalam tata kelola AI, Nezar menyebut prinsip human centric dan human in the loop sebagai bagian penting. Kedua prinsip tersebut menempatkan manusia sebagai unsur yang tetap berperan dalam pemanfaatan teknologi kecerdasan artifisial.
AI dapat mengambil alih tugas tertentu untuk meningkatkan efisiensi. Namun, batas otoritas yang diberikan harus dirancang secara jelas. Pada keputusan tertentu, keterlibatan manusia tetap diperlukan.
Nezar juga mengatakan risiko AI perlu diperhitungkan sejak pengelolaan data, pengembangan model, hingga proses pengambilan keputusan. Ancaman seperti prompt injection dan data poisoning dapat memengaruhi keputusan yang dibuat AI.
Atas dasar itu, tata kelola AI perlu berjalan beriringan dengan keamanan siber melalui pendekatan AI safety. “Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.
Indonesia Siapkan Kerangka Tata Kelola AI
Nezar mengatakan Indonesia terus menyiapkan kerangka tata kelola AI. Upaya tersebut lain dilakukan melalui Surat Edaran tentang Etika Kecerdasan Artifisial, Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pelindungan Data Pribadi (UU PDP), penyusunan peta jalan nasional AI, serta regulasi mengenai etika AI.
Ia menjelaskan, regulasi tersebut tidak dimaksudkan untuk menghambat perkembangan teknologi. Kerangka tata kelola diperlukan agar inovasi AI dapat berkembang dengan risiko yang termitigasi dan memberikan manfaat lebih besar bagi masyarakat.
“Jangan takut dengan regulasi-regulasi yang diciptakan, tidak ada kehendak untuk mencekik perkembangan, ini hanya untuk membuat perkembangan teknologi itu bermanfaat bagi semuanya, risikonya bisa dimitigasi, dan kita bisa mendapatkan manfaat yang lebih besar,” pungkas Wamenkomdigi Nezar Patria.
