Wamen Komdigi Tekankan Kendali Manusia dalam Agentic AI

Headline.co.id, Jakarta ~

Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria menekankan pentingnya kendali manusia dalam pemanfaatan Agentic Artificial Intelligence (Agentic AI). Pesan itu disampaikan dalam acara Techpresso Metro TV di Jakarta Barat, Kamis (10/9/2026). Menurut Nezar, batas otoritas dan keterlibatan manusia perlu ditetapkan secara jelas karena Agentic AI mampu mengambil keputusan serta menjalankan serangkaian tindakan secara mandiri.

You might also like

Kemkomdigi Tekankan Pencegahan Risiko dalam Pengawasan Teknologi Digital

14 November 2026

Norwegia Berikan Kontribusi USD100 Juta atas Capaian Penurunan Emisi Indonesia

14 November 2026

Agentic AI memiliki kemampuan lebih dari sekadar memberikan respons. Teknologi ini dapat membangun penalaran, menentukan keputusan, dan mengeksekusi tindakan berdasarkan otoritas yang diberikan kepadanya.

Agentic AI Dapat Mengambil Keputusan Mandiri

Nezar menilai perkembangan tersebut menghadirkan kemudahan sekaligus risiko. Ia mencontohkan penggunaan Agentic AI sebagai asisten perjalanan yang dapat membantu memilih tiket, mengatur akomodasi, menghubungi penyedia layanan, hingga melakukan pembayaran.

Rangkaian kemampuan itu membuat batas kewenangan AI perlu dipertimbangkan secara hati-hati. “Agentic AI bisa berpikir, membangun nalarnya sendiri, dan membuat keputusan tanpa kita ketahui. Banyak juga risiko yang membuat kita mempertanyakan apakah manusia masih ada di dalam proses itu?” ujar Nezar.

Ia mengatakan, pemberian otoritas kepada AI dapat memengaruhi keputusan yang diambil oleh sistem. Karena itu, pengguna perlu memperhitungkan risiko sebelum menyerahkan kewenangan tertentu kepada Agentic AI.

“Ini yang harus dipertimbangkan risiko-risikonya karena Agentic AI punya kemampuan untuk membuat keputusan jika kita berikan otoritas,” jelasnya.

Risiko Keputusan Antarmesin

Menurut Nezar, risiko menjadi semakin kompleks ketika satu Agentic AI dapat berkomunikasi dan berkoordinasi dengan Agentic AI lainnya. Dalam situasi tersebut, proses pengambilan keputusan dapat berlangsung antarmesin tanpa selalu melibatkan manusia secara langsung.

Nezar juga mengingatkan potensi silent autonomy. Kondisi ini terjadi ketika sistem membangun penalaran dan mengambil keputusan tanpa diketahui manusia.

Karena itu, perhatian terhadap Agentic AI tidak cukup hanya diarahkan pada kemampuannya menyelesaikan tugas. Hal lain yang perlu dipastikan adalah manusia tetap memiliki kendali atas keputusan dan tindakan yang dihasilkan teknologi tersebut.

“Inilah gambaran ke depan yang harus diperhitungkan dalam policy making untuk tata kelola AI ini. Pemerintah sendiri mengambil pendekatan berbasis risiko untuk menjaga keseimbangan ruang inovasi dan perlindungan terhadap manusia,” tegas Nezar.

Prinsip Human Centric dan Human in the Loop

Dalam tata kelola AI, Nezar menyebut prinsip human centric dan human in the loop sebagai bagian penting. Kedua prinsip tersebut menempatkan manusia sebagai unsur yang tetap berperan dalam pemanfaatan teknologi kecerdasan artifisial.

AI dapat mengambil alih tugas tertentu untuk meningkatkan efisiensi. Namun, batas otoritas yang diberikan harus dirancang secara jelas. Pada keputusan tertentu, keterlibatan manusia tetap diperlukan.

Nezar juga mengatakan risiko AI perlu diperhitungkan sejak pengelolaan data, pengembangan model, hingga proses pengambilan keputusan. Ancaman seperti prompt injection dan data poisoning dapat memengaruhi keputusan yang dibuat AI.

Atas dasar itu, tata kelola AI perlu berjalan beriringan dengan keamanan siber melalui pendekatan AI safety. “Cybersecurity dan tata kelola AI harus digandeng bersamaan,” tuturnya.

Indonesia Siapkan Kerangka Tata Kelola AI

Nezar mengatakan Indonesia terus menyiapkan kerangka tata kelola AI. Upaya tersebut lain dilakukan melalui Surat Edaran tentang Etika Kecerdasan Artifisial, Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Pelindungan Data Pribadi (UU PDP), penyusunan peta jalan nasional AI, serta regulasi mengenai etika AI.

Ia menjelaskan, regulasi tersebut tidak dimaksudkan untuk menghambat perkembangan teknologi. Kerangka tata kelola diperlukan agar inovasi AI dapat berkembang dengan risiko yang termitigasi dan memberikan manfaat lebih besar bagi masyarakat.

“Jangan takut dengan regulasi-regulasi yang diciptakan, tidak ada kehendak untuk mencekik perkembangan, ini hanya untuk membuat perkembangan teknologi itu bermanfaat bagi semuanya, risikonya bisa dimitigasi, dan kita bisa mendapatkan manfaat yang lebih besar,” pungkas Wamenkomdigi Nezar Patria.

Dukung jurnalis Headline.co.id secara gratis Atau Berkontribusi Traktir KopiUntuk pengembangan Headline Media

Add as a preferred source on GoogleDukung Jurnalisme