Headline.co.id, Jakarta ~ Perkembangan pesat kecerdasan artifisial (AI) menimbulkan tantangan baru dalam keamanan digital, terutama dengan munculnya ancaman penipuan digital melalui teknologi deepfake. Teknologi ini mampu menciptakan suara, gambar, dan video palsu yang sulit dibedakan dari yang asli. Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, menegaskan bahwa penyalahgunaan AI untuk membuat konten manipulatif adalah risiko yang harus diantisipasi oleh pemerintah, industri, dan masyarakat.
Dalam acara Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/6/2026), Nezar Patria menyatakan, “Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus.” Menurutnya, perkembangan AI saat ini telah melampaui fase generative AI dan memasuki era agentic AI, di mana sistem memiliki kemampuan bernalar dan mengambil keputusan secara mandiri.
Meskipun AI menawarkan peluang untuk meningkatkan produktivitas dan inovasi, kemajuannya juga membawa risiko baru, terutama dalam keamanan siber dan penyebaran informasi palsu. Nezar menyoroti penggunaan AI oleh pelaku kejahatan digital untuk melakukan penipuan melalui deepfake, yang kini berkembang menjadi synthetic reality atau realitas sintetik, sehingga semakin sulit dikenali oleh masyarakat. “Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.
Untuk mengatasi tantangan ini, Nezar Patria menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI. Dengan pendekatan ini, keputusan penting yang dihasilkan sistem AI tetap berada dalam pengawasan manusia. “Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Selain itu, Nezar menilai bahwa pendekatan etika AI tidak bisa lagi bersifat sukarela. Prinsip-prinsip dasar seperti transparansi, akuntabilitas, dan keamanan harus menjadi bagian integral dalam setiap proses pengembangan teknologi AI melalui pendekatan ethics by design. “Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” kata Nezar.
Oleh karena itu, Wamenkomdigi mendorong kolaborasi pemerintah, pengembang teknologi, akademisi, industri, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perancangan teknologi. Menurutnya, Indonesia Ethical AI Summit menjadi momentum penting untuk merumuskan berbagai rekomendasi dan langkah strategis dalam membangun ekosistem AI yang inovatif, aman, dan bertanggung jawab. “Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkas Nezar.
