Headline.co.id, Jakarta ~ Perkembangan teknologi kecerdasan buatan (AI) semakin meningkatkan ancaman penipuan digital dengan kemampuan menghasilkan konten palsu yang sulit dibedakan dari kenyataan. Wakil Menteri Komunikasi dan Digital, Nezar Patria, menegaskan bahwa penyalahgunaan AI melalui teknologi deepfake menjadi tantangan etis dan keamanan digital yang harus diantisipasi secara serius. Pernyataan ini disampaikan dalam acara Indonesia Ethical AI Summit di Jakarta Selatan, Rabu (17/06/2026).
Wamen Nezar menjelaskan bahwa saat ini suara dan gambar wajah dapat ditiru dan ditampilkan dalam bentuk video deepfake yang dihasilkan oleh AI dengan sangat mulus. Menurutnya, kemajuan AI telah melampaui fase generative AI menuju pengembangan agentic AI dan teknologi baru lainnya. Meskipun membawa manfaat besar, perkembangan ini juga memunculkan risiko baru yang memerlukan perhatian serius.
Dalam konteks keamanan siber, Wamen Nezar menyoroti penggunaan AI oleh pelaku kejahatan digital untuk melakukan penipuan dengan teknologi deepfake. Manipulasi berbasis AI telah berkembang menjadi synthetic reality atau realitas sintetik, sehingga masyarakat semakin sulit membedakan konten asli dan hasil rekayasa. “Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” tegasnya.
Konten ini adalah Iklan dari Platform MGID. Headline.co.id tidak terkait dengan materi konten ini.
Wamen Nezar juga menekankan pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI yang memiliki kemampuan penalaran dan pengambilan keputusan mandiri. Ia menyebutkan bahwa sejumlah pakar mengusulkan penerapan protokol ketat agar keputusan penting tetap berada dalam pengawasan manusia. “Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Lebih lanjut, Wamen Nezar menilai bahwa pendekatan etika AI tidak lagi cukup bersifat sukarela. Ia menegaskan bahwa prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan dalam pengembangan produk AI melalui pendekatan ethics by design. “Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” tandasnya.
Wamen Nezar mendorong pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan. Forum Indonesia Ethical AI Summit diharapkan menjadi momentum penting untuk merumuskan langkah-langkah bersama dalam membangun ekosistem AI yang inovatif dan bertanggung jawab. “Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia,” pungkasnya.
