Headline.co.id, Jakarta ~ Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, menekankan pentingnya antisipasi serius terhadap penyalahgunaan kecerdasan buatan (AI) melalui teknologi deepfake. Teknologi ini dianggap sebagai tantangan etis dan keamanan digital yang dapat meningkatkan ancaman penipuan digital. Deepfake memungkinkan pembuatan video, gambar, dan suara palsu yang menyerupai aslinya, sehingga sulit dibedakan dari kenyataan.
Nezar Patria menyatakan bahwa perkembangan kecerdasan buatan saat ini sangat cepat, bahkan telah melampaui fase kecerdasan buatan generatif menuju kecerdasan buatan otonom dan teknologi baru lainnya. Meskipun membawa manfaat besar bagi berbagai sektor, perkembangan ini juga memunculkan risiko baru yang memerlukan perhatian serius.
Dalam konteks keamanan siber, Wamenkomdigi menyoroti penggunaan AI oleh pelaku kejahatan digital untuk melakukan penipuan dengan teknologi deepfake. Manipulasi berbasis AI kini telah berkembang menjadi realitas sintetik, yaitu konten hasil rekayasa digital yang semakin sulit dibedakan dari kenyataan. Nezar Patria menilai rendahnya literasi masyarakat mengenai perkembangan AI membuat banyak orang mudah terkecoh oleh konten hasil manipulasi tersebut.
Ia juga mengingatkan pentingnya keterlibatan manusia dalam proses pengambilan keputusan pada pengembangan kecerdasan buatan otonom yang memiliki kemampuan penalaran dan pengambilan keputusan secara mandiri. Beberapa pakar telah mengusulkan penerapan protokol yang lebih ketat agar keputusan-keputusan penting tetap berada dalam pengawasan manusia.
Lebih lanjut, Nezar Patria menilai pendekatan etika AI tidak lagi cukup bersifat sukarela seperti pada tahap awal perkembangan teknologi tersebut. Prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus diwujudkan secara nyata dalam proses pengembangan produk AI melalui pendekatan etika sejak tahap perancangan. Oleh karena itu, ia mendorong para pengembang, pelaku industri, akademisi, dan komunitas pengguna AI untuk memperkuat tata kelola serta mitigasi risiko sejak tahap perencanaan.
