Headline.co.id, Jogja ~ Penyalahgunaan teknologi kecerdasan buatan Grok (Grok AI) di platform X (Twitter) menimbulkan keresahan di berbagai kalangan. Meskipun Grok AI dapat digunakan untuk mendapatkan informasi dengan cepat, belakangan ini teknologi tersebut disalahgunakan untuk membuat gambar pornografi dari foto yang diunggah pengguna. Dampak negatif dari fitur ini dapat menyerang mental dan psikis pengguna. Kementerian Komunikasi dan Digital (Komdigi) RI telah memblokir akses ke aplikasi Grok AI untuk melindungi masyarakat dari risiko terpapar konten pornografi palsu. Langkah tegas pemerintah ini mendapat perhatian media asing, menjadikan Indonesia sebagai negara pertama yang memblokir Grok AI karena kekhawatiran penyebaran konten pornografi berbasis kecerdasan buatan.
Deputi Sekretaris Eksekutif Pusat Masyarakat Digital (CfDS) UGM, Iradat Wirid, menyambut baik penutupan akses Grok AI oleh pemerintah. Menurutnya, tindakan ini sudah tepat untuk menjaga privasi dan mengurangi penggunaan Grok AI untuk tujuan negatif. Iradat menilai bahwa penyalahgunaan teknologi Grok AI menunjukkan ketidakselarasan logika bisnis dan moral kemanusiaan. Masalah ini juga mencerminkan adanya proses etika AI yang bermasalah dalam Grok AI di platform X. Untuk mengurangi potensi negatif, pemerintah harus memiliki kebijakan pengamanan AI yang jelas. “Pemerintah Indonesia harus memiliki independensi terkait kebijakan yang melanggar batas-batas demokrasi dan tidak hanya berpacu pada aturan luar,” ujarnya, Senin (19/1).
Iradat juga menekankan pentingnya keseimbangan literasi dan inovasi teknologi. Namun, saat ini terdapat ketidakseimbangan informasi teknologi dan literasi masyarakat, terutama terkait penggunaan data pribadi dan media sosial. Masyarakat perlu memahami aturan yang diatur dalam Undang-Undang Pemerintahan seperti UU Perlindungan Data Pribadi dan UU Tindak Pidana Kekerasan Seksual. Pemerintah harus tegas terhadap platform yang merugikan masyarakat dan berpotensi menimbulkan kasus kekerasan seksual online berbasis gender. Terlebih lagi, mayoritas korban dalam kasus ini adalah perempuan. Oleh karena itu, pemerintah perlu meningkatkan edukasi masyarakat tentang perlindungan data diri di media sosial. “Satu-satunya yang bisa melindungi diri kita saat ini adalah diri sendiri dengan mengurangi porsi postingan, serta meramaikan kesadaran literasi masyarakat,” kata Iradat.
Iradat menegaskan bahwa dalam pengembangan teknologi, keterlibatan manusia menjadi aspek penting mulai dari proses algoritma, krisis teknologi, hingga penerapannya. Hal ini diperlukan karena hanya manusia yang memiliki rasa moral dan tanggung jawab. Manusia harus mampu menjadi kendali utama dalam perkembangan teknologi agar teknologi dan realitas manusia dalam ruang digital dapat selaras sehingga mengurangi kejadian yang merugikan manusia. “Inovasi teknologi tanpa tanggung jawab termasuk dalam pengunduran peran manusia,” tekannya.
