Headline.co.id, Jakarta ~ Pemerintah Indonesia telah mengambil langkah tegas dengan memblokir layanan kecerdasan buatan generatif bernama Grok. Keputusan ini diambil sebagai upaya untuk memperkuat keamanan siber dan mengatur tata kelola artificial intelligence (AI) di Indonesia. Langkah ini menjadikan Indonesia sebagai negara pertama di dunia yang menghentikan akses ke layanan AI yang dianggap berisiko tinggi terhadap keselamatan publik, terutama bagi perempuan dan anak-anak dari ancaman eksploitasi seksual digital.
Pratama Persadha, Chairman Lembaga Riset Keamanan Siber CISSReC, menegaskan bahwa pemblokiran Grok bukan hanya sekadar tindakan sensor atau pembatasan teknologi. Menurutnya, ini adalah bentuk intervensi negara untuk menutup celah ancaman baru yang belum sepenuhnya diantisipasi oleh pengembang AI. “Penyalahgunaan AI generatif seperti Grok telah bergeser dari sekadar isu teknologi menjadi ancaman terhadap identitas, martabat, dan keamanan psikologis individu. Ketika teknologi memungkinkan manipulasi gambar perempuan dan anak-anak secara non-konsensual dengan tingkat realisme tinggi, negara wajib hadir melindungi kelompok rentan,” ujar Pratama dalam keterangannya kepada , Senin (12/1/2026).
Pratama menjelaskan bahwa maraknya konten asusila berbasis manipulasi AI menunjukkan perubahan karakter kejahatan siber. Jika sebelumnya berfokus pada peretasan sistem dan pencurian data, kini ancaman berkembang menjadi serangan langsung terhadap kehormatan pribadi dan keselamatan sosial. Dalam konteks ini, pemblokiran dipandang sebagai instrumen terakhir ketika mekanisme pengamanan mandiri platform dinilai gagal atau terlalu lambat merespons dampak yang ditimbulkan.
Konten ini adalah Iklan dari Platform MGID. Headline.co.id tidak terkait dengan materi konten ini.
Dari perspektif keamanan nasional dan ketertiban ruang digital, Pratama menilai kebijakan Indonesia mencerminkan penerapan prinsip kehati-hatian terhadap teknologi berisiko tinggi. Grok yang terintegrasi dalam ekosistem media sosial terbuka dinilai memiliki celah pengamanan konten yang signifikan. Jika dibiarkan beroperasi, ruang digital Indonesia berpotensi menjadi ladang subur bagi kekerasan berbasis gender daring, eksploitasi anak, serta pencemaran nama baik berbasis AI.
Langkah ini juga menegaskan posisi Indonesia bahwa kemajuan teknologi tidak boleh mengorbankan nilai perlindungan manusia. Di saat banyak negara masih menunggu konsensus global atau regulasi internasional, Indonesia memilih bersikap proaktif dengan menempatkan keselamatan publik sebagai prioritas utama. Pendekatan ini sejalan dengan komitmen perlindungan hak asasi manusia serta upaya pencegahan kekerasan seksual, termasuk yang terjadi di ruang digital.
Dari sudut pandang tata kelola AI global, pemblokiran Grok dinilai berpotensi menjadi preseden penting. Kebijakan tersebut mengirimkan sinyal kuat kepada pengembang dan penyedia platform AI bahwa inovasi tanpa tanggung jawab justru menghadirkan risiko serius. “Indonesia menunjukkan bahwa regulasi tidak selalu tertinggal dari inovasi. Dalam kasus ini, negara justru berada di garis depan,” kata Pratama.
Meski demikian, Pratama menekankan bahwa pemblokiran bukanlah solusi akhir. Pemerintah perlu melanjutkan langkah ini dengan dialog teknis dan kebijakan yang lebih komprehensif, termasuk penetapan standar keamanan AI, kewajiban guardrail ketat terhadap konten seksual non-konsensual, audit independen untuk sistem AI berisiko tinggi, serta penguatan kerja sama penegakan hukum lintas negara. “Tanpa kerangka kebijakan yang kuat dan berkelanjutan, ancaman serupa akan terus muncul melalui platform AI lain. Pemblokiran Grok harus menjadi pintu masuk bagi penguatan tata kelola AI yang aman, etis, dan berpihak pada keselamatan publik,” pungkasnya.
Dukung jurnalis Headline.co.id secara gratis Atau Berkontribusi Traktir KopiUntuk pengembangan Headline Media
Gambar tidak dapat dimuat.
