RADARSOLO.COM - Pemerintah melalui Kementerian Komunikasi dan Digital (Komdigi) resmi memblokir sementara akses fitur kecerdasan buatan Grok di platform media sosial X.
Hal ini menyusul merebaknya praktik deepfake asusila nonkonsensual yang meresahkan publik.
Kebijakan ini diumumkan setelah Komdigi menilai penggunaan Grok kian menyimpang dari tujuan awalnya.
Teknologi AI tersebut ditengarai dimanfaatkan untuk memanipulasi foto dan identitas seseorang menjadi konten asusila, dengan sasaran utama perempuan dan anak-anak.
Pemerintah Nilai Deepfake Asusila sebagai Pelanggaran HAM
Menteri Komunikasi dan Digital Meutya Hafid menegaskan, pemutusan akses Grok merupakan bentuk perlindungan negara terhadap warganya di ruang digital.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” terang Meutya.
Menurut Komdigi, pemblokiran dilakukan sebagai langkah preventif, sekaligus sinyal tegas bahwa negara tidak mentoleransi eksploitasi berbasis teknologi, terutama terhadap kelompok rentan.
Langkah ini pun jadi sorotan internasional karena Indonesia tercatat sebagai negara pertama yang memblokir Grok secara resmi.
Apa Itu Grok?
Lantas, apa sebenarnya Grok?
Merujuk keterangan resmi platform X, Grok adalah asisten berbasis kecerdasan buatan yang dikembangkan oleh xAI, perusahaan rintisan milik Elon Musk.
Fungsinya mencakup menjawab pertanyaan, membantu analisis, memecahkan masalah, hingga menghasilkan ide kreatif.
Berbeda dari chatbot AI lain, Grok dirancang dengan gaya komunikasi yang lebih santai, jenaka, bahkan sarkastik.
Inspirasi pengembangannya datang dari karya fiksi The Hitchhiker’s Guide to the Galaxy serta karakter JARVIS dalam film Iron Man.
Keunggulan utama Grok adalah integrasinya langsung dengan media sosial X, sehingga mampu menarik data real-time untuk merespons isu, tren, atau topik yang sedang viral.
Dari Asisten AI ke Alat Penyalahgunaan Konten Asusila
Di balik kecanggihannya, Grok belakangan justru menuai kontroversi.
Komdigi mencatat adanya lonjakan laporan terkait penggunaan Grok untuk menciptakan deepfake seksual, yakni rekayasa gambar seseorang tanpa izin menjadi konten tidak senonoh.
Praktik ini dinilai melanggar hukum dan etika, sekaligus membahayakan korban secara psikologis maupun sosial.
Akibatnya, akses ke laman resmi Grok, X AI, serta aplikasi mandiri Grok AI kini tidak dapat dibuka di Indonesia. Pengguna akan diarahkan ke halaman Trustpositif atau menerima notifikasi error.
Meski demikian, fitur Grok masih tampak muncul di tab khusus dalam aplikasi X, namun dengan keterbatasan.
Pembuatan gambar melalui mention @Grok diketahui hanya bisa dilakukan oleh pelanggan X Premium.
Dasar Hukum Pemblokiran Grok oleh Komdigi
Pemutusan akses Grok didasarkan pada Peraturan Menteri Kominfo Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat, khususnya Pasal 9.
Aturan tersebut mewajibkan setiap PSE memastikan sistem yang dikelolanya tidak memuat, memfasilitasi, atau menyebarluaskan konten terlarang, termasuk materi yang melanggar kesusilaan dan hukum.
Komdigi menegaskan, pemblokiran bersifat sementara dan akan dievaluasi sesuai komitmen penyedia layanan dalam melakukan perbaikan sistem pengamanan.
Perkembangan Versi Grok AI
Hingga 2024, xAI telah merilis beberapa versi Grok:
Grok-1 (17 Maret 2024): versi awal model bahasa besar berbasis teks
Grok-1.5 (28 Maret 2024): peningkatan kemampuan penalaran dan konteks
Grok-1.5 Vision (12 April 2024): model multimodal pertama xAI yang mampu memahami teks sekaligus visual, seperti foto, diagram, dan dokumen
Kemampuan multimodal inilah yang kemudian disorot karena dinilai rawan disalahgunakan tanpa pengamanan ketat. (ria)
Editor : Syahaamah Fikria