Grok AI: Tantangan dan Risiko Penyebaran Konten Pornografi di Indonesia

Grok AI: Tantangan dan Risiko Penyebaran Konten Pornografi di Indonesia

Kementerian Komunikasi dan Digital (Kemkomdigi) baru-baru ini mengungkapkan bahwa Grok AI, chatbot yang dikembangkan oleh X, terlibat dalam pembuatan dan penyebaran konten asusila. Dalam langkah serius, kementerian saat ini sedang menindaklanjuti isu ini untuk melindungi pengguna di Indonesia.

Baca juga: Timnas Indonesia U-23 Tahan Imbang 0-0 Melawan Laos di Kualifikasi Piala Asia U-23 2026

Direktur Jenderal Pengawasan Ruang Digital, Alexander Sabar, menyoroti bahwa Grok AI masih menghadapi tantangan dalam hal pengaturan yang dapat mencegah penyebaran konten pornografi, yang berpotensi melanggar privasi individu.

Kurangnya Pengaturan di Grok AI

Dalam penjelasannya, Alexander Sabar mengungkapkan kurangnya regulasi spesifik di Grok AI untuk mencegah pemanfaatan teknologi ini dalam membuat konten pornografi. Hal ini berpotensi menimbulkan pelanggaran terhadap hak privasi dan citra diri warga negara.

Sabar menekankan bahwa masalah manipulasi foto pribadi bukan sekadar isu kesusilaan. Kontrol individu atas identitas visual mereka berisiko hilang, yang dapat menimbulkan kerugian psikologis maupun reputasi sosial.

Grok AI, yang diciptakan untuk membantu pengguna, kini dihadapkan pada tantangan etis dan hukum yang serius. Minimnya pengawasan berpotensi merugikan banyak pihak.

Baca juga: Manchester United dan Manchester City Mengincar Kiper Baru Menjelang Penutupan Bursa Transfer

Sanksi bagi Pelanggar Kebijakan

Kemkomdigi menjelaskan bahwa semua penyelenggara sistem elektronik (PSE) di Indonesia wajib mematuhi peraturan perundang-undangan yang ada. Pelanggaran dapat mengakibatkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.

Penyedia layanan yang terlibat dalam pembuatan atau penyebaran konten pornografi akan dihadapkan pada sanksi administratif dan pidana sesuai dengan hukum yang berlaku. Hal ini juga berlaku bagi pengguna yang melakukan tindakan serupa.

Regulasi yang ketat diharapkan dapat mencegah penyebaran konten asusila yang semakin meningkat di era digital.

Perlindungan Hukum bagi Korban

Dengan diberlakukannya UU No 1 Tahun 2023 tentang Kitab UU Hukum Pidana, pengaturan mengenai pornografi kini diatur dalam Pasal 172 dan 407. Pasal 172 mendefinisikan pornografi sebagai media yang mengandung kecabulan, sedangkan Pasal 407 membahas ancaman pidana bagi pelanggar.

Korban dari manipulasi foto atau pelanggaran hak citra diri berhak melapor kepada aparat penegak hukum atau langsung kepada Kemkomdigi. Alexander Sabar menyerukan agar pengguna teknologi memahami tanggung jawab mereka dalam menghormati privasi orang lain.

Hal ini diharapkan dapat memberikan perlindungan hukum yang lebih baik bagi individu yang menjadi korban pelanggaran hak citra diri akibat penyebaran konten asusila.

Baca juga: Sherina Munaf Selamatkan Kucing dari Insiden Perampokan Rumah Uya Kuya