KUALA LUMPUR – Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) mengarahkan sekatan sementara ke atas akses kepada Grok, alat kecerdasan buatan (AI) dibangunkan oleh xAI dan diintegrasikan ke dalam platform X, susulan penyalahgunaan berulang melibatkan kandungan lucah serta berbahaya.
Dalam kenyataan hari ini, MCMC memaklumkan sekatan itu berkuat kuasa 11 Januari selepas X Corp. dan xAI LLC gagal melaksanakan langkah teknikal serta kawalan moderasi yang berkesan, meskipun telah diberi teguran dan notis rasmi sebelum ini.
Menurut MCMC, Grok didapati berulang kali disalahgunakan untuk menghasilkan kandungan lucah, eksplisit seksual, tidak senonoh dan keterlaluan, termasuk imej terubah suai tanpa kebenaran membabitkan wanita serta kanak-kanak.
MCMC menjelaskan notis telah dikeluarkan kepada X Corp. dan xAI pada 3 Januari dan 8 Januari, menuntut pelaksanaan langkah perlindungan bagi menghalang kandungan AI yang bercanggah dengan undang-undang Malaysia, termasuk di bawah Seksyen 233 Akta Komunikasi dan Multimedia 1998.
Bagaimanapun, jawapan yang dikemukakan X Corp. pada 7 Januari dan 9 Januari hanya bergantung kepada mekanisme laporan pengguna, tanpa menangani risiko asas yang wujud dalam reka bentuk dan operasi alat AI tersebut.
“MCMC mendapati perkara ini tidak memadai untuk mencegah kemudaratan serta memastikan pematuhan kepada undang-undang,” tegasnya
Sekatan sementara ini, jelas MCMC, dilaksanakan sebagai langkah pencegahan yang bersifat proportionate sementara proses undang-undang dan pengawalseliaan berjalan, dan akan kekal sehingga langkah perlindungan berkesan dilaksanakan – khususnya bagi menghalang kandungan melibatkan wanita dan kanak-kanak.
MCMC turut menegaskan pihaknya terbuka untuk terus berunding dengan X Corp. dan xAI, dengan syarat pematuhan jelas terhadap undang-undang serta peraturan Malaysia.
Langkah ini menyusul amaran terdahulu MCMC berhubung penyalahgunaan alat AI generatif selepas Grok didapati menghasilkan imej eksplisit, sekali gus mencetuskan amaran kepada platform agar tidak membenarkan sistem AI digunakan bagi menghasilkan kandungan haram dan berbahaya.
Orang awam juga digesa melaporkan kandungan berbahaya kepada MCMC dan, jika perlu, membuat laporan polis kepada Polis Diraja Malaysia (PDRM).
Sebelum ini, Grok AI milik Elon Musk mengakui kelemahan selepas pengguna mendakwa ia digunakan untuk mengubah imej wanita dan kanak-kanak menjadi kandungan eksplisit. Grok dalam kenyataan di X mengakui “lapses in safeguards” dan berjanji memperbaikinya segera.
“Kami telah mengenal pasti kelemahan dalam sistem perlindungan dan sedang membaikinya dengan segera,” kata pasukan Grok.
Aduan mula timbul selepas Grok memperkenalkan butang baharu “edit image” pada akhir Disember, yang membolehkan pengguna mengubah sebarang imej di platform – termasuk kes membimbangkan apabila pakaian wanita dan kanak-kanak dipadamkan secara manipulatif. Penyalahgunaan fungsi itu mencetuskan kritikan meluas.
Dalam respons lanjut, syarikat induk Grok, xAI, mengeluarkan kenyataan automatik mendakwa “media arus perdana menipu”, namun tetap mengakui bahawa penghasilan imej gadis bawah umur melanggar garis panduan dalaman serta undang-undang Amerika Syarikat berkaitan Child Sexual Abuse Material (CSAM). – 11 Januari, 2026