Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) telah mengarahkan sekatan sementara ke atas akses alatan kecerdasan buatan (AI), Grok, bagi pengguna di Malaysia berkuat kuasa hari ini, 11 Januari.
Tindakan tegas ini diambil susulan penyalahgunaan berulang kali platform tersebut untuk menjana kandungan pornografi dan bersifat seksual. Dalam pada masa yang sama, penyedia perkhidmatan juga gagal mematuhi undang-undang tempatan.
MCMC memaklumkan bahawa keputusan ini dibuat berikutan penyebaran kandungan lucah yang melampau. Penyalahgunaan melibatkan imej manipulasi tanpa persetujuan (non-consensual manipulation) yang dijana oleh teknologi tersebut.
Melibatkan maruah wanita dan kanak-kanak
Isu ini menjadi lebih kritikal kerana ia melibatkan kandungan yang mengeksploitasi wanita dan kanak-kanak. Tindakan kawalselia oleh pihak X Corp. dan xAI LLC telah dijalankan, namun masih tidak memadai.
Sebelum sekatan ini dilaksanakan, MCMC telah mengeluarkan notis kepada X Corp. dan xAI LLC pada 3 Januari dan 8 Januari lalu.
Notis tersebut menuntut pelaksanaan langkah perlindungan teknikal dan penyeliaan kandungan yang berkesan bagi mencegah penghasilan kandungan AI yang melanggar undang-undang Malaysia, termasuk Seksyen 233 Akta Komunikasi dan Multimedia 1998.
Walau bagaimanapun, maklum balas yang dikemukakan oleh X Corp. pada 7 Januari dan 9 Januari didapati hanya menumpukan kepada mekanisme pelaporan yang dimulakan oleh pengguna (user-initiated reporting).
“Respons tersebut gagal menangani risiko sedia ada yang timbul daripada reka bentuk dan operasi alat AI berkenaan. Berdasarkan maklum balas ini, suruhanjaya mendapati tindakan tersebut tidak mencukupi untuk mencegah kemudaratan dan memastikan pematuhan undang-undang,” menurut kenyataan MCMC .
Justeru, sekatan sementara ini disifatkan sebagai langkah berjaga-jaga sementara proses perundangan dan pengawalseliaan sedang berjalan.
Sekatan akses terhadap Grok akan kekal sehingga langkah keselamatan yang berkesan, terutamanya bagi melindungi wanita dan kanak-kanak, dilaksanakan sepenuhnya.
MCMC menegaskan bahawa pihaknya kekal terbuka untuk berbincang dengan X Corp. dan xAI LLC, tertakluk kepada bukti pematuhan yang jelas terhadap undang-undang Malaysia. Orang ramai turut digesa untuk melaporkan sebarang kandungan dalam talian yang memudaratkan kepada MCMC dengan segera atau membuat laporan kepada Polis Diraja Malaysia (PDRM) jika perlu.
