Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) telah memulakan siasatan terhadap platform media sosial X berhubung penyebaran kandungan yang memudaratkan secara dalam talian.
Siasatan ini memberi tumpuan khusus kepada penyalahgunaan kecerdasan buatan (AI) generatif, terutamanya dalam memanipulasi imej wanita dan kanak-kanak untuk menghasilkan bahan lucah, sumbang, dan sangat menyinggung perasaan.
Menurut kenyataan yang dikeluarkan oleh MCMC pada hujung minggu lalu, penghasilan dan penyebaran kandungan sedemikian merupakan satu kesalahan di bawah Seksyen 233 Akta Komunikasi dan Multimedia 1998.
Akta ini secara jelas melarang penyalahgunaan perkhidmatan atau aplikasi rangkaian untuk menghantar kandungan yang bersifat sumbang, tidak senonoh, atau palsu dengan niat untuk menyakitkan hati orang lain. Susulan itu, suruhanjaya kini sedang menyiasat pengguna platform X yang disyaki melanggar peruntukan akta tersebut.
Walaupun platform X belum didaftarkan sebagai penyedia perkhidmatan berlesen di Malaysia, MCMC menegaskan bahawa platform tersebut masih tertakluk kepada piawaian keselamatan tempatan.
Melalui penguatkuasaan Akta Keselamatan Dalam Talian, platform dalam talian dan penyedia perkhidmatan berlesen diwajibkan mengambil langkah pencegahan bagi membendung penyebaran kandungan berbahaya.
Sehubungan itu, MCMC akan memanggil wakil daripada pihak X untuk memberikan penjelasan lanjut mengenai isu ini serta langkah-langkah pencegahan yang diambil bagi memastikan kandungan yang boleh diakses di negara ini adalah selamat.
Isu penyalahgunaan AI generatif di platform X berkait rapat dengan alat AI milik platform tersebut, iaitu Grok, yang kini mudah diakses oleh pengguna.
Terdapat trend terkini di mana pengguna menggunakan teknologi ini untuk tujuan manipulasi imej yang tidak beretika. Sebagai maklum balas, akaun rasmi ‘X Safety’ menyatakan bahawa mereka akan memadamkan kandungan haram dari platform tersebut dan bekerjasama dengan kerajaan tempatan serta pihak penguatkuasa undang-undang jika perlu.
Pihak X turut memberi amaran bahawa mana-mana pengguna yang menggunakan atau mengarahkan Grok untuk menghasilkan kandungan haram akan menghadapi tindakan yang sama seperti memuat naik kandungan haram itu sendiri.
