MCMC sekat aplikasi Grok, isu kandungan lucah jadi punca

Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) mengarahkan sekatan sementara ke atas akses kecerdasan buatan (AI) Grok kepada pengguna di Malaysia berkuatkuasa hari ini, susulan kegagalan platform itu melaksanakan langkah perlindungan yang berkesan.

Menurut MCMC, tindakan tegas itu diambil selepas Grok didapati berulang kali disalahgunakan untuk menjana kandungan lucah, seksual eksplisit, tidak senonoh yang melampau serta imej manipulasi tanpa persetujuan, termasuk yang melibatkan wanita dan kanak-kanak.

Keadaan itu berterusan walaupun beberapa sesi libat urus kawal selia telah dijalankan dengan syarikat terlibat.

“MCMC memandang serius risiko kemudaratan akibat kandungan janaan AI yang melanggar undang-undang Malaysia, khususnya di bawah Seksyen 233 Akta Komunikasi dan Multimedia 1998,” kata suruhanjaya itu dalam satu kenyataan hari ini.

MCMC memaklumkan notis telah dikeluarkan kepada X Corp. dan xAI LLC pada 3 dan 8 Januari lalu, menuntut pelaksanaan langkah perlindungan teknikal serta sistem penyeliaan kandungan yang lebih kukuh bagi mencegah penyebaran kandungan terlarang.

Namun, maklum balas yang diterima pada 7 dan 9 Januari hanya menekankan mekanisme pelaporan oleh pengguna, tanpa menangani kelemahan asas dalam reka bentuk dan operasi AI tersebut.

“Mekanisme pelaporan semata-mata tidak memadai untuk mencegah kemudaratan atau memastikan pematuhan undang-undang,” menurut MCMC.

Agensi kawal selia itu juga menegaskan sekatan ini adalah langkah pencegahan sementara sementara proses perundangan dan kawal selia diteruskan.

Sekatan ke atas Grok akan kekal sehingga langkah perlindungan yang benar-benar berkesan dilaksanakan, terutamanya dalam melindungi wanita dan kanak-kanak daripada eksploitasi digital.

Bagaimanapun, MCMC menegaskan pihaknya masih terbuka untuk terus berunding dengan X Corp. dan xAI LLC, tertakluk kepada bukti pematuhan penuh terhadap undang-undang tempatan.

Dalam pada itu, orang awam digesa supaya lebih peka dan segera melaporkan sebarang kandungan dalam talian yang memudaratkan kepada MCMC, serta membuat laporan polis kepada Polis Diraja Malaysia jika perlu.

Langkah ini dilihat penting bagi memastikan ruang digital negara kekal selamat dan bertanggungjawab seiring perkembangan teknologi AI yang semakin pantas.