Pengendali media sosial abai arahan turun kandungan penipuan AI: Fahmi

Beberapa platform media sosial didapati gagal mematuhi sepenuhnya arahan untuk menurunkan kandungan manipulasi dan penipuan yang dijana menggunakan kecerdasan buatan (AI), kata Fahmi Fadzil.

Menteri Komunikasi itu memberitahu bagi tempoh dari 1 Januari 2024 hingga 31 Ogos lalu, Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) telah mengemukakan sebanyak 1,602 permohonan penurunan kandungan penipuan berasaskan AI, namun, hanya 1,346 kandungan yang berjaya diturunkan, menunjukkan kadar pematuhan sekitar 84 peratus.

“Daripada pengamatan MCMC dan saya sendiri, platform-platform media sosial tidak mengambil serius isu keselamatan dalam talian melibatkan kandungan AI,” tegas Fahmi semasa sesi soal jawab lisan di Dewan Negara hari ini.

“Hal ini terbukti apabila Seri Paduka Baginda Yang di-Pertuan Agong dan perdana menteri sendiri menjadi mangsa penipuan deepfake yang kononnya mempromosikan skim pelaburan,” tambahnya lagi.

Menjawab soalan Senator Rita Sarimah Patrick Insol, Fahmi memaklumkan kerajaan akan melaksanakan Akta Keselamatan Dalam Talian 2025 pada hujung tahun ini atau awal 2026 bagi menangani isu ini.

Akta baharu itu akan mewajibkan semua platform media sosial dan aplikasi pemesejan dalam talian untuk melabelkan kandungan yang dihasilkan atau ditambah baik oleh AI.

“Platform diwajibkan menggunakan label seperti ‘AI Generated’ atau ‘AI Enhanced’ pada gambar atau kandungan AI.

“Kita akui AI boleh menambah baik sesuatu visual, namun ia tidak boleh disalahgunakan untuk tujuan penipuan yang akhirnya merugikan orang ramai,” jelasnya.

Selain itu, akta tersebut juga akan mewajibkan penyedia perkhidmatan menyediakan pelan keselamatan dalam talian sebagai bukti pematuhan.

MCMC juga sedang meneliti kemungkinan mengenakan syarat pelesenan kepada aplikasi yang menggunakan AI.

Bagi memperkukuh usaha memerangi jenayah digital, kerajaan telah menubuhkan Pusat Respons Scam Kebangsaan (NSRC) yang diterajui polis dengan kerjasama beberapa agensi.

Pusat itu berperanan sebagai mekanisme tindakan pantas terhadap kes penipuan digital serta melaksanakan program kesedaran awam.

Sehingga 31 Ogos lepas, Kempen Internet Selamat MCMC telah dilaksanakan di 1,958 institusi pendidikan dengan lebih 145,000 peserta, manakala 236 program masyarakat umum telah diadakan dengan penyertaan melebihi 141,000 orang.