Kerajaan perketat tindakan terhadap penyalahgunaan AI dan deepfake: Fahmi

Kerajaan memperkukuh usaha membanteras penyalahgunaan teknologi kecerdasan buatan (AI) dan kandungan deepfake susulan peningkatan kes manipulasi digital yang boleh mengancam keselamatan awam serta kestabilan sosial.

Menteri Komunikasi Fahmi Fadzil berkata, tindakan terhadap penyalahgunaan AI bergantung kepada jenis kesalahan dan boleh diambil di bawah Akta Keselamatan Dalam Talian 2025 (Akta 866) atau Akta Komunikasi dan Multimedia 1998 (Akta 588).

“Kerajaan memandang serius penyalahgunaan AI terutama apabila ia digunakan untuk menghasilkan kandungan memudaratkan atau mengelirukan masyarakat,” katanya semasa sesi penggulungan Usul Menjunjung Kasih Titah Diraja.

Menurut beliau, Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) memainkan peranan penting melalui bantuan teknikal termasuk analisis forensik digital bagi menyokong siasatan pihak berkuasa.

MCMC juga memantau kandungan media sosial yang melibatkan kepentingan awam, jenayah, ancaman serta provokasi selain bekerjasama dengan platform digital bagi mengekang penyebaran maklumat palsu.

Data MCMC menunjukkan antara 1 Januari 2022 hingga 15 Januari 2026, sebanyak 5,409 permohonan penurunan kandungan pemalsuan imej dan deepfake dikemukakan, dengan 92 peratus berjaya diturunkan. Bagi kandungan palsu lain, 59,967 permohonan dibuat dan 87 peratus kandungan telah dipadamkan.

Pindaan Seksyen 233(1) Akta 588 menetapkan penyebaran kandungan palsu untuk tujuan penipuan boleh dikenakan denda sehingga RM500,000 atau penjara maksimum dua tahun, atau kedua-duanya sekali.

Penggunaan AI semakin meluas dalam pelbagai sektor termasuk media, pendidikan dan perniagaan.

Namun, teknologi sama turut digunakan untuk menghasilkan kandungan manipulatif seperti video deepfake yang sukar dibezakan daripada kandungan sebenar, sekali gus meningkatkan risiko penyebaran maklumat tidak tepat.

Akta 866 yang berkuat kuasa pada 1 Januari 2026 pula mewajibkan penyedia platform mengawal kandungan berbahaya.

Kerajaan juga sedang mempertimbang pelabelan kandungan dijana AI bagi membantu pengguna mengenal pasti kandungan yang berpotensi mengelirukan.

Fahmi menegaskan kerajaan akan terus memantau perkembangan teknologi bagi memastikan pengguna internet dilindungi dan nilai masyarakat sentiasa dipelihara.