Malaysia Perlu Percepat Kerangka Dasar Dan Kawal Selia AI Berisiko Tinggi

Oleh Mohamad Syazwan Mustafa

JOHOR BAHRU, 29 Mac (Bernama) -- Malaysia perlu mempercepat usaha memperkukuh kerangka dasar dan pengawalseliaan kecerdasan buatan (AI), khususnya bagi teknologi berisiko tinggi, demi melindungi keselamatan digital dan mengekang penyalahgunaan seperti penipuan deepfake yang semakin berleluasa. 

Ketua Pegawai Eksekutif dan Pengarah Institute for Data Innovation and Artificial Intelligence (IDEA-AI) di Melbourne, Australia dan Kuala Lumpur Profesor Dr Mohd Saberi Mohamad berkata langkah itu penting kerana teknologi AI semakin canggih sehingga mampu meniru suara dan identiti individu untuk memperdaya mangsa, sekali gus menyaksikan peningkatan ketara jenayah penipuan dalam talian. 

bootstrap slideshow

Beliau berkata lebih 35,000 kes penipuan dalam talian dilaporkan pada 2024 membabitkan kerugian kira-kira RM1.58 bilion, manakala tiga bulan pertama 2025 mencatat 12,000 kes bernilai RM573.7 juta.

“Walaupun tidak semua kes melibatkan deepfake, teknologi AI kini semakin digunakan oleh sindiket penipuan untuk meniru suara atau identiti seseorang bagi memperdaya mangsa.

“Malah, pada peringkat global, laporan keselamatan siber menunjukkan penipuan berasaskan deepfake meningkat lebih 10 kali ganda antara 2022 hingga 2023,” katanya kepada Bernama.

Kementerian Digital kini dalam fasa akhir merangka Rang Undang-undang (RUU) Tadbir Urus AI yang dijangka dibentangkan tahun ini bertujuan menangani risiko AI secara menyeluruh selain memastikan ekosistem AI yang selamat dan bertanggungjawab.

November lepas, Pejabat Kecerdasan Buatan Kebangsaan (NAIO) dilaporkan sedang membangunkan kerangka kawal selia AI meliputi risiko, kemudaratan, pelaporan insiden dan prinsip etika yang akan menjadi asas kepada RUU itu.

Mohd Saberi berkata kerangka perundangan sedia ada, termasuk Akta Komunikasi dan Multimedia 1998 dan Kanun Keseksaan, tidak mengkhusus kepada AI dan digubal sebelum kemunculan teknologi deepfake.

“Banyak situasi baharu sukar ditafsir secara jelas. Ketiadaan Akta AI khusus, kesukaran mengenal pasti pelaku, bidang kuasa merentas sempadan dan kekurangan standard bukti menimbulkan cabaran besar dalam penguatkuasaan,” katanya.

Beliau turut mencadangkan pendekatan kawal selia berasaskan risiko dengan aplikasi AI berisiko tinggi seperti keselamatan, kewangan, pengenalan biometrik dan sistem membuat keputusan automatik dikawal ketat, manakala penggunaan berisiko rendah diberi ruang inovasi.

“Rakyat perlu diperkukuh literasi digital, jawatankuasa dasar AI harus seimbang antara senior dan junior, dan Akta AI perlu digubal bagi menetapkan tanggungjawab pembangun dan pengguna supaya penyalahgunaan teknologi seperti deepfake dapat dielakkan,” katanya.

Sementara itu, Felo Bersekutu dan Pensyarah Kanan, Institut Kecerdasan Buatan dan Data Raya Universiti Malaysia Kelantan Dr Nooraziah Ahmad berkata penyebaran kandungan janaan AI dan maklumat palsu secara meluas boleh mencetuskan panik serta membangkitkan ketegangan berasaskan sentimen kaum, agama atau politik.

“Sekiranya tokoh awam, agensi kerajaan atau institusi kewangan boleh dipalsukan melalui deepfake, keyakinan rakyat terhadap institusi negara akan semakin terhakis.

“Undang-undang boleh menumpukan kepada penyalahgunaan seperti penipuan, pemerasan dan manipulasi politik manakala penggunaan AI untuk pendidikan, perniagaan dan inovasi terus digalakkan,” katanya.

Justeru, beliau berkata kerajaan perlu menyediakan kerangka tadbir urus yang jelas dan konsisten supaya industri mempunyai kepastian peraturan, menarik pelaburan dan membina keyakinan bahawa Malaysia mempunyai persekitaran selamat dan mesra inovasi.

“Persoalan sama ada sistem pelesenan bagi penggunaan AI berisiko tinggi wajar dilaksanakan memerlukan pertimbangan yang seimbang antara keselamatan awam dan kebebasan inovasi. Daripada sudut dasar, terdapat asas yang kukuh untuk melaksanakannya, khususnya bagi membendung penyalahgunaan serius seperti penipuan berisiko tinggi.

“Pendekatan ini juga selari dengan akta antarabangsa seperti EU AI Act yang menggunakan pendekatan berasaskan risiko untuk mengawal selia dan menyekat penggunaan AI yang berpotensi mendatangkan kemudaratan,” katanya.

-- BERNAMA