Kerajaan Malaysia kini sedang mempertimbangkan untuk mewajibkan pelabelan kandungan digital yang dihasilkan oleh kecerdasan buatan (AI) sebagai AI Generatif di bawah Akta Keselamatan dalam Talian 2024, yang dijangka berkuat kuasa pada penghujung tahun ini.

Cadangan ini dikemukakan susulan kebimbangan terhadap penyalahgunaan teknologi AI dalam ruang digital, khususnya di media sosial yang menjadi medan utama penyebaran maklumat, berita dan kandungan hiburan.

Menteri Komunikasi Datuk Fahmi Fadzil menegaskan bahawa pelabelan ini penting untuk mengekang penipuan digital, penyebaran fitnah dan penyamaran identiti yang semakin meningkat seiring dengan kemajuan AI.

Langkah kawalan

Langkah pelabelan kandungan AI Generatif dilihat sebagai satu usaha proaktif bagi memberi amaran awal kepada pengguna tentang kemungkinan kandungan yang mereka terima bukan dihasilkan oleh manusia sebenar.

Secara teori, pelabelan sebegini boleh membantu membendung penyalahgunaan dengan meningkatkan kesedaran pengguna terhadap kandungan yang bersifat manipulatif atau palsu.

Ia juga dapat menjadi mekanisme kawalan kendiri untuk para pencipta kandungan agar lebih bertanggungjawab dalam menggunakan teknologi AI.

Bagaimanapun, keberkesanan pelabelan ini sebagai satu-satunya langkah kawalan adalah terhad jika tidak disokong oleh pendekatan menyeluruh yang merangkumi aspek teknikal, pendidikan dan penguatkuasaan.

Dari sudut teknikal, pelabelan kandungan AI secara automatik bukanlah satu tugas yang mudah. Ini kerana kandungan yang dihasilkan hari ini sering kali bersifat hibrid iaitu menggabungkan unsur manusia dan AI.

Contohnya, seseorang penulis mungkin menggunakan alat AI untuk menghasilkan draf awal sebelum membuat penyuntingan manual.

Dalam kes lain, alat AI digunakan hanya untuk menghasilkan elemen tertentu seperti gambar atau tajuk, manakala kandungan keseluruhan disiapkan oleh manusia.

Perbezaan-perbezaan halus ini menjadikan tugas mengenal pasti dan melabel secara automatik kandungan AI sebagai satu cabaran besar.

Penandaan universal

Kebanyakan sistem AI hari ini tidak mempunyai mekanisme penandaan universal seperti digital watermark yang boleh mengesahkan bahawa kandungan tertentu dijana sepenuhnya oleh AI.

Walaupun terdapat beberapa usaha oleh syarikat teknologi besar seperti OpenAI dan Google untuk menyisip metadata atau penanda khas ke dalam hasil ciptaan AI, standard global masih belum wujud dan tidak semua pembangun AI mematuhi kaedah sedemikian.

Dalam keadaan ini, teknologi pengesanan yang sedia ada juga masih belum cukup matang untuk membuat perbezaan yang tepat antara kandungan buatan manusia dan kandungan AI.

Model-model pengesan seperti GPTZero dan seumpamanya masih menghasilkan keputusan yang tidak konsisten, termasuk kesilapan dalam bentuk false positives (mengenal pasti kandungan manusia sebagai kandungan AI) dan false negatives (gagal mengenal pasti kandungan AI).

Penguatkuasaan

Dari segi penguatkuasaan, pelabelan ini memerlukan satu mekanisme pelaksanaan yang realistik dan berkesan.

Sistem AI boleh digunakan untuk menapis dan mengesan kandungan mencurigakan secara awal, namun ia harus digabungkan dengan mekanisme aduan pengguna dan pemantauan manual untuk kes-kes yang lebih kompleks.

Lebih penting lagi, kerjasama strategik dengan platform media sosial seperti Facebook, X (dahulunya Twitter), TikTok dan YouTube amat diperlukan agar pelabelan boleh dilakukan seawal peringkat penerbitan kandungan.

Tanpa penglibatan pihak industri, pelabelan di peringkat pengguna sahaja tidak mencukupi untuk mengawal penyebaran kandungan berisiko.

Pelabelan kandungan AI juga berpotensi meningkatkan tahap literasi digital masyarakat.

Apabila pengguna menyedari bahawa sesuatu kandungan dihasilkan oleh sistem bukan manusia, mereka mungkin lebih berhati-hati sebelum berkongsi, mempercayai atau bertindak berdasarkan kandungan tersebut.

Namun, keberkesanan pendidikan ini sangat bergantung kepada sejauh mana masyarakat diberi pemahaman yang betul mengenai maksud dan implikasi pelabelan.

Oleh itu, kerajaan perlu melaksanakan kempen kesedaran yang berterusan dan menyeluruh agar orang ramai memahami fungsi dan kepentingan label AI Generatif alam konteks digital semasa.

Pelabelan

Di pihak industri kreatif, pelabelan ini mempunyai implikasi tersendiri.

Dalam bidang seperti pengiklanan, penulisan kandungan dan penerbitan media digital, penggunaan AI kini sudah menjadi sebahagian daripada aliran kerja harian.

Banyak syarikat menggunakan AI untuk menjana idea, menghasilkan teks promosi, rekaan visual atau menyunting audio dan video.

Pelabelan wajib ke atas setiap elemen yang menggunakan AI boleh menimbulkan kekeliruan, membebankan penggiat industri dari sudut pematuhan, dan berisiko menjejaskan reputasi sesetengah pihak yang bergantung kepada teknologi ini untuk meningkatkan kecekapan kerja.

Justeru, garis panduan yang jelas dan praktikal diperlukan agar pelabelan tidak menghalang inovasi atau menyekat kreativiti.

Kesimpulannya, cadangan pelabelan kandungan AI Generatif adalah satu langkah awal yang penting dalam menangani risiko penyalahgunaan teknologi AI dalam talian.

Namun, ia harus dilihat sebagai sebahagian daripada pendekatan yang lebih luas, yang melibatkan pembangunan teknologi pengesanan yang kukuh, pendidikan masyarakat yang berterusan, kerjasama dengan platform digital, serta dasar yang seimbang bagi memelihara kepentingan pengguna dan industri.

Hanya dengan ekosistem sokongan yang menyeluruh, pelabelan ini mampu memberi impak yang positif dan mampan dalam jangka panjang.

-- BERNAMA

Dr Noor Zuraidin Mohd Safar ialah Pensyarah Kanan Jabatan Keselamatan Maklumat dan Teknologi Web, Fakulti Sains Komputer dan Teknologi Maklumat, Universiti Tun Hussein Onn Malaysia (UTHM).