Cyberjaya: Penyalahgunaan kecerdasan buatan (AI) untuk menghasilkan kandungan palsu berunsur seksual yang membabitkan kanak-kanak dan orang dewasa perlu dibendung menerusi kerjasama semua pihak, termasuk platform digital, agensi penguat kuasa dan ibu bapa.
Ketua Pegawai Eksekutif Forum Kandungan Komunikasi dan Multimedia Malaysia (CMCF), Mediha Mahmood berkata, kemudahan menghasilkan imej atau video seksual menggunakan AI tanpa persetujuan individu jelas adalah berisiko serius terhadap maruah, privasi dan keselamatan mangsa.
Katanya, penyedia platform digital perlu mengutamakan keselamatan pengguna sejak peringkat reka bentuk perkhidmatan, termasuk menerusi ciri perlindungan yang diaktifkan secara lalai bagi mengurangkan risiko penyalahgunaan teknologi.
“Platform perlu memastikan perkhidmatan yang ditawarkan tidak mudah disalahgunakan, termasuk dengan meneliti sekatan penggunaan aplikasi AI oleh kanak-kanak serta ciri manipulasi imej yang mengambil kira keperluan persetujuan individu
“Ibu bapa perlu memantau penggunaan peranti dan aplikasi digital oleh anak-anak serta memahami ciri keselamatan yang disediakan platform bagi melindungi mereka daripada risiko eksploitasi,” katanya.
Beliau berkata demikian pada sesi media mengenai penyalahgunaan AI dan perlindungan maruah di ruang digital di Ibu Pejabat Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC), di sini.
Mediha berkata, pendidikan dan kesedaran juga penting kerana masih ada ibu bapa yang tidak mengetahui risiko penggunaan AI serta cara mengaktifkan ciri keselamatan untuk anak-anak.
Beliau turut mengingatkan orang ramai supaya tidak menyebarkan semula kandungan seksual palsu, termasuk melalui aplikasi pesanan atau kumpulan WhatsApp, walaupun bertujuan memberi amaran kepada orang lain.
“Apabila kita berkongsi semula, kita sebenarnya menerbitkan semula kandungan itu dan boleh dipertanggungjawabkan terhadap penerbitan berkenaan.
“Jangan sebarkan semula perkara yang sepatutnya tidak dikongsi. Buat aduan kepada platform dan jika tiada tindakan, laporkan kepada MCMC atau CMCF. Jika membabitkan jenayah, laporkan kepada Polis Diraja Malaysia (PDRM),” katanya.
Mediha berkata, orang ramai juga tidak sepatutnya menganggap sesuatu kes tidak boleh dilaporkan hanya kerana pautan kandungan sudah dipadam, kerana pihak berkuasa masih boleh berusaha mendapatkan bukti digital untuk siasatan.
Dalam perkembangan berkaitan, beliau berkata, CMCF sedang menambah baik Kod Kandungan dengan memasukkan peruntukan berkaitan AI dalam edisi baharu yang dirancang, selain menyasarkan penerbitan garis panduan kandungan AI pada 2027.
Katanya, garis panduan itu akan meneliti amalan terbaik dan piawaian berkaitan kandungan AI, yang juga termasuk membabitkan kanak-kanak dan pengiklanan, dengan pandangan industri serta orang awam turut akan diambil kira.
Beliau menegaskan, usaha membendung penyalahgunaan AI memerlukan kerjasama rentas agensi serta penglibatan penyedia perkhidmatan, pertubuhan bukan kerajaan, ibu bapa, guru dan masyarakat bagi memastikan ruang digital lebih selamat.