Semalam Indonesia telah mengumumkan sekatan terhadap chatbot Grok Elon Musk susulan risiko penyebaran pornografi palsu berdasarkan AI.

Terkini, di Malaysia, MCMC telah mengumumkan sekatan sementara terhadap penggunaan AI Grok di Malaysia bermula hari ini.

Keputusan tegas ini diambil kerana Grok dikesan sering disalahgunakan untuk menghasilkan kandungan melampau seperti gambar lucah, bahan seksual eksplisit, dan imej manipulasi (deepfake) tanpa izin yang melibatkan wanita serta kanak-kanak.

Walaupun pihak MCMC sudah menghantar amaran rasmi kepada syarikat pemiliknya, iaitu X Corp dan xAI LLC pada awal Januari lalu, syarikat tersebut didapati gagal mengambil tindakan teknikal yang cukup kuat untuk menghalang kandungan haram tersebut.

Sekatan ini dilakukan bagi memastikan undang-undang negara, khususnya Akta Komunikasi dan Multimedia 1998, dipatuhi demi menjaga keselamatan pengguna di Malaysia.

“Bagaimanapun, maklum balas yang dikemukakan oleh X Corp pada 7 Januari dan 9 Januari lalu hanya memberi tumpuan utama kepada mekanisme pelaporan yang dimulakan oleh pengguna serta gagal menangani risiko sedia ada yang wujud hasil daripada reka bentuk dan pengoperasian alat AI berkenaan.

“MCMC mendapati perkara ini tidak memadai untuk mencegah kemudaratan serta memastikan pematuhan kepada undang-undang,” katanya dalam kenyataan itu

Pihak MCMC menjelaskan bahawa sekatan ini adalah langkah awal untuk mencegah masalah yang lebih besar sementara siasatan dan proses undang-undang masih dijalankan.

Akses kepada Grok akan terus disekat sehinggalah syarikat tersebut berjaya membuktikan mereka mempunyai sistem yang cukup kuat untuk menghalang penghasilan kandungan berbahaya, terutamanya yang melibatkan eksploitasi wanita dan kanak-kanak.

“MCMC kekal terbuka untuk libat urus dengan X Corp dan xAI LLC tertakluk kepada pematuhan yang dapat dibuktikan terhadap undang-undang Malaysia.

“Orang awam digesa untuk melaporkan kandungan dalam talian yang memudaratkan kepada MCMC dengan segera dan jika perlu, membuat laporan polis,” katanya.

Dalam artikel sebelum ini, kami turut berkongsi perkara yang perlu dilakukan oleh mangsa manipulasi gambar dari janaan Grok menurut saranan peguam.