Apabila Grok-2 dilancarkan, ia menggunakan enjin penjanaan imej daripada pihak ketiga iaitu Flux.1 (oleh Black Forest Labs). Berbeza dengan AI lain seperti DALL-E (OpenAI) atau Gemini (Google) yang sangat ketat, Grok pada mulanya mempunyai penapis yang sangat longgar.
Sejurus selepas pelancaran, pengguna menyedari bahawa mereka boleh “memujuk” Grok untuk menghasilkan imej tokoh terkenal atau individu dalam situasi yang tidak sopan, termasuk imej yang menanggalkan pakaian atau menggantikan wajah pada tubuh yang bogel (deepfake).
Anda boleh lihat sendiri situasi yang cukup membimbangkan di platform X apabila sejumlah lelaki miang menggunakan fungsi Grok terbabit untuk menjana gambar tidak senonoh yang berkait dengan wanita dari dunia sebenar.
Yang lebih mengejutkan, pengguna juga boleh memuat naik gambar sesiapa sahaja melalui platform tersebut dan mengarahkan Grok untuk menjana gambar tanpa pakaian atau mengubah suai bentuk badan yang mengiurkan.
Memetik laman NST, seorang peguam telah menyenaraikan langkah-langkah yang boleh diambil oleh wanita Malaysia jika ada pengguna X (Twitter) menggunakan AI Grok milik Elon Musk untuk ‘membuang’ baju atau tudung daripada gambar mereka secara digital.
Ini Caranya
“Menurut Peguam Azira Aziz, kalau kena macam ni, langkah pertama sekali adalah ‘report’ terus post tersebut kepada X supaya pihak mereka tahu ada penyalahgunaan gambar berlaku.”
Beliau menasihatkan mangsa supaya mengumpul bukti gangguan tersebut dengan menyimpan tangkap layar (screenshot) dan pautan (link) ke dalam satu fail PDF.
“Fail ini kemudiannya boleh digunakan untuk membuat aduan kepada Suruhanjaya Komunikasi dan Multimedia Malaysia (MCMC) melalui portal dalam talian mereka,” katanya dalam satu hantaran di X.
Azira juga menggesa mangsa supaya membuat laporan polis dan menyertakan fail PDF tersebut sebagai dokumen sokongan.
Bagaimanapun, beliau berkata setakat jam 3 petang semalam, beberapa mangsa dari luar negara yang melaporkan kandungan tersebut kepada X mendapati aduan mereka ditolak.
Platform media sosial itu dilaporkan mendakwa bahawa kandungan sedemikian tidak melanggar garis panduan komuniti mereka.
Pengguna lain, termasuk akaun @putrapetir_007, telah menyeru agar satu saman kumpulan (class action lawsuit) difailkan terhadap platform tersebut.
Bahayanya fungsi pembantu maya Grok ini apabila individu boleh semudah meletakkan tagged beserta arahan untuk menjana gambar tanpa batasan umur.
Isu penyalahgunaan AI Grok milik Elon Musk semakin meruncing apabila peguam Azira Aziz menasihatkan mangsa di Malaysia agar mendokumentasikan bukti dalam fail PDF untuk laporan polis dan aduan MCMC, memandangkan pihak X sebelum ini dilaporkan menolak aduan serupa daripada mangsa luar negara.
Walaupun AI tersebut telah mengakui bahawa penjanaan imej kanak-kanak bawah umur melanggar undang-undang, laporan daripada AFP mendedahkan bahawa pihak Grok kini terpaksa bertungkus-lumus membaiki kelemahan sistem mereka selepas dikecam kerana menghasilkan kandungan erotik.
Situasi ini turut mencetuskan tindakan tegas di peringkat antarabangsa apabila kerajaan Perancis merujuk kes ini kepada pendakwa raya, manakala India pula memberi tempoh tiga hari kepada X untuk menyerahkan laporan tindakan selepas platform tersebut gagal menghalang penyebaran kandungan tidak senonoh.