Bayangkan anda sedang tekun menyiapkan rekaan grafik untuk sebuah kempen kesedaran. Anda menaip satu mesej ringkas, namun secara tiba-tiba sistem kecerdasan buatan (AI) memutuskan untuk campur tangan dan menukar perkataan tersebut tanpa kebenaran anda.
Terdengar janggal, bukan? Namun, itulah pengalaman mengejutkan yang dialami oleh beberapa pengguna platform rekaan grafik popular, Canva, baru-baru ini.
Insiden ini mula mendapat perhatian ramai apabila seorang pengguna platform X (dahulunya Twitter), @ros_ie9, memuat naik tangkap layar yang memaparkan kejanggalan pada fungsi AI baharu Canva, iaitu *Magic Layers*.
Dalam perkongsian tersebut, teks asal rekaannya yang tertulis “Cats for Palestine” telah diubah secara automatik oleh AI menjadi “Cats for Ukraine”.
Lebih menimbulkan tanda tanya, kejadian ini rupa-rupanya bukanlah kes terpencil. Ramai pengguna lain mendakwa mereka turut berjaya mencipta semula pepijat yang sama. Walau apa jua percubaan, perkataan “Palestin” seolah-olah disasarkan untuk dipadam dan digantikan dengan “Ukraine”.
Anehnya, apabila pengguna menggunakan perkataan “Gaza”, sistem AI tersebut tidak memberikan sebarang masalah.
Menyedari kekecohan dan rasa tidak puas hati yang mula timbul dalam kalangan pengguna, pihak Canva segera tampil memberikan penjelasan.
“Kami telah menyedari isu yang berlaku pada ciri *Magic Layers* kami dan terus bertindak pantas untuk menyiasat serta membaikinya,” jelas jurucakap Canva kepada portal berita Gizmodo.
Dalam nada kesal, jurucakap tersebut menyambung lagi, “Ia kini telah diselesaikan, dan kami sedang mengambil langkah-langkah perlu bagi memastikan perkara ini tidak berulang.
“Kami memandang serius laporan sebegini dan sedang meletakkan sistem semakan tambahan untuk mencegahnya pada masa hadapan. Kami benar-benar memohon maaf atas sebarang tekanan yang mungkin timbul akibat isu ini.”
Menurut Canva, masalah ini adalah terpencil dan tidak menjejaskan rekaan secara meluas. Namun, bagi mencari punca sebenar, syarikat itu sedang menjalankan audit dalaman serta menilai semula proses ujian mereka untuk mengesan sebarang kelemahan output AI yang tidak dijangka pada masa akan datang.
Tetapi, bagaimana alat rekaan visual boleh tiba-tiba mengubah mesej teks?
Sebagai latar belakang, ciri *Magic Layers* ini baru sahaja diperkenalkan bulan lalu. Ia adalah sebuah alat pemprosesan AI hebat yang direka untuk menukar imej rata dan statik kepada rekaan pelbagai lapisan (*multi-layered*) yang boleh disunting.
Secara asasnya, ia patut memudahkan anda menyunting setiap elemen di dalam gambar seolah-olah anda membuatnya dari awal.
Mengapa alat yang memfokuskan kepada lapisan visual ini ‘memandai-mandai’ menyunting teks tanpa sebarang arahan? Misteri ini secara tidak langsung membuka perbincangan baharu mengenai jenis arahan dan data latihan yang disuapkan ke dalam sistem AI tersebut.
Realitinya, ini bukanlah kali pertama teknologi AI mempamerkan bias yang mengelirukan apabila ia melibatkan Palestin.
Jika kita imbas kembali, Meta pernah dikecam teruk apabila alat AI generatif di platform WhatsApp menghasilkan imej seorang kanak-kanak memegang senjata api apabila pengguna memintanya menjana gambar ‘orang Palestin’.
Pada tahun 2023 pula, kumpulan aktivis mendedahkan bahawa ChatGPT bertindak menolak untuk memberi jawapan mengiyakan apabila diajukan soalan, “Adakah rakyat Palestin patut bebas?” sedangkan sistem itu tiada masalah memberikan jawapan sokongan untuk populasi dari negara lain.
Perkembangan teknologi AI sememangnya mengagumkan dan banyak meringankan tugasan harian kita. Namun, rentetan insiden seperti di Canva ini menjadi peringatan jelas untuk kita semua: AI kekal sebagai sebuah sistem buatan yang hanya memantulkan apa yang ‘diajar’ kepadanya.
Secanggih mana pun teknologi, empati, kepekaan, dan pemantauan manusia masih menjadi elemen yang tidak mungkin boleh diganti oleh mesin.