Perisian Chatbot A.I sudah menjadi satu tempat luahan bagi sesetengah individu kerana responsnya yang sudah menyamai seperti manusia malahan miliki tona dan emosi yang natural.
Bagaimanapun, apabila sesorang manusia terlalu bergantung hubungan dengan perisian tersebut lambat laun akan membawa padah jika tidak dikawal penggunaannya.
Menurut laporan Guardian, seorang ibu di Florida bertindak menyaman syarikat startup chatbot kecerdasan buatan (AI), Character.AI yang didakwa menjadi punca anak lelakinya membunuh diri pada Februari lalu.
Terangnya, remaja itu telah ketagih dengan perkhidmatan syarikat itu dan sangat terikat dengan chatbot atau bot sembang hasil ciptaannya.
Dalam tuntutan mahkamah yang difailkan Selasa lalu di Mahkamah Persekutuan Orlando, Florida, Megan Garcia berkata, Character.AI menyasarkan anaknya, Sewell Setzer, dengan pengalaman ‘antropomorfisme’ iaitu kepercayaan bahawa sesuatu objek mempunyai perasaan sama seperti manusia, hiperseksual dan realistik yang menakutkan.
Beliau berkata, syarikat itu memprogramkan bot sembangnya ‘dengan menggambarkan secara salah anaknya sebagai individu sebenar, ahli psikoterapi berlesen dan pasangan kekasih dewasa.
Kesannya menyebabkan anaknya itu tidak mahu lagi berada di dunia realiti dan ingin berada di dunia yang dicipta perkhidmatan terbabit.
Tuntutan sama turut menyebut, dia meluahkan perasaan untuk membunuh diri kepada bot sembang terbabit dengan perkara itu kerap kali dibangkitkan.
Sewell dikatakan menghantar mesej kepada bot itu berpuluh-puluh kali sehari dari telefonnya dan menghabiskan berjam-jam bersendirian di dalam biliknya bercakap dengan karakter buatan itu.
Ibu kepada Sewell itu berkongsi, ‘Daenerys’ pernah bertanya kepada anaknya jika dia sudah mempunyai perancangan untuk membunuh diri, remaja itu kemudian menjawab dia sudah ada rancangan tetapi tidak tahu sama ada ia akan menyakitkan atau tidak.
Chatbot itu kemudiannya didakwa membalas: “Itu bukan alasan untuk tidak meneruskannya.”
Dalam pada itu, wakil syarikat Character.AI turut meluahkan ucapan takziah kepada keluarga mangsa.
Susulan insiden itu, mereka memperkenalkan ciri keselamatan baharu termasuk tetingkap timbul yang menghalakan pengguna ke Talian Hayat Pencegahan Bunuh Diri Kebangsaan jika mereka didapati cenderung mencederakan diri sendiri.
Pelaksanaan pengawalan kandungan sensitif atau tidak senonoh buat pengguna di bawah umur 18 tahun juga dilaksanakan bagi mengelakkan perkara sama berulang lagi.