educatrip.net – Seorang remaja berusia 14 tahun, Sewell Setzer III, ditemukan meninggal di rumahnya di Orlando, Florida. Namun, sebelum meninggal, ia sempat berinteraksi dengan sebuah chatbot berbasis kecerdasan buatan yang memintanya untuk “segera pulang”. Namun, kata-kata terakhirnya bukan untuk keluarga, melainkan kepada chatbot tersebut yang dinamai dari karakter “Game of Thrones” Daenerys I Targaryen.
“Bagaimana jika aku bilang aku bisa pulang sekarang?” jawab Setzer.
Namun, entah mengapa chatbot tersebut justru mendorong Setzer untuk bunuh diri dengan kalimat “tolong, wahai rajaku yang manis”. Beberapa detik kemudian, Setzer menembak dirinya sendiri dengan senapan milik ayah tirinya.
Ibu korban, Megan Garcia, menyalahkan perusahaan Character.AI yang merupakan pengembang chatbot pribadi atas kematian putranya. Garcia mengajukan gugatan kematian tidak wajar yang menuduh Character.AI telah secara ceroboh mengembangkan chatbot tersebut tanpa pengaman yang memadai, sehingga menarik perhatian anak-anak yang rentan seperti Setzer.
Menurut gugatan setebal 93 halaman yang diajukan di Pengadilan Distrik AS di Orlando, chatbot AI dianggap sebagai produk adiktif yang dapat mengaburkan antara kenyataan dan fiksi. Bahkan, interaksi dengan chatbot tersebut dianggap semakin mengandung unsur “kasar dan seksual”.
Sebelum mendaftar ke Character.AI, Setzer merupakan anak yang bahagia, ceria, dan atletis. Namun, setelah menggunakan chatbot tersebut selama 10 bulan, hidupnya berubah drastis dan kesehatan mentalnya merosot tajam.
Namun, juru bicara Character.AI menolak berkomentar lebih lanjut terkait proses hukum yang sedang berlangsung dan hanya menyampaikan belasungkawa kepada keluarga korban. Gugatan yang diajukan oleh Garcia muncul di tengah semakin banyaknya pertanyaan yang diajukan kepada perusahaan seperti Character.AI mengenai bagaimana mereka mengembangkan dan mengatur aplikasi berbasis AI mereka yang semakin canggih dan sulit dideteksi oleh manusia.
Chatbot Character.AI sendiri telah menjadi populer di kalangan remaja, bahkan digunakan untuk percakapan romantis dan eksplisit. Namun, menurut Garcia, putranya masih merupakan seorang anak-anak yang normal dan menyukai hal-hal yang disukai oleh remaja pada umumnya seperti olahraga, keluarga, musik, dan liburan.
