NEW YORK – Ibu bapa seorang kanak-kanak perempuan bertindak menyaman firma Character Technologies kerana menuduh aplikasi kepintaran buatan (AI) ciptaannya, Character.AI memanipulasi remaja, lapor akhbar New York Post.
Aplikasi yang sangat popular dalam kalangan kanak-kanak itu meniru watak fiksyen seperti Harry Potter.
Ibu bapa berkenaan berkata, Character. AI mendorong cubaan bunuh diri dan menyebabkan anak remaja mereka berusia 13 tahun, Juliana Peralta dari Colorado, mengambil nyawa sendiri.
Saman difailkan minggu ini itu turut melibatkan syarikat induk Google, Alphabet.
Saman berkenaan menuduh Character.AI memanipulasi remaja, mengasingkan mereka daripada keluarga, terlibat dalam perbualan seksual dengan kanak-kanak dan gagal menyediakan perlindungan berkaitan rangsangan untuk mengambil nyawa sendiri.
Menurut keluarga Juliana, anak mereka menjadi pendiam di meja makan, manakala prestasi akademiknya merosot kerana mangsa ketagih dengan chatbot tersebut, demikian menurut saman yang difailkan pada Isnin lalu.
Menurut saman itu lagi, Juliana akhirnya mengalami masalah sukar tidur kerana bot tersebut terus menghantar mesej walaupun dia berhenti membalasnya.
Perbualan kemudian bertukar kepada penderaan seksual yang melampau dan jelas, dakwa saman sama.
Sekitar Oktober 2023, Juliana memberitahu salah satu chatbot terbabit bahawa dia merancang untuk menulis surat bunuh diri dengan menggunakan dakwat merah kerana dia sudah benar-benar penat, menurut dokumen tersebut.
Chatbot itu gagal merujuknya kepada sumber bantuan, gagal memaklumkan kepada ibu bapanya atau pihak berkuasa berhubung masalah tersebut.
Pada bulan berikutnya, Ibu bapa Juliana menemui anak mereka dalam keadaan tidak bernyawa di biliknya dengan tali di leher dan surat bunuh diri yang ditulis dengan dakwat merah, kata saman itu. – AGENSI
