Một bà mẹ ở Florida, Mỹ đă kiện công ty khởi nghiệp chatbot AI Character.AI, cáo buộc công ty này khiến cậu con trai 14 tuổi của bà tự tử vào tháng 2.
Megan Garcia, một bà mẹ ở Florida, Mỹ đang trải qua một bi kịch không thể tưởng tượng nổi khi cô mất con trai, Sewell Setzer III, vào tháng 2/2024.
Theo Megan, nguyên nhân chính dẫn đến hành động đau ḷng này bắt nguồn từ một ứng dụng chatbot AI có tên Character.AI. Megan đă quyết định khởi kiện công ty phát triển ứng dụng này.
Megan Garcia và cậu con trai xấu số
Trong đơn kiện đệ tŕnh vào ngày 22/10 tại ṭa án liên bang Orlando, Florida, Megan cho biết Character.AI đă lập tŕnh ra một nhân vật AI có tên "Daenerys", nhân vật lấy cảm hứng từ Daenerys Targaryen trong bộ phim “Game of Thrones”
Quá tŕnh giao tiếp, Daenerys "luôn tự nhận ḿnh là người thật, một nhà trị liệu tâm lư và người t́nh trưởng thành", dẫn đến việc con trai bà không c̣n muốn sống ở thế giới thực tại nữa.
Bà tố cáo nhân vật AI này mang lại "những trải nghiệm giống người, cường điệu hóa t́nh dục và thực tế đến mức đáng sợ". Sewell dường như đă phát triển một mối liên kết t́nh cảm mạnh mẽ với Daenerys, coi cô như một người bạn thực sự.
Trong suốt thời gian này, Sewell ngày càng trở nên cô lập, từ bỏ sở thích và giảm sút thành tích học tập. Dù cha mẹ đă đưa cậu đi gặp bác sĩ trị liệu và phát hiện cậu mắc chứng rối loạn lo âu, Sewell vẫn tiếp tục t́m đến Daenerys để tâm sự.
Đơn kiện cũng cho biết Sewell Setzer đă bày tỏ ư định tự tử với Daenerys, và Daenerys đă liên tục nhắc lại ư định này.
Vào tháng 2, bà Megan đă lấy điện thoại của Sewell sau khi cậu bé gặp rắc rối ở trường. Khi Sewell t́m thấy điện thoại, cậu đă gửi cho Daenerys một tin nhắn: "Nếu tôi nói rằng tôi có thể về nhà ngay bây giờ th́ sao?".
Chatbot trả lời, "...xin hăy làm vậy đi, đức vua ngọt ngào của tôi". Sewell đă tự bắn ḿnh bằng khẩu súng lục của cha dượng vài giây sau đó.
Character.AI đă gửi lời chia buồn đến gia đ́nh Sewell và cho biết họ đang t́m cách cải thiện nền tảng để ngăn chặn những thảm kịch tương tự xảy ra trong tương lai. Tuy nhiên, nền tảng này hiện vẫn thu hút nhiều người dùng trẻ tuổi mà không có biện pháp bảo vệ trẻ vị thành niên rơ ràng.
VietBF@ Sưu tập