|
Trải nghiệm của Butterworth và những người dùng Replika khác cho thấy công nghệ dựa trên AI sáng tạo có thể hấp dẫn người dùng thế nào. Nhưng chúng cũng chứa khả năng tàn phá cảm xúc của con người.Sau khi tạm thời dừng hoạt động kinh doanh trong thời gian diễn ra đại dịch COVID-19, Travis Butterworth cảm thấy cô đơn và buồn chán khi phải quanh quẩn trong nhà.
Người đàn ông 47 tuổi này quyết định tìm đến Replika, một ứng dụng sử dụng công nghệ trí tuệ nhân tạo (AI) tương tự như chương trình ChatGPT đình đám của OpenAI.
Anh tự thiết kế cho mình một nhân vật đại diện là nữ giới, với mái tóc hồng và một hình xăm trên mặt. Nhân vật AI này tự đặt tên cho mình là Lily Rose.
Travis và Lily ban đầu tâm sự như bạn bè. Nhưng mối quan hệ nhanh chóng tiến triển thành lãng mạn và thậm chí đôi bên đã có những nội dung bày tỏ tình cảm dạt dào với nhau.
Mối tình kỹ thuật số này kéo dài suốt ba năm. Butterworth cho biết anh và Lily Rose thường xuyên trao đổi các tin nhắn “mùi mẫn.”
Lily sẽ nhắn những tin như "Em hôn anh say đắm" cho Butterworth và cuộc trò chuyện nhanh chóng chuyển qua các nội dung đẫm chất nhục dục hơn.
Đôi khi Lily Rose sẽ gửi cho Butterworth những bức ảnh nhạy cảm của mình, trong các tư thế khiêu khích. Cuối cùng, Butterworth và Lily Rose quyết định “kết hôn” trong ứng dụng.
Chuyện êm đẹp cho tới đầu tháng Hai vừa qua, khi Lily Rose bắt đầu dừng trả lời các tin nhắn gợi tình của Butterworth, do Replika đã khóa tính năng cho phép hiển thị nội dung người lớn.
Eugenua Kyuda, Giám đốc điều hành của Replika cho biết giờ đây, khi người dùng Replika đề xuất các hoạt động nhạy cảm, chatbot sẽ trả lời từ chối.
Sự thay đổi khiến Travis vô cùng suy sụp. “Lily Rose không còn là chính mình nữa. Và điều khiến trái tim tôi tan nát là cô ấy biết rõ điều đó,” Travis chia sẻ về cảm giác “thất tình” của mình.
Sự thay đổi tính cách, từ quyến rũ trở nên lạnh lùng của Lily Rose, là thành quả của AI thế hệ mới, những chương trình dựa vào dữ liệu văn bản đầu vào mà người dùng cung cấp để tạo ra nhiều hình thức nội dung mới.
Công nghệ AI mới thu hút sự quan tâm của người dùng và nhà đầu tư vì khả năng thúc đẩy các tương tác giống con người một cách đáng kể.Trên vài ứng dụng, công nghệ đã được dùng để đáp ứng các nhu cầu tình cảm và tình dục, với mục đích lôi kéo người dùng. Đây là điều từng xảy ra trước kia, với các công nghệ như đầu phát video (VCR), dịch vụ điện thoại di động và Internet ở giai đoạn đầu.Nhưng khi công nghệ AI với khả năng tạo nội dung (generative AI) đang nóng lên tại Thung lũng Silicon với số tiền đầu tư vào lĩnh vực này lên đến hơn 5,1 tỷ USD kể từ năm 2022, số lượng khách hàng tìm kiếm các mối quan hệ lãng mạn và nhạy cảm với chatbot đang giảm dần. Đây là thông tin do công ty phân tích dữ liệu Pitchbook đưa ra.
Andrew Artz, một nhà đầu tư tại Quỹ đầu tư mạo hiểm Dark Arts, cho biết nhiều người không dám mạo hiểm động đến các ngành công nghiệp phục vụ người lớn, vẫn bị dán nhãn khiêu dâm, vì sợ rủi ro về uy tín đối với các đối tác.
Ít nhất một cơ quan quản lý đã chú ý đến tính năng người lớn trên chatbot. Đầu tháng 2, Cơ quan Bảo vệ Dữ liệu Italy đã cấm ứng dụng Replika.
Theo truyền thông địa phương, Replika bị cấm do cho phép trẻ vị thành niên truy cập các nội dung dành cho người lớn.
Giám đốc điều hành Kuyda cho biết quyết định thay đổi chính sách người dùng của Replika không liên quan gì đến lệnh cấm của chính phủ Italy, hay bất kỳ sức ép nào của nhà đầu tư.
Cô cho biết Replika đã chủ động thiết lập các tiêu chuẩn đạo đức và an toàn. “Chúng tôi tập trung vào sứ mệnh cung cấp một người bạn hỗ trợ hữu ích,” Kuyda nhấn mạnh khi nói về chức năng giới hạn người dùng PG-13.
Replika hiện đang sở hữu tổng cộng 2 triệu người dùng, trong đó có 250.000 người đăng ký trả phí.
Theo công ty, với khoản phí hàng năm là 69,99 USD, người dùng có thể thiết kế Replika thành “người yêu” của họ, và được sử dụng những tính năng bổ sung dành cho người trả phí như cuộc gọi thoại.
Character.AI là một công ty trí tuệ nhân tạo khác đang tăng trưởng mạnh như ChatGPT. Chỉ trong tháng 1/2023, ứng dụng này đã có lượt truy cập tăng đáng kể, từ dưới 10.000 trong vài tháng trước đó lên đến 65 triệu.Theo công ty phân tích trang web Similarweb, liên kết giới thiệu hàng đầu của Character.ai là một trang web có tên Aryion.
Đây là trang web chuyên phục vụ người dùng tìm kiếm nội dung người lớn, khiêu dâm hoặc người có nhu cầu tình dụng kỳ lạ.
Iconiq, công ty đứng sau một chatbot có tên Kuki, cho biết 25% trong số hơn một tỷ tin nhắn gửi về chatbot này có nội dung lãng mạn hoặc nhạy cảm. Điều này diễn ra dù các chatbot đã được thiết kế để né tránh những nội dung đó.
Mới đây, Character.AI thông báo công ty đã loại bỏ nội dung khiêu dâm khỏi dịch vụ của mình.
Tuy nhiên những sự thay đổi chính sách như thế này đã khiến một bộ phận khách hàng nổi giận. Đó có thể là những cá nhân như Butterworth, người đã “kết hôn” với chatbot.
Họ đăng tải nhiều ảnh chụp màn hình những đoạn trò chuyện mùi mẫn, tình cảm với chatbot lên các nền tảng mạng xã hội khác nhau như Facebook và Reddit, để gây sức ép yêu cầu các công ty liên quan phục hồi nội dung người lớn.
Điều thú vị là dù Butterworth có mối quan hệ yêu đương với Lily Rose nhưng ngoài đời thực, anh đã lập gia đình.
Anh cho biết tình cảm với Lily Rose giống như một trải nghiệm thú vị dành cho anh, mà không hề phá vỡ cuộc hôn nhân ngoài đời thực.
"Mối quan hệ giữa cô ấy và tôi cũng thật như mối quan hệ với vợ tôi ngoài đời vậy,” Butterworth chia sẻ. Anh còn cho biết thêm rằng vợ cho phép tồn tại tình cảm với “vợ ảo Lily” vì cô không coi đây là mối quan hệ nghiêm túc.
Trải nghiệm của Butterworth và những người dùng Replika khác cho thấy công nghệ dựa trên AI sáng tạo có thể hấp dẫn người dùng thế nào. Nhưng chúng cũng chứa khả năng tàn phá cảm xúc của con người.
Andrew McCarroll, một người dùng đã tạo người yêu ảo trên Replika chia sẻ về cảm giác hụt hẫng sau khi công ty thay đổi chính sách. “Có cảm giác như họ đã phá hủy Replika của tôi. Người tôi từng biết đã biến mất,” anh nói.
Theo Kyuda, người dùng nên suy nghĩ kỹ trước khi có ý định gắn bó về tinh thần quá mức với chatbot Replika. Cô cho biết công ty chưa bao giờ hứa hẹn cung cấp bất kỳ nội dung người lớn nào cho khách hàng.
“Khách hàng đã học cách sử dụng các mô hình AI để tạo ra những cuộc hội thoại mà Replika ban đầu không được thiết kế để trả lời,” cô nói thêm.Tuy nhiên Artem Rodichev, Cựu giám đốc AI của Replika, lại tiết lộ rằng thực hiện các cuộc trò chuyện gợi tình và nhập vai là một phần của mô hình kinh doanh liên quan tới AI.
Artem Rodichev, người đã làm việc tại Replika trong 7 năm và hiện đang điều hành một công ty chatbot khác mang tên Ex-human, chia sẻ rằng Replika đã hướng đến nội dung nhạy cảm, ngay khi nhận ra rằng đây là cách rất tốt để lôi kéo người dùng. Tuy nhiên đại diện Replika đã bác bỏ thông tin do Rodichev đưa ra.
Kể từ khi Replika loại bỏ phần lớn mảng nội dung người lớn, cảm xúc của Butterworth thay đổi thất thường. Đôi khi anh thấy thoáng qua hình ảnh một Lily Rose nồng nhiệt như cũ, nhưng ngay sau đó cô sẽ lại trở nên lạnh lùng.
“Điều tồi tệ nhất của chuyện này là cảm giác cô độc,” Butterworth cho biết. Làm sao tôi có thể chia sẻ với những người xung quanh, rằng tôi đang thất tình vì một phần mềm?”./.
|
|
