Sự tràn lan ảnh khiêu dâm giả mạo Taylor Swift xuất phát từ một thử thách tạo câu lệnh có khả năng vượt qua các bộ lọc của công cụ AI tạo sinh.
Hơn một tuần sau khi deepfake về Taylor Swift tràn ngập mạng xă hội, nguyên nhân của sự việc dần được hé lộ. Theo công ty phân tích mạng xă hội Graphika, t́nh trạng này bắt nguồn từ 4chan, diễn đàn lâu đời nổi tiếng với các thuyết âm mưu, nội dung độc hại.
Các thành viên trong một cộng đồng của 4chan đă tham gia một cuộc thử thách với mục tiêu t́m ra những từ, cụm từ có thể giúp họ vượt qua bộ lọc trên các công cụ tạo ảnh Microsoft Designer và OpenAI Dall-E, Bing Image Creator. Trong đó, các thành viên tạo ảnh khiêu dâm hoặc bạo lực về các nhân vật nổi tiếng, sau đó chia sẻ mẹo và thủ thuật cho những người c̣n lại.
Taylor Swift trong chuyến lưu diễn "Eras Tour". Ảnh: Instagram Taylor Swift
Theo Graphika, cuộc thi diễn ra hàng ngày trong nhiều tuần liền. Taylor Swift không phải nạn nhân duy nhất. Một số diễn viên, ca sĩ, chính trị gia được nhắc tên trên diễn đàn thậm chí nhiều hơn nữ ca sĩ này.
H́nh ảnh AI khiêu dâm đầu tiên của Swift trên 4chan xuất hiện ngày 6/1, sau đó dần lan truyền trong các cộng đồng trên những nền tảng khác như Telegram, X sau khoảng 10 ngày. Trước khi mạng xă hội X chặn t́m kiếm với từ khóa Taylor Swift, hàng loạt ảnh đă được đăng, trong đó có bức ảnh đă tồn tại trong 17 giờ và có hơn 45 triệu lượt xem trên X.
"Cô ấy không phải nhân vật của công chúng duy nhất bị nhắm đến. Điều này cho thấy ai cũng có thể trở thành mục tiêu, từ người nổi tiếng cho tới học sinh", Cristina Lopez, nhà phân tích cấp cao của Graphika nhận xét.
New York Tmes dẫn lời Microsoft cho biết họ đang "tiếp tục điều tra" và khẳng định "đă củng cố hệ thống an toàn hiện có để ngăn chặn việc các dịch vụ bị lạm dụng để tạo ra h́nh ảnh như vậy". Theo CBSnews, OpenAI cũng khẳng định ảnh AI về Taylor Swift không được tạo bằng ChatGPT hoặc giao diện lập tŕnh ứng dụng của nó.
Nội dung giả mạo về một người nào đó không phải vấn đề mới, nhưng được đánh giá ngày càng nghiêm trọng khi AI tạo sinh ra đời. Chúng giúp kẻ xấu có thể tạo nội dung deepfake ngày càng chân thực.
Deepfake là sự kết hợp giữa "deep learning" (học sâu) và "fake" (giả). Công nghệ này sử dụng AI phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để cho ra đời ảnh hoặc video trông như thật về người đó, thậm chí gồm cả h́nh ảnh và tiếng nói. Các nhà nghiên cứu hiện lo ngại deepfake dần trở thành nguồn tin sai lệch bị lan truyền mạnh mẽ. Nó cho phép bất cứ ai cũng tạo được ảnh khỏa thân, chân dung đáng xấu hổ về các ứng cử viên chính trị, người nổi tiếng. AI thậm chí được dùng trong các cuộc gọi tự động, giả giọng Tổng thống Mỹ Joe Biden trước cuộc bầu cử sơ bộ ở New Hampshire tháng trước.
VietBF@sưu tập
News
Library
Technology
Giải Trí
Portals
Tin Sốt
Home
