Clip khiêu dâm do AI dàn dựng tràn lan trên Twitter

[PinaColada]

Clip nhạy cảm do AI dàn dựng tràn lan trên Twitter. Hiện nay AI đang tạo ra vô số clip deepfake. Như vậy sau nhóm diễn viên, ca sĩ nổi tiếng, đến lượt các ngôi sao mạng trở thành nạn nhân.



Theo NBC News, những bức ảnh, clip khiêu dâm tạo ra bởi deepfake vẫn tràn lan trên mạng xã hội nổi tiếng Twitter, bất chấp các quy tắc của nền tảng chống lại vấn nạn này.

Khi gõ tên và ấn tìm kiếm trên Twitter ba cái tên Addison Rae Easterling, Charli D'Amelio và Bella Poarch - những ngôi sao mạng được theo dõi nhiều nhất trên TikTok, kết quả trả về có chứa nhiều hình ảnh, video nhạy cảm được đăng tải trong khoảng 24 giờ đổ lại.

Các bài đăng cũ hơn có nội dung tương tự cũng đã tồn tại vài tuần.

Ngôi sao TikTok Addison Rae bị cắt, ghép hình ảnh nhạy cảm.
Deepfake là công nghệ ghép khuôn mặt vào video bằng cách ứng dụng trí tuệ nhân tạo. Kể từ đó, nhiều phụ nữ, từ người nổi tiếng cho đến một cô gái bất kỳ nào đó, dễ dàng trở thành nạn nhân của các clip nhạy cảm tráo đổi gương mặt, trong đó gương mặt của họ sẽ bị ghép vào cơ thể của nhân vật phim khiêu dâm.

Chỉ trong vòng vài năm, vấn nạn ngày càng phổ biến. Đây là ví dụ rõ ràng nhất của vấn đề lạm dụng công nghệ, cho thấy AI có thể gây hậu quả lớn như thế nào khi dùng sai cách.

TikToker là nạn nhân tiếp theo
Theo báo cáo của công ty truyền thông Sensity vào năm 2019, 96% sản phẩm tạo ra từ deepfake trên Internet có liên quan đến nội dung khiêu dâm, trong đó mô tả nữ giới trong các tình huống liên quan tới tình dục.

Nữ diễn viên Scarlett Johansson từng xuất hiện trong hàng chục video ghép mặt trên các trang phim khiêu dâm. Johansson nói với The Washington Post vào năm 2018: “Không gì có thể ngăn ai đó cắt và dán hình ảnh của tôi hoặc của bất kỳ ai khác lên một cơ thể khác và làm cho nó trông y hệt như thật”.

Sau các diễn viên nổi tiếng, đến lượt nhóm sao mạng, TikToker trở thành nạn nhân thường xuyên. Số lượng nội dung nhạy cảm liên quan đến 3 nữ ngôi sao mạng nổi tiếng trên TikTok ngang ngửa với video, hình ảnh deepfake lấy gương mặt của Emma Watson.

Trong một bài đăng xuất hiện trên Twitter vào ngày 31/5, một clip ngắn, trong đó khuôn mặt của Easterling được ghép vào cơ thể của một người phụ nữ khỏa thân nằm trên giường, được xem hơn 21 triệu lần, theo số lượt xem công khai được hiển thị.

Để so sánh, một tweet của ông chủ Twitter, Elon Musk, từng có khoảng 26 triệu lượt xem.

Vấn nạn cắt, ghép gương mặt vào clip nóng đã xuất hiện ở nhiều quốc gia như Trung Quốc, Mỹ, Hàn Quốc… và càng phát triển mạnh trong thời đại công nghệ số.
Liên quan tới clip nóng "đánh tráo gương mặt", người đăng còn giới thiệu một liên kết trên nền tảng khác, là phiên bản dài hơn của clip ban đầu. Trước đó, kênh này thường xuyên đăng tải các chia sẻ "mời gọi" người xem clip nhạy cảm của người nổi tiếng, với lời khẳng định "video xác thực".

Twitter đã không trả lời yêu cầu bình luận qua email của NBC News, bao gồm các liên kết đến 9 tài khoản đăng các nội dung khiêu dâm deepfake. Nền tảng này sau đó đã khóa 6 trong 9 các tài khoản đó.

Tuy vậy, một số liên kết, bao gồm một video deepfake khiêu dâm có hình ảnh của Poarch và nhiều hình ảnh deepfake nhạy cảm của D'Amelio và gia đình TikToker này, vẫn còn tồn tại trên nền tảng.

Đại diện của Easterling, D'Amelio và Poarch không đưa ra bình luận nào về sự việc.

Tồn tại bất chấp quy định cấm
Video AI tạo clip nhạy cảm, gợi ý ảnh phụ nữ khỏa thân không phải mới xuất hiện trên Twitter. Phía "con chim xanh" từng có hành động chống lại trong quá khứ. Tháng 11/2021, nền tảng này đã khóa một tài khoản từng chia sẻ video dàn dựng khiêu dâm về Easterling.

Nhưng trong những tháng gần đây, vấn nạn này tăng vọt trên mạng, ngay cả khi các nạn nhân lên tiếng.

Số lượng clip mới trên trang web deepfake khiêu dâm tăng gần gấp đôi từ năm 2021 đến năm 2022.
Quy định của Twitter cấm rõ ràng “hình ảnh hoặc video chồng lên hoặc thao túng kỹ thuật số khuôn mặt của một cá nhân lên cơ thể khỏa thân của người khác”, theo chính sách về ảnh khoả thân không có sự đồng thuận.

Cách "con chim xanh" thực thi các quy tắc của mình đã trở thành chủ đề được giám sát ngày càng nhiều sau khi ông chủ Elon Musk cắt giảm hàng nghìn nhân viên, bao gồm cả một số người trong nhóm kiểm duyệt nội dung của Twitter.

Ella Irwin, trưởng bộ phận gần đây nhất của công ty, đã từ chức vào tuần trước.

Thực tế, một số tài khoản Twitter chuyên chia sẻ các hình ảnh, video nhạy cảm tạo thành từ AI vẫn hoạt động bình thường. Một tài khoản chuyên đăng deepfake về D'Amelio thu hút hơn 16.000 người theo dõi.

Luật cấm các sản phẩm deepfake khiêu dâm không có sự đồng thuận đã được thông qua ở một số bang của Mỹ, Vương quốc Anh và Australia, nhưng nhiều nạn nhân phải vật lộn tìm cách giải quyết khi hình ảnh có thể được tải lên ẩn danh từ bất cứ đâu.

Những người nổi tiếng và những người có ảnh hưởng từng là mục tiêu deepfake phổ biến, bao gồm cả nữ diễn viên Scarlett Johansson, đã nói về việc các nạn nhân có rất ít sự hỗ trợ, dù thiệt hại lớn về danh tiếng, tinh thần.

Tệ hơn, nhiều tài khoản trên Twitter liên tục đăng cùng một nội dung deepfake nhằm nỗ lực hướng người dùng đến các nền tảng khác như Discord hoặc Telegram, nơi tài liệu deepfake thường được trao đổi công khai.

Trong một tuyên bố với NBC News, Discord cho biết nguyên tắc cộng đồng của họ “rõ ràng cấm quảng cáo hoặc chia sẻ các tài liệu nhạy cảm không có sự đồng thuận”. Discord đã đình chỉ một máy chủ mà NBC News tìm thấy được liên kết trong các tweet có chứa nội dung khiêu dâm dàn dựng về Easterling.

VietBF@ sưu tập