Các nữ sinh tại một trường tư thục ở Melbourne, Úc đã trở thành mục tiêu của úng dụng giả mạo khuôn mặt bằng trí tuệ nhân tạo (Deepfake AI), với một nam sinh đã bị bắt và cảnh sát đang cho tiến hành điều tra.
Xuất hiện những lo ngại khi trẻ em đang ngày càng tham gia nhiều hơn vào việc tạo ra các hành vi gây tổn hại lẫn nhau về tình dục. (Ảnh: Spencer Platt/Getty Images)
Một tuần lể sau khi chính phủ Úc đề nghị áp dụng luật mới nhắm vào các hình ảnh sử dụng
ứng dụng trí tuệ nhân tạo giả mạo khuôn mặt (Deepfake AI), cảnh sát đã cho bắt giữ một nam thiếu niên sau một sự kiện đáng lo ngại xảy ra tại một trường tư thục ở Melbourne.
Khoảng 50 nữ sinh đã bị nhắm mục tiêu, trong đó cậu thiếu niên kia đã sử dụng Deepfake AI để tạo ra hình ảnh và video giả do máy điện toán tạo ra bằng cách sử dụng ảnh chụp khuôn mặt của các cô gái.
Trong một bản tuyên bố, Sở Cảnh sát ở Victoria đã thông báo về vụ bắt giữ nam học sinh này của Trường Bacchus Marsh Grammar.
"Giới chức Cảnh sát đã cho bắt giữ một thiếu niên liên quan đến những hình ảnh nhạy cảm được phát tán trực tuyến", một phát ngôn viên của cảnh sát nói với giới truyền thông trong một bản tuyên bố.
"Cậu ta đã được thả ra trong khi chờ kết quả điều tra thêm. Cuộc điều tra vẫn đang được tiến hành"
Hiệu trưởng Lâm thời của Trường Bacchus Marsh Grammar, ông Kevin Richardson, chia sẻ với báo chí rằng, nhà trường luôn coi trọng vấn đề này và đã liên lạc ngay với phía cảnh sát.
"Trường Bacchus Marsh Grammar đã biết về việc tạo dựng và cho lưu hành nội dung video mà trong đó có hình ảnh của các nữ học sinh trong cộng đồng trường", ông này cho biết.
"Sự an lạc của học sinh Trường Bacchus Marsh Grammar và gia đình của các em là điều rất quan trọng đối với nhà trường chúng tôi và đang được các giới thẩm quyền giải quyết, tất cả học sinh nào bị ảnh hưởng đều được các nhân viên chăm sóc sức khỏe của chúng tôi giúp đỡ".
Ông Richardson cho biết, nhà trường sẽ không bình luận thêm về vấn đề nhạy cảm này và nhấn mạnh tầm mức quan trọng của quyền riêng tư đối với các học sinh có liên quan đến vụ này.
Giám đốc điều hành Dịch vụ Trợ giúp Nạn nhân bị Tấn công Tình dục ở Victoria, bà Kathleen Maltzahn, nói với AAP rằng việc lan truyền những hình ảnh nhạy cảm này cho thấy có sự thiếu thông tin hiểu biết về luật pháp.
Các chương trình AI cho phép tạo ra những nội dung khiêu dâm giả mạo như vậy hiện đang có sẵn cho người sử dụng Internet.
Bà Maltzahn chia sẻ với AAP: "
Chúng tôi đang chứng kiến mức độ đáng kể các trẻ em bị lạm dụng về tình dục qua các tiến bộ kỹ thuật mới mẻ nhất và hết sức lo ngài tình trạng này sẽ còn tiếp tục lan truyền".
Bà cho biết cần phải ngăn chận kịp thời vấn đề deepfake để cùng hợp tác với các trường học và ngăn chặn trẻ em bị vô tình dính líu vào kỹ thuật mới này.
Theo văn phòng Bộ trưởng Bộ Tư Pháp Mark Dreyfus trong một tuyên bố về việc giới thiệu về luật kiểm soát Deepfake, tài liệu có tính cách khiêu dâm gợi dục được tạo ra và chỉnh sửa qua kỹ thuật số khi cho phát tán ra mà không có sự đồng ý là một hình thức xâm phạm gây tổn hại đến tinh thần và gây ra đau khổ sâu sắc về mọi mặt cho nạn nhân.
Văn phòng của ông cho biết những hành động như vậy phần lớn nhắm vào phụ nữ và trẻ em gái.
Dự luật sửa đổi Bộ luật Hình sự (về Nội dung Tình dục của Deepfake) 2024 đã được giới thiệu vào tuần trước và sẽ áp đặt các hình phạt hình sự nặng nề đối với những ai ngụy tạo ra và chia sẻ nội dung deepfake gây hại.
Theo các dự luật, người phạm tội có thể phải đối mặt với án tù từ sáu đến bảy năm tùy theo mức độ vi phạm.
Các luật mới được đề xướng này sẽ được dựa trên các biện pháp cụ thể khác do chính phủ thực thi. Điều này bao gồm tăng cường nguồn tài trợ cho vấn đề An toàn trên mạng, thúc đẩy việc xem xét Đạo luật An toàn Trực tuyến trước một năm so với kế hoạch, và giải quyết các hành vi có hại như doxxing (*).
(*) Chú thích của người dịch:
Doxxing là một hình thức đe dọa trực tuyến bằng cách sử dụng thông tin cá nhân, phát ngôn, hoặc các thông tin bí mật và nhạy cảm để quấy rối.
News
Library
Technology
Giải Trí
Portals
Tin Sốt
Home
