Thảm họa AI tạo ra trong chiến sự Iran

[pizza]

Xung đột khu vực đang leo thang ở Iran đang kéo theo những hệ lụy sâu rộng về vấn nạn phát tán tin giả do AI sản xuất trên khắp các mạng xã hội.

Làn sóng video và hình ảnh vệ tinh giả do AI tạo ra đang bùng nổ trong bối cảnh xung đột leo thang giữa Mỹ, Israel và Iran.

Theo phân tích của BBC Verify, nhiều nội dung sai lệch đã thu hút tổng cộng hàng trăm triệu lượt xem trên mạng xã hội. Các chuyên gia cho rằng công nghệ tạo sinh ngày càng rẻ, nhanh và dễ dùng đang giúp người sáng tạo nội dung kiếm tiền từ thông tin giả với quy mô chưa từng có.

"Ngập" tin giả trên MXH
Trong bối cảnh dòng tin tức về chiến sự Iran dồn dập, nhiều người dùng đã tìm đến mạng xã hội để cập nhật và chia sẻ thông tin. Chính nhu cầu theo dõi tình hình theo thời gian thực đã tạo điều kiện để các video giả, ảnh giả và tuyên bố sai sự thật lan rộng.

BBC Verify cho biết đã ghi nhận nhiều video do AI tạo ra cùng các ảnh vệ tinh ngụy tạo được dùng để đưa ra các khẳng định sai hoặc gây hiểu nhầm về cuộc chiến. Một ví dụ là đoạn video được cho là ghi lại cảnh tên lửa tấn công Tel Aviv, kèm âm thanh nổ lớn phía sau.

Video này xuất hiện trong hơn 300 bài đăng và tiếp tục được chia sẻ hàng chục nghìn lần trên nhiều nền tảng.

Trong một trường hợp khác, video cảnh tòa tháp Burj Khalifa ở Dubai bốc cháy và đám đông bỏ chạy về phía tòa nhà do AI tạo ra thu hút hơn 10 triệu lượt xem. Nội dung này lan rộng đúng lúc người dân và du khách lo ngại về các vụ tấn công bằng tên lửa và máy bay không người lái vào thành phố.


Video cảnh tòa tháp Burj Khalifa ở Dubai bốc cháy và đám đông bỏ chạy về phía tòa nhà do AI tạo ra thu hút hơn 10 triệu lượt xem. Ảnh: BBC.
Không chỉ video, ảnh vệ tinh giả cũng bắt đầu xuất hiện như một lớp thông tin sai lệch mới. BBC Verify xác minh được nhiều video thật về các đợt Iran tấn công trụ sở Hạm đội 5 của Hải quân Mỹ tại Bahrain trong ngày đầu xung đột.

Tuy nhiên, chỉ một ngày sau, một bức ảnh ngụy tạo được báo The Tehran Times chia sẻ trên X lại lan truyền với tuyên bố căn cứ này đã bị phá hủy trên diện rộng. BBC Verify cho biết ảnh giả này dường như dựa trên ảnh vệ tinh thật chụp một căn cứ hải quân Mỹ ở Bahrain vào tháng 2/2025, vốn có sẵn công khai trên mạng.

Theo công cụ phát hiện SynthID, hình ảnh này đã được tạo mới hoặc chỉnh sửa bằng công cụ AI của Google. Chi tiết 3 chiếc xe đỗ bên ngoài nằm đúng cùng vị trí ở cả ảnh thật lẫn ảnh giả, dù hai ảnh được cho là cách nhau một năm, càng làm dấy lên nghi ngờ về tính xác thực.

Rào cản sụp đổ
Theo Timothy Graham, chuyên gia mạng xã hội tại Đại học Công nghệ Queensland, rào cản để tạo ra những thước phim xung đột giả mạo giờ đây đã hoàn toàn sụp đổ.

Ông cho rằng những gì trước đây cần tới ê-kíp sản xuất video chuyên nghiệp, giờ có thể hoàn thành chỉ trong vài phút bằng công cụ AI. Theo ông, rào cản để tạo ra hình ảnh giả về chiến sự một cách thuyết phục về cơ bản đã sụp đổ. “Quy mô thật sự đáng báo động và cuộc chiến này khiến chúng ta không thể phớt lờ nữa”, Graham cho biết.


Hình ảnh giả mạo về một vụ nổ lớn tại căn cứ của Mỹ ở Iraq do AI tạo dựa trên ảnh vệ tinh thật chụp căn cứ hải quân Mỹ ở Bahrain vào tháng 2/2025, vốn có sẵn công khai trên mạng. Ảnh: BBC.
Henry Ajder, chuyên gia về AI tạo sinh, cũng đưa ra đánh giá tương tự. Ông cho rằng số lượng công cụ hiện có để tạo ra các nội dung thao túng bằng AI có độ chân thực cao là chưa từng thấy.

Theo Ajder, chưa bao giờ những công cụ này lại phổ biến, dễ dùng và rẻ như lúc này. Danh sách nền tảng ngày càng dài, từ công cụ video Veo của Google đến Sora của OpenAI, đến những ứng dụng AI giá rẻ như Seedance (Trung Quốc) và Grok được tích hợp ngay trong X.

Tuy nhiên, vấn đề không chỉ nằm ở công nghệ, mà còn ở mô hình kiếm tiền của nền tảng. X thông báo trong tuần này về việc sẽ tạm ngừng cho phép các nhà sáng tạo tham gia chương trình kiếm tiền nếu đăng video xung đột vũ trang do AI tạo ra mà không gắn nhãn.

Chương trình này trả tiền cho các tài khoản đủ điều kiện khi bài đăng tạo được nhiều lượt xem, thích, chia sẻ và bình luận. Mahsa Alimardani, nhà nghiên cứu về Iran tại Oxford Internet Institute, cho rằng đây là tín hiệu đáng chú ý vì nền tảng đã thừa nhận mức độ nghiêm trọng của vấn đề.

Tuy nhiên, BBC Verify cho biết TikTok và Meta chưa phản hồi khi được hỏi liệu có áp dụng biện pháp tương tự hay không. Trong khi đó, người đứng đầu bộ phận sản phẩm của X nói hôm 3/3 rằng có đến 99% các tài khoản phát tán video AI kiểu này đang tìm cách “lách kiếm tiền” bằng cách đăng nội dung dễ kéo tương tác để nhận thanh toán từ chương trình Creator Revenue Sharing.

Graham ước tính X có thể đã chi trả khoảng 8-12 USD cho mỗi một triệu lượt hiển thị từ người dùng đã xác minh. Ông cho biết người sáng tạo phải đạt 5 triệu lượt hiển thị tự nhiên trong 3 tháng, đồng thời sở hữu gói X Premium mới đủ điều kiện tham gia. Từ đó, theo chuyên gia này, nội dung AI lan truyền mạnh gần như trở thành “cỗ máy in tiền”.

"Một khi đã tham gia, nội dung lan truyền do AI tạo ra về cơ bản là một cỗ máy kiếm tiền. Họ đã xây dựng nên một đế chế thông tin sai lệch với độ tinh vi rất cao", Graham nhận xét.

Hệ quả lớn nhất là niềm tin vào thông tin xác thực tiếp tục bị bào mòn. Alimardani cảnh báo các video giả như vậy làm suy giảm niềm tin của người dùng vào những gì họ nhìn thấy trên mạng xã hội, dẫn đến việc ghi nhận bằng chứng xác thực trở nên khó khăn hơn nhiều.

Một số người dùng trên X thậm chí đã phải hỏi thêm chatbot Grok để kiểm tra độ thật giả của video. Mặc dù vậy, theo BBC Verify, trong nhiều trường hợp công cụ này vẫn không thể xác thực chính xác những video do AI tạo ra.

Các chuyên gia cho rằng chưa có giải pháp thật sự triệt để. Victoire Rio, giám đốc điều hành tổ chức phi lợi nhuận What To Fix, cho rằng lượng nội dung AI tăng vọt vì cả chuỗi sản xuất và đẩy nội dung lên mạng xã hội nay gần như có thể tự động hóa hoàn toàn.

Trong khi đó, Graham cho rằng mâu thuẫn sâu hơn nằm ở chỗ mô hình kiếm tiền dựa trên tương tác và mục tiêu cung cấp thông tin chính xác vốn xung đột trực tiếp với nhau.

"Vấn đề cốt lõi là việc kiếm tiền dựa trên tương tác và thông tin chính xác về cơ bản mâu thuẫn với nhau, và không nền tảng nào giải quyết triệt để được mâu thuẫn đó, hoặc có lẽ sẽ không bao giờ giải quyết được", chuyên gia mạng xã hội tại Đại học Công nghệ Queensland nhận định.

VietBF@ sưu tập