Thảm họa do AI ngụy tạo ra trong chiến sự ở Iran thu hút sự hiếu kỳ của hàng triệu người khắp nơi

[S9g*]

Cuộc xung đột trong khu vực Trung Đông đang leo thang mạnh mẽ ở Iran đã kéo theo những hậu quả sâu rộng về vấn nạn cho phát tán các tin giả do AI ngụy tạo ra trên khắp các mạng xã hội.

Làn sóng các video clips và hình ảnh vệ tinh giả mạo do AI ngụy tạo ra đang bùng nổ trong bối cảnh cuộc xung đột đang leo thang dữ dội giữa Hoa Kỳ, Israel và Iran.

Theo các phân tích của BBC Verify, có rất nhiều nội dung hoàn toàn sai lệch đã thu hút tổng cộng hàng trăm triệu lượt xem trên mạng xã hội như TikTok, YouTube, .... Các chuyên gia cho rằng kỹ thuật tạo sinh ngày càng rẻ, nhanh và dễ đem ra sử dụng đang tiếp tay cho người kẻ sáng tạo nội dung để câu view, kiếm tiền từ các thông tin giả với quy mô to lớn chưa từng thấy.

"Ngập tràn tin giả" trên MXH
Trong bối cảnh nguồn tin tức về chiến sự Iran đang dồn dập từng giây từng phút, nhiều người đã tìm đến mạng xã hội để được cập nhật và chia sẻ thông tin mới nhất. Chính từ nhu cầu theo dõi tình hình theo thời gian thực tế đã tạo ra điều kiện để cho các video giả, ảnh giả mạo và tuyên bố sai sự thật đang lan rộng mạnh.

BBC Verify cho biết, họ đã ghi nhận ra nhiều video do AI ngụy tạo ra cùng với các ảnh vệ tinh ngụy tạo được sử dụng để đưa ra các khẳng định hoàn toàn sai sự thật hoặc gây ra hiểu nhầm về cuộc chiến. Một ví dụ là đoạn video được cho là ghi lại cảnh hỏa tiển Iran tấn công Tel Aviv, kèm theo âm thanh nổ lớn phía sau.

Video này đã thấy xuất hiện ra trong hơn 300 bài cho đăng tải và tiếp tục được chia sẻ trong hàng chục ngàn lần trên nhiều nền tảng khác nhau.

Trong một trường hợp khác, video cảnh tòa tháp Burj Khalifa ở Dubai bị bốc cháy và đám đông đang bỏ chạy về phía tòa nhà do AI ngụy tạo ra đã thu hút hơn 10 triệu lượt xem. Nội dung này đã lan rộng đúng lúc người dân và du khách lo ngại về các vụ tấn công qua hỏa tiển tầm xa và máy bay không người lái vào thành phố nổi tiếng này.

Video cảnh tòa tháp Burj Khalifa ở Dubai đang bốc cháy và đám đông bỏ chạy về phía tòa nhà do AI ngụy tạo ra, đã thu hút hơn 10 triệu lượt xem. (Ảnh: BBC)
Không chỉ có video clips, ảnh vệ tinh giả mạo cũng bắt đầu xuất hiện ra như một lớp thông tin sai lệch mới. BBC Verify đã xác minh được nhiều video thật sự về các đợt trả đũa mà Iran tấn công trụ sở của Hạm đội 5 của Hải quân Hoa kỳ tại Bahrain trong ngày đầu xung đột.

Tuy nhiên, chỉ qua một ngày sau, một bức ảnh ngụy tạo được báo The Tehran Times chia sẻ trên X lại lan truyền với lời tuyên bố cho rằng, căn cứ này đã bị phá hủy trên diện rộng. BBC Verify cho biết ảnh giả mạo này dường như dựa trên ảnh của vệ tinh thật chụp một căn cứ Hải quân Mỹ ở Bahrain vào tháng 2/2025, vốn đã có sẵn công khai trên mạng.

Theo công cụ phát hiện SynthID, hình ảnh này đã được ngụy tạo ra mới hoặc được cho chỉnh sửa lại qua ứng dụng AI của Google. Chi tiết về 3 chiếc xe đậu bên ngoài nằm đúng cùng vị trí ở cả tấm ảnh thật lẫn ảnh giả, dù hai ảnh này được cho là cách nhau một năm, càng làm dấy lên nghi ngờ về tính cách xác thực.

Rào cản bị sụp đổ
Theo ông Timothy Graham, chuyên gia mạng xã hội tại Đại học Kỹ thuật ở Queensland, Úc, rào cản để cố ngụy tạo ra những thước phim xung đột giả mạo giờ đây đã hoàn toàn bị sụp đổ.

Ông cho rằng những gì mà trước đây cần đến ê-kíp sản xuất video chuyên nghiệp, giờ đây có thể cho hoàn thành chỉ trong vài phút qua ứng dụng AI. Theo ông, rào cản để ngụy tạo ra hình ảnh giả mạo về chiến sự một cách thuyết phục về nguyên tắc đã bị sụp đổ. "Quy mô thật sự đáng báo động và cuộc chiến này khiến cho chúng ta không thể phớt lờ nữa", ông Graham cho biết.

Hình ảnh giả mạo về một vụ nổ lớn tại căn cứ của Mỹ ở Iraq do AI ngụy tạo ra dựa trên ảnh vệ tinh thật chụp căn cứ Hải quân Mỹ ở Bahrain vào tháng 2/2025, vốn có sẵn công khai trên mạng. (Ảnh: BBC)
Ông Henry Ajder, chuyên gia về AI tạo sinh, cũng đưa ra sự đánh giá tương tự. Ông cho rằng số lượng ứng dụng AI hiện có để ngụy tạo ra các nội dung thao túng qua AI có độ chân thực cao chưa từng thấy.

Theo ông Ajder, chưa bao giờ những ứng dụng này lại được phổ biến rộng rãi, dễ sử dụng và rẻ như lúc này. Danh sách nền tảng ngày càng dài, từ ứng dụng video Veo của Google đến Sora của OpenAI, đến những ứng dụng AI giá rẻ như Seedance (TQ) và Grok được cho kết hợp ngay trong X.

Tuy nhiên, vấn đề không chỉ nằm ở kỹ thuật, mà còn ở mô hình kiếm tiền của nền tảng. X thông báo trong tuần này về việc sẽ cho tạm ngừng cho phép các người sáng tạo nội dung tham gia chương trình kiếm tiền nếu cho đăng tải lên video nói về xung đột vũ trang do AI ngụy tạo ra mà không gắn nhãn rõ ràng.

Chương trình này trả tiền cho các tài khoản hội đủ điều kiện khi bài đăng tạo ra được nhiều lượt xem, thích, chia sẻ và bình luận. Mahsa Alimardani, chuyên gia nghiên cứu về Iran tại Oxford Internet Institute, cho rằng đây là tín hiệu đáng chú ý vì nền tảng này đã thừa nhận mức độ nghiêm trọng của vấn đề ngụy tạo ác ý này.

Tuy nhiên, BBC Verify cho biết, TikTok và Meta vẩn chưa bình luận khi được hỏi liệu rằng họ có cho áp dụng biện pháp tương tự hay không. Trong khi đó, người đứng đầu bộ phận sản phẩm của X nói hôm 3/3 rằng có đến 99% các tài khoản cho phát tán video AI ngụy tạo kiểu này đang tìm cách để "lách kiếm tiền" qua việc cho đăng nội dung dễ kéo sự tương tác lớn nhằm nhận được thanh toán từ chương trình Creator Revenue Sharing.

Ông Graham ước tính X có thể đã chi trả khoảng 8-12 USD cho mỗi một triệu lượt hiển thị ra từ người sử dụng đã được xác minh. Ông cho biết, người sáng tạo nội dung phải đạt 5 triệu lượt hiển thị tự nhiên trong 3 tháng, đồng thời phải đăng ký gói X Premium mới đủ điều kiện để tham gia. Từ đó, theo chuyên gia này, nội dung AI ngụy tạo đã lan truyền mạnh gần như trở thành "cỗ máy in tiền".

"Một khi đã tham gia, nội dung lan truyền do AI tạo ra về nguyên tắc chỉ là một cỗ máy kiếm tiền. Họ đã xây dựng nên một đế chế thông tin sai lệch với mức độ tinh vi rất cao", ông Graham đưa ra nhận xét.

Hậu quả lớn nhất là niềm tin vào thông tin xác thực tiếp tục bị bào mòn. Alimardani cảnh cáo cho biết, các video giả như vậy sẽ làm giảm đi niềm tin của người ta vào những gì mà họ nhìn thấy trên mạng xã hội, dẫn đến việc ghi nhận ra bằng chứng xác thực trở nên khó khăn hơn nhiều.

Một số người đăng ký trên X thậm chí đã phải tra hỏi thêm chatbot Grok để kiểm tra mức độ thật giả của video. Mặc dù vậy, theo BBC Verify, trong nhiều trường hợp ứng dụng này vẫn không thể xác minh được chính xác những video nào do AI ngụy tạo ra.

Các chuyên gia cho rằng chưa có một giải pháp thật sự triệt để. Victoire Rio, giám đốc điều hành tổ chức bất vụ lợi What To Fix, cho rằng sô lượng nội dung từ AI đang tăng vọt vì cả hệ thống sản xuất và đăng tải nội dung lên mạng xã hội hiện nay gần như có thể cho tự động hóa hoàn toàn.

Trong khi đó, ông Graham lại cho rằng, mâu thuẫn sâu hơn nằm ở chỗ mô hình kiếm tiền dựa trên sự tương tác và mục tiêu cung cấp thông tin chính xác vốn đã từng xung đột trực tiếp với nhau.

"Vấn đề cốt lõi là việc kiếm tiền dựa trên tương tác và thông tin chính xác về nguyên tắc đã có nhiều mâu thuẫn với nhau, và không có nền tảng nào giải quyết triệt để được mâu thuẫn đó, hoặc có lẽ sẽ không bao giờ cho giải quyết được", chuyên gia mạng xã hội tại Đại học Kỹ thuật ở Queensland đưa ra nhận định.