Nội dung "AI rác" đang âm thầm hủy diệt internet mà không có ai biết

[trungthuc]

Sự bùng nổ của AI và các nội dung do những ứng dụng AI rác tạo ra có thể làm sai lệch nhận thức của con người và cuối cùng khiến cho thế giới internet bị hủy diệt.

Ông Fil Menczer, một trong những tay "thợ săn bot" hàng đầu trên thế giới, người đã từng bác bỏ "thuyết internet chết" như là một câu chuyện hoang đường. Nhưng giờ đây, ngay cả giáo sư danh tiếng tại Đại học ở Indiana này cũng phải thừa nhận: "Tôi có lo lắng hay không? Có đấy, tôi rất lo lắng".

Điều gì đã khiến cho chuyên gia kỳ cựu này phải thay đổi quan điểm của mình, chính là sự bùng nổ của "AI slop" hay còn gọi là "AI rác", đề cập đến những nội dung được trí tuệ nhân tạo chế biến ra với chi phí thấp và chất lượng kém đang tràn ngập internet như một đại dịch về kỹ thuật số.

Các nội dung do "AI rác" tạo ra đang như một bệnh dịch tràn ngập internet (Ảnh minh họa)

Renée DiResta và Josh Goldstein từ Đại học ở Georgetown đã phát hiện ra hơn một trăm trang trên Facebook với hàng triệu người theo dõi, tất cả đều cung cấp các hình ảnh "AI giả mạo". Những trang này cho bán các sản phẩm không hề tồn tại như dạng mô hình bò được thu nhỏ lại, hoặc hướng dẫn người sử dụng đi đến các website đầy các quảng cáo thông qua hình ảnh căn nhà gỗ xinh xắn.

Đặc biệt, họ phát hiện ra dạng "caption" (phụ đề) giống hệt nhau được copy trên hàng chục bài đăng: "This is my first cake! I will be glad for your marks" ("Đây là chiếc bánh đầu tiên tôi tự làm! Tôi thật vui vì bước đánh dấu của bạn") xuất hiện trên ít nhất với 18 hình ảnh khác nhau do AI tạo ra với những người tạo dáng với đủ loại bánh.

Ví dụ kỳ lạ nhất là hình ảnh AI mô tả Chúa Jesus dưới dạng con cua, thu hút hàng trăm ngàn lượt thích. Hiện tượng này phản ảnh một xu hướng về tâm lý đáng lo: AI có thể tạo ra các nội dung vượt ra bên ngoài thực tế, và những sản phẩm kỳ quái này thường lại thu hút sự chú ý hơn nội dung thật.

(Minh họa)

Với chi phí thấp để tạo ra các nội dung "AI rác" đã biến hiện tượng này thật hấp dẫn cho nhiều mục đích và ý đồ đen tối. Đã xuất hiện một dạng network với nội dung từng xuất ra cho bản hàng triệu bài viết trên hàng trăm website mới nhằm "đầu độc" các mô hình AI với các nội dung tuyên truyền hoàn toàn sai sự thật. NewsGuard đã phát hiện ra những trang này thấy có mặt trong câu trả lời của các chatbot hàng đầu.

Tệ hơn, nhiều nhóm tội phạm mạng sử dụng AI tạo CV, thư xin việc và cả nhân hóa giả mạo để xin việc làm từ xa tại nhiều công ty trên thế giới. Bọn này sử dụng AI để vượt qua cuộc phỏng vấn cũng như giải thích với đồng nghiệp tại sao chúng không bao giờ cho bật camera trong họp video.

Sự bùng nổ các nội dung "AI rác" đã tạo ra khủng hoảng về hạ tầng cơ sở nghiêm trọng. Theo Tollbit, khối lượng thu thập số liệu web tăng gấp đôi chỉ trong một quý. Khi cựu Tổng thống Jimmy Carter qua đời, Wikimedia bị quá tải do bot cho thu thập dữ kiện. Quỹ Wikimedia cho biết số lượng truy cập từ bot là "chưa từng có tiền lệ và đang tạo ra rủi ro về chi phí ngày càng tăng. cao"

Ông Fil Menczer, một người chuyên đi săn tìm các nội dung chatbot tạo ra để cố tình gây ra sai lệch trong lối suy nghĩ của nhiều người khác (Ảnh minh họa)

Các công ty xuất bản đã có phản ứng bằng cách đặt ra yêu cầu trả lệ phí hoặc ký thỏa thuận mua bán số liệu đắt đỏ với công ty AI. Shayne Longpre từ MIT cảnh cáo xu hướng này sẽ đe dọa "ý tưởng về nguồn web miễn phí và mở rộng".
"Người tiêu dùng sẽ khó được truy cập thông tin mà không phải trả tiền, còn các công ty xuất bản nhỏ có thể bị loại bỏ ra khỏi cuộc chơi."

Hậu quả nghiêm trọng nhất là vòng luẩn quẩn tự hủy diệt. Jeff Allen từ Integrity Institute có mô tả như sau: "Như loại tảo đang nở hoa có thể bùng nổ lên và làm nghẹt thở sự sống trong hệ thống sinh thái khỏe mạnh". Nội dung trong AI vốn được thiết kế để làm hài lòng hệ thống đề xuất chạy bằng AI, tạo ra vòng lặp về việc máy móc tạo nội dung cho máy móc khác, biến con người trở thành kẻ ngoài cuộc bất đắc dĩ.

"AI rác" thường tạo ra hiệu quả trong việc thu hút chú ý của người tiêu dùng vì có thể có nội dung, hình ảnh thật kỳ quái hoặc sẽ hấp dẫn hơn nội dung thật. "Nếu bạn giới hạn với những thứ thực sự đang xảy ra, đó là nhóm nội dung được định trước. AI đang tìm cách mở rộng nhóm với ý đồ đen tối đó", Allen giải thích thêm.

Chuyển đổi sang các chatbot AI cũng đe dọa những tập đoàn khổng lồ kỹ nghệ. Google đã cho triển khai AI Overviews có thể sẽ khiến các website khó thu hút người tiêu dùng. Nhiều côngxuất bản thấy lưu lượng sẽ giảm mạnh và đổ lỗi cho AI. Trong khi đó Meta đang hình dung về hướng tương lai mà AI sẽ tham gia tạo ra phần đóng góp đáng kể các bài đăng trên Facebook và Instagram, bất kể người tiêu dùng có muốn hay không.

Cuối cùng, một kịch bản tồi tệ là khi người thật không kiếm đủ tiền từ quảng cáo để duy trì trang website, các bài đăng của họ sẽ không vượt qua được các nội dung mà "AI rác" tạo ra trên mạng xã hội, vì thế internet sẽ chết đi. Không còn nội dung mới nào do con người tạo ra, "internet sẽ gần như sống dở chết dở". Với bản thân các mô hình AI, khi được huấn luyện trên chính các nội dung AI, cuối cùng nhiều khả năng chúng cũng sẽ bị sụp đổ.

Một bài đăng Facebook được xem nhiều nhất năm ngoái cho thấy căn phòng với quạt khổng lồ gắn vào đầu giường, thu hút 179,000 người vô tương tác. "Cuối cùng tìm được chiếc giường hoàn hảo", tác giả này có viết. Bài đăng có đặc điểm "AI rác" tạo ra nhưng không ai thể biết được chắc chắn. Đó chính là vấn đề khá đau đầu.

Tuy nhiên, ông Menczer vẫn chưa tin hoàn toàn vào kịch bản về "ngày tận thế của internet". "Nếu tỷ lệ tín hiệu trên bị nhiễu quá thấp đến mức là rác, mọi người sẽ ngừng không muốn sử dụng nữa", ông nói. Các công ty kỹ nghệ sẽ không để cho điều đó sẽ xảy ra.

Nhưng khi ranh giới thật-giả ngày càng mờ và chi phí tạo AI slop ngày càng rẻ, chúng ta đang chứng kiến sự thay đổi về bản chất internet. Không gian mà con người đã từng kết nối, chia sẻ ý tưởng và trải nghiệm thật đang nhường chỗ cho thế giới mà sự phân biệt giữa thật-giả, con người-máy móc trở nên khó khăn. "AI rẻ tiền" không chỉ giết chết internet mà còn giết chết khái niệm về không gian kỹ thuật số do chính đích thân con người đã tạo ra, và chỉ dành cho con người mà thôi.

Thực ra cái ổ rác này do bọn tàu chó thẩy lên tiktok chứ facebook chỉ là trung gian thôi.