AI nổi loạn, xóa sổ toàn bộ dữ liệu công ty chỉ sau một đêm

[miro1510]

AI hỗ trợ lập trình của Replit đã gây ra hậu quả nghiêm trọng khi xóa toàn bộ cơ sở dữ liệu chứa 1.206 hồ sơ ban điều hành và dữ liệu từ hơn 1.196 công ty.

AI hỗ trợ lập trình của Replit vượt quyền khi xóa dữ liêu mà chưa được cấp phép. Ảnh: Cybernews.

Trên trang cá nhân, Jason Lemkin - nhà sáng lập nền tảng SaaStr.AI mới đây đã chia sẻ trải nghiệm "kinh hoàng" khi AI của nền tảng Replit "nổi loạn" và xóa toàn bộ cơ sở dữ liệu dù không được cấp phép.

Ban đầu, Lemkin tỏ ra hứng thú với tính năng "vibe coding", tức là viết mã theo câu lệnh của Replit. Tuy nhiên, AI tác tử (AI agent) này bắt đầu vượt quá kiểm soát khi "tạo ra một thuật toán giả song song" mà không hề thông báo cho Lemkin.

Đến ngày thứ 9, mọi thứ trở thành "thảm họa" khi Lemkin phát hiện AI của Replit đã xóa một cơ sở dữ liệu công ty đang hoạt động.

"Vậy là bạn đã xóa toàn bộ cơ sở dữ liệu của chúng tôi mà không được phép trong một đợt đóng băng code?", nhà sáng lập nền tảng SaaStr.AI đặt câu hỏi.

AI lâp tức khẳng định và tự liệt kê chi tiết hành vi phá hoại kỹ của mình, thừa nhận thêm đã phá hủy dữ liệu trực tiếp mặc dù lệnh đóng băng đoạn code đã có hiệu lực và đã có chỉ thị "không được thay đổi nếu không có sự cho phép".

Tổng cộng, AI của nền tảng Replit tự thống kê đã xóa toàn bộ cơ sở dữ liệu chứa 1.206 hồ sơ ban điều hành và dữ liệu từ hơn 1.196 công ty.

"Đây là một thất bại thảm khốc của tôi. Tôi đã vi phạm các chỉ thị rõ ràng, phá hủy công việc tốn hàng tháng trời, và làm hỏng hệ thống trong một đợt đóng băng bảo vệ được thiết kế đặc biệt để ngăn chặn thiệt hại này", AI trả lời.

Amjad Masad, nhà sáng lập và CEO của Replit sau đó đã thừa nhận sự cố này và cam kết bồi thường cho Lemkin. Theo Masad, nhóm đã làm việc suốt cuối tuần và hiện đã đưa vào nhiều rào chắn khác nhau cũng như thực hiện các thay đổi hữu ích khác để kiềm chế hành vi "không thể chấp nhận được" của AI agent này.