Anthropic từ chối để Bộ Quốc phòng Mỹ sử dụng AI vô điều kiện

[Romano]

Người đứng đầu Anthropic cảnh báo rằng các hệ thống AI tiên tiến hiện nay vẫn chưa đủ độ tin cậy để được giao quyền vận hành vũ khí sát thương mà không có sự kiểm soát của con người.Công ty trí tuệ nhân tạo (AI) Anthropic ngày 26/2 thông báo sẽ không cho phép Bộ Quốc phòng Mỹ sử dụng công nghệ AI của mình một cách vô điều kiện và không hạn chế, bất chấp sức ép từ Lầu Năm Góc.

Trong tuyên bố chính thức, Giám đốc điều hành công ty phát triển Chatbot Claude này Dario Amodei nhấn mạnh: “Những sức ép này không làm thay đổi lập trường của chúng tôi: về mặt lương tâm, chúng tôi không thể chấp thuận yêu cầu đó.”

Ông Amodei khẳng định các mô hình AI của Anthropic hiện đã được Lầu Năm Góc và các cơ quan tình báo triển khai nhằm phục vụ nhiệm vụ bảo vệ an ninh quốc gia.Tuy nhiên, Anthropic đặt ra giới hạn rõ ràng, đó là: Việc sử dụng AI để giám sát diện rộng công dân Mỹ và phát triển hệ thống nhắm mục tiêu quân sự hoàn toàn tự động, không có sự kiểm soát cuối cùng của con người là không thể.

Người đứng đầu Anthropic cảnh báo rằng các hệ thống AI tiên tiến hiện nay vẫn chưa đủ độ tin cậy để được giao quyền vận hành vũ khí sát thương mà không có sự kiểm soát của con người.

Ông tuyên bố: “Chúng tôi sẽ không cố ý cung cấp một sản phẩm có thể đặt binh sỹ và dân thường Mỹ vào rủi ro.”

Trước đó, ngày 24/2, Bộ trưởng Quốc phòng Mỹ Pete Hegseth và CEO Anthropic, ông Dario Amodei đã có cuộc gặp để thảo luận về vấn đề này.

Tại cuộc gặp, Lầu Năm Góc đã cảnh báo ngoài việc chấm dứt hợp đồng còn có thể xếp Anthropic vào diện "rủi ro chuỗi cung ứng" hoặc viện dẫn Đạo luật Sản xuất Quốc phòng để mở rộng quyền sử dụng sản phẩm của hãng.

Trước đó, ông Hegseth còn nhấn mạnh các hệ thống AI quân sự phải phục vụ “mọi ứng dụng quân sự hợp pháp” và khẳng định AI của Lầu Năm Góc sẽ không bị ràng buộc bởi các “hạn chế ý thức hệ.”

Đáp lại, CEO Anthropic cho rằng: “Một hệ thống AI mạnh có thể phân tích hàng tỷ cuộc trò chuyện của hàng triệu người để đo lường dư luận, phát hiện các dấu hiệu bất trung và dập tắt chúng trước khi lan rộng.”

Anthropic hiện là công ty AI lớn duy nhất chưa tham gia đầy đủ vào mạng nội bộ mới của quân đội Mỹ. Công ty này được phê duyệt hoạt động trên hệ thống quân sự mật và hợp tác với Palantir Technologies, trong khi các đối thủ mới triển khai ở môi trường không mật.

Mùa Hè năm ngoái, Lầu Năm Góc công bố trao hợp đồng quốc phòng cho 4 công ty công nghệ gồm Anthropic, Google, OpenAI và xAI của Elon Musk, với mỗi hợp đồng có giá trị tối đa 200 triệu USD.

Diễn biến trên phản ánh tranh luận ngày càng gay gắt về vai trò của AI trong an ninh quốc gia, trong bối cảnh quân đội Mỹ đẩy nhanh ứng dụng công nghệ này vào các hệ thống tác chiến và hỗ trợ./.