Nghịch lý Weizenbaum: Tại sao cha đẻ của chatbot đầu tiên lại dành cả đời để cảnh báo về "đứa con" của mình?

[troopy]

Năm 1966, Joseph Weizenbaum đã vô tình mở chiếc hộp Pandora khi tạo ra ELIZA. Nhưng điều khiến ông khiếp sợ không phải là con quái vật bên trong chiếc hộp, mà là sự khao khát đến mù quáng của con người muốn được con quái vật đó thấu hiểu.

Trong lịch sử phát triển của trí tuệ nhân tạo (AI), ít có câu chuyện nào mang màu sắc bi kịch và triết lý sâu sắc như câu chuyện của Joseph Weizenbaum. Ông là người đã thắp lên ngọn lửa cho các mô hình ngôn ngữ lớn mà chúng ta thấy ngày nay như ChatGPT hay Claude, nhưng cũng chính ông là người đầu tiên cố gắng dập tắt sự sùng bái dành cho nó.

Câu chuyện bắt đầu tại Viện Công nghệ Massachusetts (MIT) vào giữa thập niên 60. Weizenbaum viết ELIZA, một chương trình đơn giản đóng vai bác sĩ tâm lý. Về mặt kỹ thuật, nó cực kỳ thô sơ: nó chỉ quét các từ khóa trong câu nói của người dùng và đặt lại câu hỏi dựa trên các mẫu có sẵn. Không có tư duy, không có cảm xúc, chỉ là những dòng mã vô tri. Mục đích của Weizenbaum là để chứng minh sự hời hợt trong giao tiếp giữa người và máy.

Nhưng kết quả lại là một cú sốc tâm lý đối với chính tác giả. Một giai thoại nổi tiếng kể lại rằng, thư ký của Weizenbaum - người biết rõ ELIZA chỉ là một chương trình máy tính - đã yêu cầu ông rời khỏi phòng để bà có thể "tâm sự riêng" với cỗ máy. Những người dùng khác cũng vậy, họ trút bầu tâm sự, chia sẻ những bí mật thầm kín nhất với một thuật toán. Weizenbaum gọi đây là "Hiệu ứng ELIZA" - ảo giác rằng máy móc có trí tuệ và cảm xúc, được tạo ra bởi chính sự phóng chiếu của con người.


Sự kiện này đã thay đổi Weizenbaum mãi mãi. Từ một nhà khoa học máy tính, ông trở thành một nhà triết học đạo đức, một "kẻ nổi loạn" trong chính giới công nghệ. Tại sao ông lại phản ứng gay gắt đến vậy? Câu trả lời nằm ở quá khứ đau thương của ông.

Là một người Do Thái từng phải chạy trốn khỏi Đức Quốc xã, Weizenbaum hiểu rõ hơn ai hết cái giá của việc "phi nhân hóa". Ông rùng mình khi nghe các đồng nghiệp tại MIT ví von con người là "những cỗ máy bằng thịt" (meat machines). Với ông, đó không phải là một phép so sánh khoa học thú vị, mà là mầm mống của tội ác.

Khi ranh giới giữa người và máy bị xóa nhòa, khi con người bị xem như những cỗ máy xử lý thông tin lỗi thời cần được robot thay thế, đó là lúc xã hội mất đi tính nhân văn. Ông nhìn thấy sự tương đồng đáng sợ giữa tư duy kỹ trị lạnh lùng này với những lý thuyết đã dẫn đến nạn diệt chủng Holocaust.

Nỗi sợ lớn nhất của Weizenbaum không phải là viễn cảnh AI trỗi dậy tiêu diệt loài người theo kiểu Hollywood. Ông sợ một cái kết tinh vi và đáng buồn hơn: Con người tự nguyện dâng hiến quyền tự quyết và đạo đức của mình cho máy móc. Ông lo ngại rằng chúng ta sẽ tôn thờ công nghệ như một "thần tượng giả", tin tưởng vào phán đoán của thuật toán hơn là lòng trắc ẩn của đồng loại.

Ông Brian Merchant, tác giả cuốn Blood in the Machine, nhận định rất đúng về tầm nhìn của Weizenbaum: "Ông ấy nhận ra rằng con người luôn khao khát được kết nối, và sự dễ dàng mà một chương trình máy tính có thể lợi dụng khao khát đó sẽ khiến chúng ta trở thành con mồi".

Ngày nay, khi chúng ta đang sống trong kỷ nguyên bùng nổ của AI, những lời cảnh báo của Weizenbaum từ nửa thế kỷ trước lại trở nên thấm thía hơn bao giờ hết. Chúng ta thấy người ta yêu chatbot, hỏi ý kiến AI về các quyết định đạo đức, và thậm chí để thuật toán quyết định ai được vay tiền hay ai được tuyển dụng.

Weizenbaum đã qua đời năm 2008, nhưng di sản ông để lại không chỉ là dòng mã của ELIZA. Đó là lời nhắc nhở đanh thép rằng: Công nghệ không có lỗi, lỗi nằm ở sự yếu đuối của con người khi tìm kiếm sự thấu hiểu từ những vật thể vô tri. Như ông từng nói với bạn bè: "Tôi không phê phán AI. Tôi phê phán xã hội". Và có lẽ, xã hội mà ông phê phán chính là tấm gương phản chiếu chúng ta ngày hôm nay.

VietBF@sưu tập