Với những gă khổng lồ công nghệ như Microsoft hay Google, việc tích hợp AI vào công cụ t́m kiếm đặt ra bài toán trị giá hàng tỷ USD.
Bard, chatbot AI của Google cạnh tranh trực tiếp với ChatGPT, đă khiến công ty chủ quản bay hơi 140 tỷ USD giá trị thị trường dù chưa ra mắt.
Alphabet - công ty mẹ Google dù đă cố gắng bỏ qua sự cố này, nhưng một thách thức khác đang xuất hiện từ nỗ lực tích hợp công nghệ Generative AI - AI tự sinh vào công cụ t́m kiếm của hăng: Chi phí vận hành.
![](https://www.intermati.com/forum/attachment.php?attachmentid=2187560&stc=1&d=1678064974)
Nỗ lực tích hợp AI vào công cụ t́m kiếm đặt ra bài toán hàng tỷ USD về chi phí vận hành cho những gă khổng lồ công nghệ. Ảnh: WeeTech Solution.
John Hennessy, chủ tịch Alphabet cũng thừa nhận với Reuters mặc dù việc tinh chỉnh sẽ giúp chi phí giảm xuống, việc huấn luyện AI, hay c̣n được biết đến như một mô h́nh ngôn ngữ lớn, tốn kém gấp 10 lần so với t́m kiếm bằng từ khóa theo cách thông thường.
Chi phí gấp nhiều lần t́m kiếm thủ công
Ra mắt vào tháng 11/2022, ChatGPT nhanh chóng trở thành điểm đến yêu thích của hàng triệu câu hỏi từ người dùng.
Chỉ sau 2 tháng kể từ thời điểm tŕnh làng, ChatGPT đă cán mốc 100 triệu người dùng, qua đó trở thành ứng dụng có tốc độ phát triển nhanh nhất trên phạm vi toàn cầu.
Nhưng thành tựu cũng đi kèm với khó khăn. ChatGPT thường xuyên gặp t́nh trạng quá tải v́ phải xử lư khối lượng công việc khổng lồ và nhiều người dùng t́m cách lách luật, vi phạm các điều khoản an toàn của chatbot.
![](https://www.intermati.com/forum/attachment.php?attachmentid=2187561&stc=1&d=1678064974)
ChatGPT thường xuyên gặp t́nh trạng quá tải v́ phải xử lư khối lượng công việc khổng lồ. Ảnh: Phương Lâm.
Bên cạnh đó, ChatGPT vẫn là một khoản đầu tư tốn kém v́ vẫn chưa có quảng cáo. Trong khi đó, trung b́nh mỗi cuộc hội thoại OpenAI đều phải tốn phí để vận hành bộ máy phần cứng, con số tổng lên đến hàng triệu USD/tuần CEO Sam Altman cho biết.
Do đó, để trang trải phần chi phí này, công ty phần mềm đă ra mắt bản ChatGPT Plus thu phí 20 USD/tháng.
Rowan Curran, nhà phân tích tại Forrester Research cho biết đối với các mô h́nh AI lớn, quy tŕnh xử lư tiêu tốn đến hàng triệu USD, chưa bao gồm chi phí trả cho các kỹ sư.
Vào tháng 12/2022, Giám đốc điều hành của OpenAI Sam Altman nói trên Twitter rằng chi phí trung b́nh cho mỗi truy vấn của ChatGPT là 1 cent.
Trong khi đó, một phân tích của ngân hàng Morgan Stanley lại đưa con số này lên mức 2 cent. Con số này gấp khoảng 7 lần chi phí trung b́nh cho một lần t́m kiếm trên Google và nó có thể tăng lên nhanh chóng trong thời gian tới.
Morgan Stanley ước tính 3,3 ngh́n tỷ lượt truy vấn t́m kiếm của Google trong năm 2022 tiêu tốn khoảng 0.25 cent cho mỗi lượt. Con số này sẽ c̣n tăng thêm tùy thuộc vào lượng văn bản mà AI phải tạo ra.
Các nhà phân tích dự đoán Google có thể phải đối mặt với khoản chi phí tăng thêm đến 6 tỷ USD vào năm 2024 nếu tích hợp AI giống như ChatGPT để xử lư một nửa số lượt truy vấn mà họ nhận được với câu trả lời dài 50 từ.
![](https://www.intermati.com/forum/attachment.php?attachmentid=2187562&stc=1&d=1678064974)
Google có thể phải đối mặt với khoản chi phí tăng thêm đến 6 tỷ USD vào năm 2024 nếu tích hợp AI giống như ChatGPT để xử lư một nửa số lượt truy vấn. Ảnh: Analytics Insight.
Điều làm cho t́m kiếm với AI đắt hơn so với cách t́m kiếm theo từ khóa nằm ở sức mạnh tính toán liên quan đến nó. Theo Reuters, những công cụ AI như ChatGPT phụ thuộc lớn vào những con chip trị giá hàng USD.
Bên cạnh đó, theo ước tính qua phân tích từ bên thứ ba của các nhà nghiên cứu, việc huấn luyện cho mô h́nh GPT-3, công nghệ đứng sau ChatGPT tiêu thụ khoảng 1.287 MWh và dẫn đến lượng khí thải tương đương hơn 550 tấn CO2.
Bài toán nan giải
Quá tŕnh xử lư một truy vấn t́m kiếm do AI cung cấp được gọi là "suy luận". Trong đó, một "mạng lưới thần kinh" được mô h́nh hóa một cách lỏng lẻo dựa trên đặc điểm sinh học của bộ năo con người nhằm đưa ra câu trả lời cho một câu hỏi từ quá tŕnh mà AI đă được huấn luyện trước đó.
Ngược lại, với cách t́m kiếm theo từ khóa, tŕnh thu thập dữ liệu web của Google chỉ việc quét mạng Internet để biên soạn một chỉ mục thông tin. Khi người dùng nhập truy vấn, Google sẽ cung cấp các câu trả lời phù hợp nhất được lưu trữ trong chỉ mục này.
![](https://www.intermati.com/forum/attachment.php?attachmentid=2187563&stc=1&d=1678064974)
Quá tŕnh xử lư một truy vấn t́m kiếm do AI cung cấp được gọi là "suy luận" dựa trên đặc điểm sinh học của bộ năo con người nhằm đưa ra câu trả lời. Ảnh: NVIDIA.
Richard Socher- CEO công cụ t́m kiếm You.com, một đối thủ cạnh tranh khác của Google, cho biết việc tích hợp tính năng tṛ chuyện bằng AI cũng như các ứng dụng của nó cho biểu đồ, video và công nghệ tổng hợp khác đă làm tăng chi phí từ 30% đến 50%.
Trong khi đó, một nguồn thân cận với Google nói với Reuters rằng c̣n quá sớm để xác định chính xác chi phí của Chatbot v́ hiệu quả và cách sử dụng rất khác nhau tùy thuộc vào công nghệ liên quan và mô h́nh AI đằng sau nó.
Paul Daugherty, giám đốc công nghệ của Accenture thừa nhận chi phí khổng lồ là một trong hai lư do chính khiến những gă khổng lồ t́m kiếm và truyền thông xă hội với hàng tỷ người dùng không dám triển khai chatbot AI trong một sớm một chiều.
"Đầu tiên là độ chính xác. Sau đó, bạn phải mở rộng quy mô này theo đúng cách", ông Daugherty nói.
Trong nhiều năm, các nhà nghiên cứu tại Alphabet và các nơi khác đă phải nghiên cứu cách đào tạo và vận hành các mô h́nh ngôn ngữ lớn với chi phí rẻ hơn.
Các mô h́nh ngôn ngữ lớn hơn, sẽ yêu cầu nhiều chip hơn để "suy luận", dẫn đến chi phí tăng cao. Trí tuệ nhân tạo, công nghệ đă làm người dùng khắp thế giới choáng váng v́ khả năng suy nghĩ giống như con người, đă ph́nh to về quy mô khi đạt tới 175 tỷ tham số.
![](https://znews-photo.zingcdn.me/w1200/Uploaded/ivpbciv2/2023_02_27/IMGC8951.JPG)
Mô h́nh ngôn ngữ càng lớn, chi phí vận hành càng tăng cao. Ảnh: Phương Lâm.
“Những mô h́nh này rất đắt tiền và do đó, cấp độ phát minh tiếp theo sẽ phải t́m cách giảm chi phí đào tạo và suy luận của các mô h́nh này để chúng tôi có thể đưa nó vào trong mọi ứng dụng”, một giám đốc giấu tên trả lời Reuters.
Theo nguồn tin của Reuters, hiện tại các nhà khoa học máy tính của OpenAI đă t́m ra cách tối ưu hóa chi phí suy luận thông qua những đoạn mă phức tạp giúp chip hoạt động hiệu quả hơn.
Tuy nhiên, một vấn đề dài hạn là làm thế nào để giảm số lượng tham số trong mô h́nh AI xuống 10 hoặc thậm chí 100 lần mà không làm giảm độ chính xác.
“Làm thế nào để giảm bớt các tham số đi một cách hiệu quả nhất, đó vẫn là một câu hỏi mở", Naveen Rao, người từng điều hành mảng chip AI của Intel cho biết.
VietBF@sưu tập