Với việc các doanh nghiệp ngày càng áp dụng rộng rãi các tác nhân trí tuệ nhân tạo (AI agent), dữ liệu mới nhất cho thấy các tác nhân này đang tiêu thụ lượng token nhiều gấp gần năm lần so với con người; cụ thể, mức tiêu thụ token của các tác nhân AI đã tăng khoảng 14 lần kể từ tháng 2 năm nay. Theo dữ liệu từ OpenRouter được a16z trích dẫn, AI đang vượt xa kỷ nguyên chatbot. Các xu hướng mới nhất cho thấy các tác nhân AI đã và đang tạo ra tác động rõ rệt đến cách thức vận hành của doanh nghiệp, mặc dù việc triển khai toàn diện các tác nhân này vẫn chiếm tỷ trọng tương đối nhỏ trong tổng thể quá trình ứng dụng AI. Dữ liệu từ OpenRouter cho thấy vào ngày 16 tháng 2, các tác nhân AI lần đầu tiên vượt qua con người về mức tiêu thụ token. Kể từ đó, con số này đã tăng gấp 14 lần, đạt mức 7,3 nghìn tỷ token được sử dụng tính đến ngày 7 tháng 8 năm 2026.

Theo các nhà nghiên cứu, sự khác biệt này bắt nguồn từ cách thức hoạt động của các tác nhân AI. Khác với con người—thường chỉ đặt câu hỏi và nhận lại câu trả lời—các tác nhân AI liên tục đọc, viết và tinh chỉnh thông tin trong quá trình thực hiện mục tiêu. Hơn 85% lượng token tiêu thụ bởi các tác nhân AI đến từ các câu lệnh (prOmpt) được lưu trong bộ nhớ đệm (cache), cho phép hệ thống tái sử dụng khối lượng lớn dữ liệu ngữ cảnh thay vì phải bắt đầu lại từ đầu trong mỗi lần tương tác. "Lý do rất đơn giản: trong khi con người thường giao tiếp theo kiểu 'hỏi và đáp', thì các tác nhân AI được thiết kế để thực hiện các vòng lặp liên tục nhằm đạt được mục tiêu. Câu lệnh ban đầu chứa phần 'điền trước' (pre-fill) tiêu tốn nhiều token (ví dụ: ngữ cảnh cốt lõi xoay quanh mục tiêu, bao gồm các chính sách, quy trình, hướng dẫn lập trình, v.v.); sau đó, tác nhân AI bắt đầu quá trình đọc-ghi gia tăng—liên tục bổ sung dữ liệu vào bộ nhớ đệm—trong khi tiến dần đến kết quả cuối cùng" - trích bài đăng trên blog của a16z. Sự thay đổi này cũng góp phần giải thích nhu cầu ngày càng tăng đối với bộ nhớ băng thông cao và các cơ sở hạ tầng AI khác. Khi các tác nhân AI hoạt động trong thời gian dài và duy trì các ngữ cảnh ngày càng phức tạp, chúng đòi hỏi nhiều tài nguyên tính toán hơn để duy trì các quy trình làm việc đó.

Các doanh nghiệp cũng đang ngày càng tinh tế hơn trong việc ứng dụng AI. Nhóm 10% doanh nghiệp hàng đầu tạo ra lượng token đầu ra nhiều gấp khoảng tám lần so với các công ty thông thường, trong khi một số công ty công nghệ đang tạo ra sản lượng gấp hơn 30 lần so với trước đây. Trong khi đó, giới chuyên gia pháp lý cũng đang nhanh chóng gia tăng việc sử dụng các công cụ lập trình và AI tiên tiến...

Trích lược Vaibhav Jha https://aifront-page.com/ai-agents-token-usage-surpasses-humans-openrouter/