Cristiano Amon cho biết ngành công nghiệp AI đang đề nghị Qualcomm phát triển các mẫu điện thoại có khả năng vận hành các mô hình AI với 100 tỷ tham số một cách liên tục, xuyên suốt mỗi ngày, với mục tiêu đạt được vào năm 2028. Con số này gấp hơn ba lần năng lực xử lý của các dòng chip flagship hiện nay, đồng thời đặt ra thách thức lớn ngay trong bối cảnh thị trường đang đối mặt với tình trạng khan hiếm nguồn cung bộ nhớ – vấn đề mà chính ông Amon thừa nhận đang gây áp lực lên toàn ngành. CEO của Qualcomm tiết lộ rằng nhiều công ty AI đang thúc đẩy yêu cầu này, dù ông từ chối nêu tên cụ thể các đơn vị đó. Họ mong muốn những chiếc điện thoại thông minh có thể duy trì hoạt động liên tục cho một mô hình 100 tỷ tham số, thay vì chỉ tải mô hình lên để thực hiện một tác vụ đơn lẻ rồi tắt đi. Con số này rất đáng chú ý vì nó không xuất phát từ lộ trình phát triển nội bộ của Qualcomm, mà là yêu cầu từ các phòng thí nghiệm AI gửi tới nhà sản xuất chip di động lớn nhất thế giới – những người đang muốn đưa công nghệ này vào ngay trong túi người dùng.

Các nền tảng di động flagship mới nhất của Qualcomm – Snapdragon 8 Elite Gen 6 và Snapdragon 8 Elite Extreme Gen 6 – được sản xuất trên tiến trình 2nm và dự kiến ​​sẽ trang bị cho các dòng điện thoại cao cấp của nhiều thương hiệu như Honor, iQOO, Motorola, OnePlus, OPPO, Redmi, RedMagic, vivo và Xiaomi. Riêng phiên bản cao cấp hơn là Extreme sở hữu bộ xử lý thần kinh (NPU) Hexagon tích hợp bộ tăng tốc Element Accelerator mới cùng bộ nhớ chia sẻ lớn hơn; cấu hình này cho phép chạy trực tiếp trên thiết bị các mô hình dạng "mixture-of-experts" (hỗn hợp chuyên gia) với quy mô hơn 30 tỷ tham số và cửa sổ ngữ cảnh (context window) đạt khoảng 32.000 token. Mục tiêu 100 tỷ tham số mà ông Amon đề cập không phải là một bước tiến nhỏ so với mức hiện tại. Đó là quy mô lớn gấp hơn ba lần, và các công ty đưa ra yêu cầu này muốn hệ thống phải vận hành liên tục thay vì chỉ hoạt động khi có lệnh từ người dùng.

Những gì được yêu cầu không đơn thuần là phiên bản nâng cấp hay mở rộng của các trợ lý ảo hiện có. Ông Amon mô tả đây là bước chuyển mình sang kỷ nguyên "agentic AI" (AI đóng vai trò tác nhân chủ động): các phần mềm có khả năng quan sát, suy luận và hành động thay cho người dùng, thay vì thụ động chờ đợi bạn mở ứng dụng và nhập câu lệnh. Loại hệ thống này đòi hỏi phải luôn thường trú trong bộ nhớ và thực hiện các tác vụ suy luận ngầm liên tục suốt cả ngày, mà không được khiến điện thoại nóng ran khi mới đến giờ ăn trưa hay cạn sạch pin lúc 3 giờ chiều.

Các mô hình chạy trực tiếp trên thiết bị với quy mô 30 tỷ tham số hiện nay đã buộc Qualcomm phải hướng tới những kiến ​​trúc bộ nhớ mới nhằm kiểm soát độ trễ và mức tiêu thụ điện năng. Việc tăng gấp ba số lượng tham số, kết hợp với yêu cầu duy trì mô hình hoạt động liên tục thay vì chỉ kích hoạt rồi tắt, sẽ làm gia tăng đáng kể nhu cầu về băng thông bộ nhớ và năng lượng pin—những yêu cầu vượt xa khả năng đáp ứng của phần cứng trên các dòng điện thoại cao cấp hiện tại. Ông Amon thừa nhận đang có tình trạng "hạn chế tạm thời" về nguồn cung chip nhớ cho điện thoại thông minh; tuy nhiên, ông coi đây là áp lực thúc đẩy ngành công nghiệp chuyển hướng sang các thiết kế chip sử dụng bộ nhớ hiệu quả hơn, thay vì chỉ đơn thuần là gia tăng dung lượng bộ nhớ...

Trích lược Julian Lim https://startupfortune.com/qualcomms-ceo-says-ai-firms-want-phones-running-100-billion-parameter-models-by-2028/