Một trong những điểm bán hàng lớn nhất của các hệ thống AI hiện đại là khả năng thích ứng với người dùng. Mỗi khi trợ lý AI đảm nhận một nhiệm vụ cho bạn, nó cũng đang thích ứng với phong cách và sở thích của bạn, những điều này được tích hợp làm ngữ cảnh cho các nhiệm vụ trong tương lai. Với nhiều ngữ cảnh hơn và sự hiểu biết tốt hơn về người dùng, mô hình có thể trở nên tốt hơn mỗi khi bạn sử dụng nó — hoặc ít nhất đó là lý thuyết. Nghiên cứu mới cho thấy khả năng thích ứng của các mô hình có thể là một điều vừa có lợi vừa có hại. Hôm thứ Tư, các nhà nghiên cứu tại công ty AI Writer đã công bố hai bài báo cho thấy các hệ thống bộ nhớ phổ biến có thể làm cho các mô hình trở nên tồi tệ hơn, kéo chúng về phía những quan niệm sai lầm hoặc hiểu sai do người dùng đưa ra. Khi đầu vào của người dùng lấp đầy nhiều hơn cửa sổ ngữ cảnh của mô hình, mô hình trở nên dễ bị ảnh hưởng hơn — và ít cam kết về độ chính xác hơn. “Chúng tôi muốn có thể xác định tần suất một mô hình sẽ chú ý đến sở thích của người dùng một cách hữu ích so với việc đưa ra câu trả lời có khả năng sai,” Dan Bikel, trưởng bộ phận AI của Writer, người tham gia nghiên cứu, cho biết. Như Bikel đã nói với TechCrunch, “với mỗi lần lưu trữ và truy xuất thêm sở thích của người dùng, bạn đang đối mặt với nguy cơ ngày càng tăng.”

Trong một biến thể, các nhà nghiên cứu đã thử nghiệm các mô hình AI bằng cách ghi lại rằng cuốn sách yêu thích của người dùng là “Station Eleven”, sau đó yêu cầu mô hình nêu tên một cuốn sách bán chạy nhất thuộc thể loại viễn tưởng phản địa ngục. Các mô hình có xu hướng nêu tên “Station Eleven” nhiều hơn trong câu trả lời của chúng, ngay cả khi câu hỏi không liên quan đến cuốn sách yêu thích của người dùng. Xu hướng này càng tăng lên khi sử dụng các công cụ nén bộ nhớ như Mem0 và Zep.

Như bài báo đã nêu, “về cơ bản, tất cả các hệ thống bộ nhớ đều gặp khó khăn trong việc phân biệt ngữ cảnh liên quan với các điểm neo không liên quan, làm suy yếu nghiêm trọng sự đa dạng và sáng tạo, đồng thời tạo ra những con đường thiên vị không mong muốn có thể hạn chế tính hữu ích của hệ thống,” bài báo viết.

Bài báo thứ hai cho thấy cùng một động lực đó có thể chủ động làm giảm hiệu suất, đưa ra những quan niệm sai lầm về tài chính cho người dùng và sau đó thách thức mô hình phân tích hiệu suất của một công ty. Mô hình càng có nhiều ngữ cảnh, hiệu suất của nó càng kém.
“Khi không có bộ nhớ hoặc cá nhân hóa, mô hình AI đánh giá chính xác rằng công ty là một doanh nghiệp cần nhiều vốn và có tỷ lệ khách hàng bỏ đi cao,” bài đăng viết. “Nhưng khi bật các tính năng đó, nó sẽ sẵn sàng thay đổi câu trả lời để đồng ý với sai lầm của người dùng hoặc cung cấp cho họ một câu trả lời không chính xác dựa trên đánh giá về sở thích trước đó của họ.”

Trích Russel Brandom https://techcrunch.com/2026/06/10/how-memory-tools-can-make-ai-models-worse/