OpenAI, Google, Meta và Microsoft gần đây đã tăng cường tập trung vào việc cải thiện khả năng ghi nhớ. Các kỹ sư của họ đã tung ra các bản cập nhật cho phép chatbot của họ lưu trữ nhiều thông tin hơn về người dùng để cá nhân hóa phản hồi. Động thái này được xem là một bước quan trọng giúp các nhóm AI hàng đầu thu hút khách hàng trong thị trường cạnh tranh về chatbot và trợ lý ảo, đồng thời tạo ra doanh thu từ công nghệ tiên tiến.

Tuy nhiên, những lời cảnh báo đã xuất hiện, nhiều người cho rằng sự phát triển này cũng có thể bị lợi dụng để khai thác người dùng vì lợi ích thương mại, đồng thời làm dấy lên các lo ngại về quyền riêng tư.

"Nếu bạn có một trợ lý thực sự hiểu bạn, bởi vì nó đã lưu giữ ký ức về các cuộc trò chuyện, điều đó khiến dịch vụ trở nên cuốn hút hơn, nghĩa là sau khi bạn sử dụng một sản phẩm, bạn sẽ không muốn chuyển sang sản phẩm khác," giáo sư Pattie Maes của phòng nghiên cứu truyền thông của học viện MIT, chuyên gia về tương tác giữa con người và AI, nhận định.

Các chatbot AI như Gemini của Google và ChatGPT của OpenAI đã đạt được những tiến bộ vượt bậc. Các cải tiến đáng kể bao gồm mở rộng quy mô ngữ cảnh, xác định lượng token của cuộc trò chuyện mà chatbot có thể nhớ cùng một lúc, và sử dụng các kỹ thuật tìm kiếm trực tuyến, như tạo sinh kết hợp truy xuất tăng cường (retrieval-augmented generation) để xác định ngữ cảnh liên quan từ dữ liệu bên ngoài. 

Các công ty AI cũng đã nâng cao khả năng ghi nhớ thông tin lâu dài của mô hình AI họ phát triển, bằng cách lưu trữ hồ sơ và sở thích của người dùng để cung cấp các phản hồi hữu ích và cá nhân hóa hơn. Ví dụ, một chatbot có thể nhớ liệu người dùng có ăn chay hay không và trả lời phù hợp khi đưa ra gợi ý về nhà hàng hoặc công thức nấu ăn.

Tháng 3 vừa qua, Google đã mở rộng khả năng ghi nhớ của Gemini để bao gồm lịch sử tìm kiếm của người dùng, miễn là người dùng cho phép, so với việc trước đây chỉ giới hạn ở các cuộc trò chuyện với chatbot, và có kế hoạch mở rộng điều này sang các ứng dụng khác của Google trong tương lai.

"Giống như một trợ lý cá nhân, khi nó càng hiểu rõ về mục tiêu, con người và những gì bạn quan tâm, họ sẽ cung cấp sự hỗ trợ tốt hơn," Michael Siliski, giám đốc sản phẩm cao cấp tại Google DeepMind cho biết. ChatGPT của OpenAI, hay chatbot của Meta trên WhatsApp và Messenger có thể tham khảo các cuộc trò chuyện trước đây thay vì chỉ nhìn vào phiên trò chuyện hiện tại. Người dùng có thể xóa các "ký ức" cụ thể từ cài đặt và được thông báo khi mô hình tạo ra một "ký ức" trong tin nhắn hiển thị trên màn hình.

"Ký ức giúp ChatGPT trở nên hữu ích hơn theo thời gian bằng cách làm cho các phản hồi phù hợp hơn," OpenAI tuyên bố. "Bạn luôn kiểm soát tình hình. Bạn có thể hỏi ChatGPT những gì nó nhớ về bạn, thực hiện thay đổi đối với các ký ức đã lưu và các cuộc trò chuyện trước đây hoặc tắt bộ nhớ bất cứ lúc nào."

Đối với các doanh nghiệp, Microsoft đã sử dụng dữ liệu tổ chức để cung cấp thông tin cho khả năng ghi nhớ, chẳng hạn như email, lịch và tệp intranet.

Tháng trước, gã khổng lồ công nghệ bắt đầu triển khai bản thử nghiệm của Recall trên một số thiết bị, tính năng này ghi lại hoạt động của người dùng bằng cách chụp ảnh màn hình máy tính của họ. Người dùng có thể chọn không tham gia hoặc tạm dừng việc chụp ảnh màn hình.

Khi được công bố lần đầu vào tháng 5 năm ngoái, nó đã gây ra lo ngại từ cộng đồng an ninh mạng và những người khác gọi là "rất ghê rợn", khiến Microsoft phải trì hoãn việc phát hành nhiều lần. Các công ty AI cũng đang kỳ vọng rằng khả năng ghi nhớ được cải thiện có thể đóng một vai trò quan trọng trong việc thúc đẩy doanh thu thông qua tiếp thị liên kết và quảng cáo.

CEO Meta, Mark Zuckerberg, cho biết trong lần báo cáo kết quả kinh doanh của tập đoàn vào tháng trước rằng "sẽ có cơ hội lớn để hiển thị các đề xuất sản phẩm hoặc quảng cáo" trên chatbot của họ. Tháng trước, OpenAI đã cải thiện các lựa chọn mua sắm trong ChatGPT để hiển thị tốt hơn các sản phẩm và đánh giá. Công ty cho biết với Financial Times rằng họ hiện tại không có liên kết tiếp thị liên kết.

Tuy nhiên, việc triển khai khả năng ghi nhớ tốt hơn trên LLM cũng đã làm dấy lên những lo ngại về quyền riêng tư, khi các nhà quản lý trên toàn thế giới theo dõi chặt chẽ cách các mô hình có thể thao túng người dùng vì lợi nhuận.

Khả năng ghi nhớ tăng cường cũng có thể khiến các mô hình cố gắng quá mức để điều chỉnh câu trả lời của họ phù hợp với sở thích của người dùng, củng cố thành kiến hoặc lỗi sai. Tháng trước, OpenAI đã phải lên tiếng xin lỗi sau khi mô hình GPT-4o của mình được phát hiện là quá nịnh bợ và dễ hài lòng, và phải rollback mô hình quay trở lại phiên bản trước đó.

Nhìn chung, các mô hình AI có thể bị ảo giác, tạo ra các phản hồi sai hoặc vô nghĩa, và trải qua “trôi dạt ký ức” (memory drift), nơi các ký ức trở nên lỗi thời hoặc mâu thuẫn với nhau, ảnh hưởng đến độ chính xác. "Càng nhiều hệ thống biết về bạn, nó càng có khả năng được sử dụng cho mục đích tiêu cực để thuyết phục bạn mua hàng hoặc tin vào những niềm tin nhất định," bà Maes, giáo sư MIT, nói. "Vì vậy, bạn phải bắt đầu suy nghĩ về các động cơ tiềm ẩn của các công ty cung cấp các dịch vụ này."