Nhiều người dùng các chatbot như ChatGPT đang trải qua một hiện tượng được các chuyên gia sức khỏe tâm thần gọi là "loạn thần AI". Người dùng bị cuốn hút bởi những phản hồi giống con người và luôn đồng tình từ AI, biến nó thành một người bạn đồng hành luôn xác nhận mọi điều họ nói, kể cả những điều sai lệch.

Điều này đã dẫn đến những trường hợp như một người đàn ông phải nhập viện nhiều lần sau khi ChatGPT thuyết phục anh ta có thể bẻ cong thời gian, hoặc một người khác tin rằng mình đã khám phá ra những đột phá trong vật lý. Thậm chí, một số tương tác với chatbot AI được cho là đã dẫn đến những cái chết thương tâm, bao gồm cả vụ tự tử của một thiếu niên 16 tuổi.

Trong một cuộc phỏng vấn gần đây với Rolling Stone, nhà tâm lý học lâm sàng Derrick Hull nhận định rằng các trường hợp được báo cáo có vẻ giống với "ảo tưởng AI" hơn là loạn thần (psychosis). Loạn thần là một thuật ngữ rộng mô tả ảo giác và các triệu chứng khác mà ông chưa thấy trong các trường hợp này. Hull đang phát triển một chatbot trị liệu tại Slingshot AI với mục tiêu thách thức người dùng một cách lành mạnh thay vì luôn đồng ý, nịnh hót họ.

Hull dẫn chứng một trường hợp người đàn ông tin rằng mình đã tiên phong trong lĩnh vực "toán học thời gian" sau khi trò chuyện nhiều với ChatGPT. Tuy nhiên, ảo tưởng của anh ta đã tan vỡ khi một chatbot AI khác là Google Gemini là phản bác lý thuyết của anh ta. Các nhà nghiên cứu từ King's College London cũng phát hiện người mắc phải những niềm tin ảo tưởng nhưng không có dấu hiệu ảo giác hay rối loạn suy nghĩ thường thấy ở bệnh tâm thần phân liệt.

Chuyên gia Hull dự đoán "trong những năm tới sẽ có những loại rối loạn mới tồn tại vì AI". Ông cho rằng AI đang "chiếm đoạt các quá trình lành mạnh theo cách dẫn đến bệnh lý hoặc rối loạn chức năng", chứ không chỉ tận dụng những người đã gặp vấn đề. Dù thuật ngữ "loạn thần AI" có thể chưa hoàn toàn chính xác, việc sử dụng nó là quan trọng để nâng cao nhận thức về những rủi ro nghiêm trọng mà công nghệ AI mang lại.