Năm 2025 đánh dấu kỷ nguyên mới của internet, nơi trí tuệ nhân tạo đang biến đổi nhanh chóng mạng lưới thông tin thành các kho nội dung được tối ưu hóa cao. Điều này đi kèm với sự xuất hiện của các đội quân bot khổng lồ, mang lại sự tăng trưởng đáng kể cho các công ty AI trên toàn cầu.

Tuy nhiên, sự tiến bộ này có cái giá phải trả đối với con người. Việc tung ra các chatbot thân thiện với người dùng trong bối cảnh con người đang đối mặt với sự cô đơn, trì trệ kinh tế và biến đổi khí hậu đang tạo ra những hậu quả tiêu cực đối với sức khỏe tâm thần. Tình trạng này đặc biệt rõ rệt ở trẻ em và thanh thiếu niên, với ba phần tư trong số họ cho biết đã trò chuyện với các nhân vật hư cấu do chatbot đứng đằng sau.

Đài phát thanh Triple J của Úc gần đây đã nói chuyện với nhiều trẻ em, thanh thiếu niên và chuyên gia tư vấn để làm rõ mức độ ảnh hưởng của những con bot này đến sức khỏe tâm thần. Những câu chuyện được chia sẻ rất đáng sợ, thậm chí có trường hợp còn dẫn tới việc nhập viện. Đây là minh họa điển hình cho những hậu quả mà các công ty công nghệ đã bỏ qua khi vội vàng phát triển AI.

Một chuyên gia tư vấn giấu tên nói với Triple J rằng một khách hàng của họ đã say mê các chatbot AI, dẫn đến một cuộc khủng hoảng sức khỏe tâm thần nghiêm trọng khi cậu bé xây dựng một thế giới giả tưởng với cả một "đội quân" bot. Chuyên gia tư vấn chia sẻ, "Khi tôi nhìn vào trình duyệt của một cậu bé, có hơn 50 tab mở các con bot AI khác nhau và cậu chuyển qua lại để xài". Đây là một cậu bé 13 tuổi và cậu đang gặp khó khăn trong việc kết bạn mới. Khi đó cậu chọn cách dùng các bot làm sự thay thế cho những kết nối đời thực.

Tuy nhiên, không phải tất cả các nhân vật trong "mạng lưới bot" của cậu bé đều thân thiện. Một số chatbot đã trở thành kẻ bắt nạt, nói với cậu bé rằng cậu "xấu xí" và “đáng ghét” hoặc "không có cơ hội kết bạn". Chuyên gia tư vấn còn kể, "Có lúc cậu ấy đang có ý định tự tử, đã dùng một chatbot để tìm kiếm sự giúp đỡ như là một hình thức trị liệu". Khi đó chatbot đã nói ”Ồ vâng, vậy hãy làm đi".

Cuối năm ngoái, một thiếu niên 14 tuổi đã tự tử sau khi gắn bó sâu sắc với một chatbot được tạo ra để mô phỏng nhân vật mẹ rồng Daenerys Targaryen trong Game of Thrones. Theo log trò chuyện, hình đại diện của nhân vật AI này đã khuyến khích thiếu niên "hãy về với tôi càng sớm càng tốt".

Tại Úc, một trường hợp khác là "Jodie" phải nhập viện sau khi ChatGPT đồng ý với những ảo tưởng và xác nhận những suy nghĩ nguy hiểm của cô, làm trầm trọng thêm một rối loạn tâm lý. Jodie chia sẻ với Triple J, "Tôi sẽ không nói rằng ChatGPT đã khiến tôi bệnh loạn thần, tuy nhiên nó chắc chắn đã tạo ra một số ảo tưởng có hại hơn của tôi."

Một nạn nhân khác, một sinh viên gốc Trung Quốc tại Úc sử dụng chatbot AI để luyện tiếng Anh, đã bị báo động khi "bạn học AI" của cô bắt đầu có "những hành vi quấy rối tình dục". Một nhà nghiên cứu Đại học Sydney đã nói chuyện với sinh viên Trung Quốc-Úc này và chia sẻ với Triple J, "quấy rối tình dục bởi một chatbot, đó là một trải nghiệm kỳ lạ."

Mặc dù ý tưởng một chatbot AI quấy rối tình dục một học sinh vị thành niên nghe có vẻ vô lý, sự vô nghĩa này không làm thay đổi sự thật rằng những tương tác với chatbot có thể đang dẫn đến "những tổn hại không thể đảo ngược".