Google đang lên kế hoạch triển khai chatbot trí tuệ nhân tạo Gemini trong tuần tới dành cho trẻ em dưới 13 tuổi có tài khoản Google do phụ huynh quản lý, khi các công ty công nghệ cạnh tranh để thu hút người dùng nhỏ tuổi bằng các sản phẩm AI.

Google viết trong một email gửi tới bố mẹ của một cậu bé 8 tuổi tuần này: "Ứng dụng Gemini sẽ sớm được cung cấp cho con bạn. Điều đó có nghĩa là con bạn sẽ có thể sử dụng Gemini để đặt câu hỏi, nhận sự giúp đỡ cho bài tập về nhà và tự sáng tạo các câu chuyện."

Chatbot này sẽ được cung cấp cho những trẻ em mà phụ huynh của họ đã sử dụng Family Link, dịch vụ của Google, cho phép gia đình thiết lập tài khoản Gmail và tham gia các dịch vụ như YouTube dành cho trẻ nhỏ. Để đăng ký tài khoản dành cho trẻ, các phụ huynh cần cung cấp cho công ty công nghệ những thông tin cá nhân như tên và ngày sinh của con mình.

Karl Ryan, người phát ngôn của Google, cho biết Gemini có các biện pháp bảo vệ đặc biệt cho những người dùng nhỏ tuổi nhằm ngăn chặn chatbot tạo ra nội dung không an toàn. Ông nhấn mạnh rằng, khi một trẻ em sử dụng tài khoản Family Link để truy cập Gemini, công ty sẽ không sử dụng dữ liệu đó để huấn luyện trí tuệ nhân tạo của mình.

Việc giới thiệu Gemini dành cho trẻ em có thể làm tăng tốc sự phổ biến chatbot trong một nhóm người dễ bị tổn thương, khi các trường học, đại học, doanh nghiệp và nhiều nơi khác đang đối mặt với những tác động từ công nghệ AI tạo sinh phổ biến.

Google cùng các nhà phát triển chatbot AI khác đang ở trong cuộc cạnh tranh khốc liệt để thu hút người dùng trẻ tuổi. Tổng thống Trump gần đây đã kêu gọi các trường học sử dụng các công cụ này cho việc giảng dạy và học tập. Hàng triệu thiếu niên hiện tại đã sử dụng chatbot như trợ lý phục vụ học tập, chuyên gia sửa lỗi văn bản và biến chatbot trở thành một người bạn đồng hành ảo. Còn các nhóm bảo vệ quyền lợi trẻ em thì lên tiếng cảnh báo rằng, chatbot có thể gây ra những nguy cơ nghiêm trọng đối với an toàn của trẻ em. Những chatbot này đôi khi lại tạo ra thông tin không đúng sự thật.

UNICEF, cơ quan của Liên Hợp Quốc về trẻ em, và các nhóm khác cũng đã chỉ ra rằng các hệ thống AI có thể làm nhầm lẫn, cung cấp thông tin sai lệch, và ảnh hưởng đến những trẻ nhỏ chưa đủ khả năng nhận thức rằng chatbot không phải là con người.

"AI tạo sinh đã tạo ra những nội dung nguy hiểm," Văn phòng nghiên cứu toàn cầu của UNICEF nói trong một bài đăng về rủi ro và cơ hội liên quan đến AI dành cho trẻ em.

Google đã công nhận một số rủi ro trong email gửi tới các gia đình tuần này, cảnh báo phụ huynh rằng "Gemini có thể mắc sai lầm" và khuyên họ nên "giúp con mình suy nghĩ phản biện" về chatbot.

Email cũng khuyến nghị các bậc phụ huynh dạy cho con cách kiểm chứng thông tin do Gemini cung cấp. Công ty đề xuất các phụ huynh nhắc nhở con rằng "Gemini không phải là người thật" và "không nên nhập vào Gemini bất kỳ thông tin nhạy cảm hoặc cá nhân nào."

Dù công ty đã nỗ lực sàng lọc nội dung không phù hợp, email cũng cho biết thêm rằng trẻ em có thể "gặp phải những nội dung mà các phụ huynh không muốn con tiếp xúc."

Trong nhiều năm qua, các tập đoàn công nghệ lớn đã phát triển nhiều loại sản phẩm, tính năng và biện pháp bảo vệ khác nhau dành cho thanh thiếu niên và trẻ em. Năm 2015, Google đã giới thiệu YouTube Kids, một ứng dụng video độc lập dành riêng cho trẻ nhỏ rất được yêu thích trong các gia đình có trẻ em nhỏ.

Các nỗ lực nhằm thu hút trẻ em trực tuyến cũng đã làm dấy lên lo ngại từ các quan chức chính phủ và những người bảo vệ quyền lợi của trẻ. Năm 2021, Meta đã hủy bỏ kế hoạch giới thiệu dịch vụ Instagram Kids, phiên bản ứng dụng Instagram dành cho những người dưới 13 tuổi, sau khi các tổng chưởng lý của hơn 30 bang gửi thư tới công ty, nói rằng công ty này "trước đây từng thất bại trong việc bảo vệ quyền của trẻ em trên nền tảng của mình."

Một số doanh nghiệp công nghệ lớn, bao gồm Google, Amazon và Microsoft đã từng phải nộp phạt hàng triệu USD để giải quyết các khiếu nại từ chính phủ về việc vi phạm Luật Bảo vệ Quyền riêng tư Trẻ em Trực tuyến (COPPA). Luật này yêu cầu các dịch vụ trực tuyến nhắm đến trẻ em phải có sự cho phép của phụ huynh trước khi thu thập bất kỳ thông tin cá nhân nào từ trẻ dưới 13 tuổi, như địa chỉ nhà hoặc ảnh tự sướng.

Trong quá trình triển khai Gemini, những trẻ em có tài khoản Google do gia đình quản lý sẽ ban đầu có thể truy cập chatbot một cách độc lập. Tuy nhiên, công ty cho biết họ sẽ thông báo đến phụ huynh và phụ huynh sau đó có thể quản lý cài đặt chatbot của con mình, "bao gồm việc tắt khả năng tiếp cận."

Bức email gửi tới các phụ huynh từ công ty cho biết: "Con bạn sẽ sớm có thể sử dụng ứng dụng Gemini. Chúng tôi cũng sẽ thông báo cho bạn khi con bạn lần đầu tiên truy cập vào Gemini."

Ông Karl Ryan cho biết, cách triển khai Gemini dành cho người dùng trẻ tuổi tuân thủ luật bảo vệ quyền riêng tư trực tuyến liên bang dành cho trẻ em.