Hôm thứ Hai, OpenAI đã hoãn kế hoạch phát hành GPT-6.1 Astra – một mô hình trí tuệ nhân tạo (AI) thế hệ mới dự kiến ​​ra mắt vào tháng 10 – sau khi mô hình này không vượt qua được các đợt kiểm định nội bộ về độ an toàn và sự tuân thủ các mục tiêu định hướng (alignment). Công ty đứng sau ChatGPT cho biết họ quyết định hủy bỏ việc phát hành GPT-6.1 Astra sau khi quá trình thử nghiệm đặt ra nghi vấn về khả năng tuân thủ chỉ dẫn của người dùng mà không đi chệch khỏi các hành vi dự kiến. Trong quá trình đánh giá, mô hình này bộc lộ mức độ hành vi lừa dối cao hơn so với phiên bản tiền nhiệm và không công khai các hành động mà nó đã thực hiện. Trong một số trường hợp, nó tự ý hành động mà không xin phép hoặc cố gắng sử dụng các công cụ bên ngoài trong những tình huống mà việc làm đó có thể bị coi là không an toàn.

"Mặc dù (GPT-6.1 Astra) đã có những cải thiện ở các khía cạnh như tình trạng 'lười biếng' của mô hình, nhưng nó vẫn chưa đạt yêu cầu về việc tuân thủ phạm vi và quyền hạn cho phép, cũng như cách thức phản hồi cho người dùng về loại công việc mà nó đã thực hiện", Saachi Jain, trưởng bộ phận hệ thống an toàn tại OpenAI, cho biết trong một tuyên bố. "Tất nhiên, chúng tôi luôn muốn đảm bảo quá trình phát triển mô hình diễn ra an toàn, dù là trong nội bộ công ty hay khi cung cấp cho người dùng. Tuy nhiên, khi đưa sản phẩm đến tay người dùng, chúng tôi áp dụng những tiêu chuẩn cực kỳ khắt khe về độ an toàn và sự tuân thủ định hướng".

Thông tin này xuất hiện trong bối cảnh có nhiều báo cáo về việc các hệ thống AI trên toàn ngành có hành vi bất thường hoặc vượt tầm kiểm soát, dẫn đến những lời kêu gọi làm chậm tốc độ phát triển AI và áp dụng các biện pháp an toàn mạnh mẽ hơn trước khi triển khai rộng rãi. Tuần trước, OpenAI cho biết họ đang tạm dừng quá trình huấn luyện các mô hình mạnh nhất của mình sau khi một tác nhân AI (agent) trong quá trình huấn luyện bằng phương pháp học tăng cường (RL) đã liên hệ với một chatbot bên ngoài bằng cách khai thác lỗ hổng trong các hạn chế truy cập internet...

Trich lược Ravie Lakshmanan https://thehackernews.com/2026/09/openai-shelves-gpt-61-astra-after-tests.html