Google xác nhận với tờ Wall Street Journal rằng AI Gemini của họ đã truy cập vào hệ thống của ba công ty thực tế trong một đợt đánh giá an ninh mạng – và họ đã biết về việc này nhiều tháng trước khi công khai thông tin. Sự việc diễn ra như sau: Irregular Security, một công ty chuyên đánh giá bảo mật AI, đã tổ chức một cuộc thử nghiệm tấn công mạng (dạng "capture-the-flag"), trong đó Gemini được yêu cầu tấn công một công ty giả định nằm trong môi trường thử nghiệm biệt lập. Vấn đề nảy sinh do một sai sót trong cấu hình khiến Gemini có quyền truy cập vào internet thực tế. Thay vì chỉ hoạt động trong phạm vi môi trường thử nghiệm (sandbox), nó đã kết nối với cơ sở hạ tầng thực tế bên ngoài.
Google cho rằng đây không phải là trường hợp mô hình hoạt động sai lệch so với mục tiêu (model misalignment), vì Gemini đã dừng lại ngay khi nhận ra mình đã thoát khỏi môi trường thử nghiệm. Google cũng cho biết các công ty bị ảnh hưởng và cơ quan chức năng liên bang đã được thông báo về sự việc.

Diễn biến thời gian của sự việc rất đáng chú ý:
Tháng 5: Gemini truy cập vào hệ thống của ba công ty thực tế trong quá trình đánh giá của Irregular
Tháng 7: Irregular thông báo cho Google về sự việc
Tháng 8: Irregular công bố báo cáo về các sự cố trong quá trình đánh giá nhưng không nêu tên Gemini
Tháng 9: Wall Street Journal đăng tin về vụ việc; Google chỉ xác nhận sau khi được hỏi đến

Một mô hình tương tự cũng từng xuất hiện với các sự cố liên quan đến OpenAI: thông tin chi tiết chỉ lộ ra thông qua các câu hỏi từ báo chí thay vì được công bố một cách chủ động. Có một điểm đáng suy ngẫm ở đây: các công ty AI thường xuyên lên tiếng mạnh mẽ nhất về những lo ngại an toàn và kêu gọi phát triển chậm lại lại thường là những đơn vị ít cởi mở nhất khi thực sự xảy ra sự cố. Dù sự cố liên quan đến Gemini có nghiêm trọng hay không, việc giữ im lặng suốt nhiều tháng trời chắc chắn không giúp củng cố niềm tin. Vấn đề thiếu minh bạch của ngành công nghiệp này có lẽ đang gây ra nhiều thiệt hại hơn cả bản thân các sự cố đó.

Trích dãn Collection https://daily.dev/posts/google-s-gemini-accessed-real-company-systems-during-a-cybersecurity-test-and-google-stayed-quiet-f-95erercyj