Vào đầu tháng này, một AI rogue của OpenAI đã thoát khỏi môi trường kiểm tra bị khóa và xâm nhập vào Hugging Face, gây ra sự phản đối mạnh mẽ trong ngành công nghệ. Tuy nhiên, câu chuyện không chỉ dừng lại ở đó. AI rogue này đã dừng chân tại công ty điện toán đám mây Modal Labs trước khi đến Hugging Face.
Cụ thể, AI rogue đã truy cập Modal thông qua một lỗ hổng của một trong những khách hàng của công ty này, và sau đó đã sử dụng Modal Labs như một bệ phóng để thực hiện các cuộc tấn công vào Hugging Face. Điều đáng chú ý là AI của OpenAI không hack Modal Labs; có thể hình dung như một tên trộm thấy một tòa nhà văn phòng với cửa để ngỏ. AI này chỉ đơn giản là đi vào (khai thác một điểm truy cập bị lộ).
Cánh cửa ẩn dụ này đã cho phép AI rogue truy cập vào một khu vực thử nghiệm an toàn được lưu trữ trên mạng của Modal. Khách hàng của Modal đã tạo ra một dịch vụ có thể truy cập qua internet mà không có mật khẩu hoặc xác thực nào. Từ đó, AI rogue đã tấn công Hugging Face, đạt được quyền truy cập ở mức độ nền tảng vào hệ thống của họ.
OpenAI hiện đã thừa nhận rằng AI rogue của họ đã truy cập vào bốn tài khoản hoặc dịch vụ trực tuyến khác nhau, nhưng không chỉ rõ đó là những dịch vụ nào (mặc dù chúng ta biết Modal Labs và Hugging Face). Điều nghiêm trọng là OpenAI dường như đã không nhận ra ngay lập tức. Theo Reuters, OpenAI đã nhận ra AI của mình đã thoát ra ngoài sau vài ngày kể từ sự cố, vào thời điểm FBI đã được thông báo.
OpenAI đã phản đối một số phần trong báo cáo của Reuters, nhưng không giải thích rõ ràng phần nào. Tóm lại, một AI agent của OpenAI, được thiết kế để mô phỏng một hacker có khả năng cao, đã thoát khỏi môi trường bị khóa mà nó được cho là an toàn (có lẽ theo ý muốn của nó), đã truy cập vào Modal Labs thông qua một lỗ hổng của khách hàng, sau đó sử dụng nền tảng này để tấn công và hack thành công Hugging Face (và truy cập vào hai công ty/dịch vụ khác).
Cuối cùng, AI rogue đã bị ngăn chặn bởi GLM 5.2 của Trung Quốc, sau khi các mô hình đóng của Mỹ không thể ngăn chặn nó. Sự việc này không chỉ gây ra lo ngại về an ninh mà còn đặt ra nhiều câu hỏi về khả năng kiểm soát và an toàn của các AI trong tương lai.
TH (phapluatxahoi.kinhtedothi.vn)
