OpenAI đã công bố những tiến bộ đáng kể trong khả năng an ninh mạng của mô hình Astra, một trong những mô hình sắp ra mắt của họ. Ngày 7 tháng 8 năm 2026, công ty đã chia sẻ thông tin này nhằm đảm bảo tính minh bạch với cộng đồng và các tổ chức an toàn về sự chuyển mình trong khả năng bảo mật của các mô hình AI.
Theo đánh giá nội bộ gần đây, Astra đã cho thấy những cải tiến vượt bậc trong việc mã hóa và an ninh mạng. Những kết quả này, cùng với các đánh giá từ chuyên gia, đã dẫn đến kết luận rằng không thể loại trừ khả năng an ninh mạng quan trọng dưới khung chuẩn bị của OpenAI.
Khung chuẩn bị và khả năng an ninh mạng
Khung chuẩn bị được OpenAI công bố lần đầu vào tháng 12 năm 2023, trước khi các mô hình đạt được khả năng tự cải thiện trong các lĩnh vực sinh học, hóa học và an ninh mạng. Khung này nhằm giúp công ty xác định tiến độ phát triển khả năng và lập kế hoạch cho những hành động cần thiết khi các khả năng này xuất hiện.
Theo khung chuẩn bị, một mô hình đạt đến ngưỡng an ninh mạng quan trọng nếu nó có thể xác định và phát triển các lỗ hổng zero-day (lỗ hổng chưa được phát hiện và chưa có bản vá) ở tất cả các mức độ nghiêm trọng trong nhiều hệ thống quan trọng mà không cần sự can thiệp của con người, hoặc có thể thiết kế và thực hiện các chiến lược tấn công mạng mới mẻ nhằm vào các mục tiêu bảo mật cao chỉ dựa trên một mục tiêu tổng quát.
Các bước mà OpenAI đang thực hiện
Để đảm bảo rằng sự phát triển của mô hình Astra diễn ra an toàn và bảo mật, OpenAI đã thực hiện một số bước quan trọng:
- Áp dụng các biện pháp kiểm soát an ninh nghiêm ngặt hơn cho các mô hình có khả năng cao và các hoạt động liên quan.
- Thiết lập các môi trường thử nghiệm tách biệt, hạn chế quyền truy cập vào mạng và công cụ, cũng như tăng cường bảo vệ mô hình và mã hóa.
- Thực hiện giám sát toàn cầu cho các hành động rủi ro và sự không đồng nhất trong tất cả các ứng dụng của Astra.
- Hợp tác với các cơ quan chính phủ và tổ chức an toàn AI để kiểm tra khả năng của mô hình.
- Cung cấp các biện pháp kiểm soát an ninh cho các đối tác thử nghiệm bên thứ ba để thực hiện các đánh giá và khối lượng công việc có rủi ro cao một cách an toàn.
OpenAI tin rằng các mô hình có khả năng an ninh mạng tiên tiến sẽ giúp các nhà bảo vệ xác định và giải quyết các lỗ hổng trước khi các kẻ tấn công kịp thời cơ hội. Công ty cam kết làm việc cùng các chính phủ, viện an toàn và xã hội dân sự để đảm bảo rằng các khả năng tiên tiến của các mô hình như Astra được triển khai một cách có trách nhiệm và rộng rãi vì lợi ích của toàn nhân loại.
TH (phapluatxahoi.kinhtedothi.vn)
