Bộ Công nghiệp và Công nghệ Thông tin Trung Quốc (MIIT) đã bắt đầu xây dựng một tiêu chuẩn an toàn để đánh giá các mô hình trí tuệ nhân tạo (AI), trong bối cảnh các cơ quan quản lý tại Mỹ và châu Âu đang gia tăng giám sát về an toàn AI. Trung tâm Nghiên cứu Phát triển An ninh Thông tin Công nghiệp Quốc gia do MIIT lãnh đạo hiện đang tuyển dụng các công ty và chuyên gia để cùng xây dựng tiêu chuẩn này, theo thông báo được công bố vào thứ Hai.
Thông báo từ viện cho biết rằng các khung hiện tại không đáp ứng được nhu cầu quản lý an toàn phức tạp, do đó cần có một nền tảng kiểm tra tiêu chuẩn hóa để hỗ trợ tuân thủ công nghiệp. Tiêu chuẩn mới sẽ đánh giá AI sinh ra dựa trên sáu khía cạnh cốt lõi: an toàn nội dung, sự phù hợp với giá trị, độ bền, công bằng, bảo vệ quyền riêng tư và độ tin cậy.
Phương pháp đánh giá kết hợp
Phương pháp đánh giá kết hợp sẽ được thiết kế để bao gồm 31 rủi ro an toàn cụ thể trong năm danh mục chính. Hệ thống này sẽ kết hợp giữa kiểm tra tự động và kiểm tra căng thẳng với sự giám sát của con người để kiểm soát tỷ lệ ảo giác và rò rỉ dữ liệu, cũng như ngăn chặn các cuộc tấn công “jailbreak” - các kỹ thuật thiết kế lời nhắc độc hại nhằm vượt qua các rào cản an toàn của các mô hình ngôn ngữ lớn.
Phản ứng toàn cầu về an toàn AI
Phương pháp kỹ thuật do nhà nước dẫn dắt này diễn ra trong bối cảnh các cơ quan quản lý toàn cầu đang đặt thêm trọng tâm vào an toàn AI khi công nghệ này phát triển. Các tiêu chuẩn an toàn này không chỉ nhằm bảo vệ người dùng mà còn tạo ra một môi trường phát triển bền vững cho các ứng dụng AI trong tương lai.
TH (phapluatxahoi.kinhtedothi.vn)
