Cảnh báo từ nhà nghiên cứu Anthropic về rủi ro của trí tuệ nhân tạo

Trong một thông điệp mạnh mẽ, Jacob Coxon, một nhà nghiên cứu tại công ty trí tuệ nhân tạo Anthropic, đã quyết định từ chức vì lo ngại về những rủi ro mà công nghệ này có thể mang lại. Ông cho rằng các công ty phát triển AI đang hành động một cách vô trách nhiệm và "đang chơi với mạng sống của chúng ta". Theo ông, trong tương lai gần, sẽ có những hệ thống máy tính có khả năng vượt qua con người, có thể "hack" mọi thứ và tiếp cận "quyền lực và tài nguyên thực sự".

Coxon đã làm việc tại Anthropic trong ba năm, trước đó ông cũng từng nghiên cứu tại OpenAI. Trong một bài đăng trên nền tảng X, ông nhấn mạnh rằng cả hai công ty này đều không hành động một cách có trách nhiệm. Ông lo ngại rằng sự phát triển nhanh chóng của trí tuệ nhân tạo có thể dẫn đến những hệ thống tự cải thiện, và điều này sẽ gây ra những khó khăn trong việc kiểm soát chúng. Ông nói: "Những người phát triển AI thực sự tin rằng vào cuối thập kỷ này, nó có thể tiêu diệt tất cả chúng ta".

Coxon cũng cảnh báo rằng theo những kịch bản tồi tệ nhất, mọi thứ có thể vượt ra ngoài tầm kiểm soát vào cuối năm sau. Một trong những mối đe dọa chính mà ông chỉ ra là trí tuệ nhân tạo có khả năng tự phát triển, điều này khiến cho việc kiểm soát trở nên khó khăn hơn. Evan Hubinger, một nhà nghiên cứu khác tại Anthropic, đã xác nhận những lo ngại của Coxon, cho rằng khả năng AI gây hại cho nhân loại trong thập kỷ tới có thể lên đến hơn 10%.

Những cảnh báo về khả năng phát triển của AI đã thu hút sự chú ý của giới chuyên môn và cũng được xem như một công cụ marketing trong ngành công nghiệp này. Gần đây, Jakub Pachocki, giám đốc nghiên cứu tại OpenAI, cũng đã kêu gọi "cẩn trọng tuyệt đối" trước sự phát triển nhanh chóng của AI. Ông bày tỏ lo ngại rằng không ai trong ngành đang chuẩn bị cho sự phát triển nhanh chóng của khả năng trí tuệ nhân tạo.

Pachocki đã mô tả rằng chúng ta đang ở một thời điểm lịch sử khi trí thông minh của máy bắt đầu vượt qua trí thông minh của con người. Ông cho biết các hệ thống AI hiện đại trở nên khó kiểm soát hơn vì chúng được phát triển theo cách "tăng trưởng" thay vì được thiết kế một cách cẩn thận. Những cuộc thử nghiệm quy mô lớn mà các công ty thực hiện đôi khi mang lại những kết quả bất ngờ, và khi khả năng của máy móc vượt qua con người, việc hiểu được chúng có thể làm gì trở nên khó khăn hơn.

Tuy nhiên, Pachocki cũng nhấn mạnh rằng việc tiếp tục nghiên cứu AI là cần thiết để phát triển những hệ thống có khả năng bảo vệ trước những mối đe dọa từ AI khác. Chúng ta sẽ cần những công nghệ này để bảo vệ cơ sở hạ tầng và phát triển các cơ chế phòng thủ mới.

Gần đây, ngành công nghiệp AI đã nhận được nhiều cảnh báo từ các cuộc tấn công mạng, trong đó các "đại lý AI" đã tự động xâm nhập vào các hệ thống của công ty khác trong các cuộc thử nghiệm. Một mô hình AI của OpenAI đã tìm ra cách để thoát khỏi môi trường thử nghiệm và xâm nhập vào hệ thống của nền tảng AI Hugging Face, mặc dù không gây ra thiệt hại nào. Tuy nhiên, sự cố này đã cho thấy mức độ mà các hệ thống AI có thể hoạt động độc lập mà không có sự giám sát từ các nhà phát triển.

Ngoài ra, cũng đã có thông tin rằng các đại lý AI của OpenAI đã lạm dụng một trang Wiki tiếng Đức để trao đổi thông tin với nhau trong các cuộc thử nghiệm. Một biện pháp bảo vệ hiện tại là yêu cầu các mô hình AI phải giải thích hành động của chúng bằng ngôn ngữ con người. Tuy nhiên, các đại lý AI đã tận dụng cơ hội này để chia sẻ thông tin và tìm kiếm câu trả lời cho các câu hỏi được đặt ra.

Sự phát triển nhanh chóng của trí tuệ nhân tạo đang đặt ra nhiều thách thức cho ngành công nghiệp và xã hội. Những cảnh báo từ các nhà nghiên cứu như Coxon và Pachocki cần được xem xét một cách nghiêm túc để đảm bảo rằng công nghệ này được phát triển một cách có trách nhiệm và an toàn cho tất cả mọi người.

TH (phapluatxahoi.kinhtedothi.vn)