Anthropic vừa công bố một công cụ mới có khả năng nhúng dấu hiệu không thể nhìn thấy vào văn bản do AI tạo ra, điều này có thể làm khó khăn cho những ai muốn viết tiểu thuyết bằng AI mà không bị phát hiện. Động thái này nằm trong cam kết của Anthropic theo Đạo luật AI của Liên minh Châu Âu, nhưng sẽ áp dụng cho tất cả văn bản được tạo ra trên toàn cầu.
Vào thứ Hai, Anthropic thông báo rằng các mẫu Claude mới sẽ tích hợp một "dấu hiệu không thể nhìn thấy" trực tiếp vào văn bản do AI tạo ra. Dấu hiệu này không làm thay đổi ý nghĩa hay khả năng đọc hiểu của văn bản, nhưng sẽ đi theo văn bản khi được sao chép và dán, và "có thể tồn tại qua một số chỉnh sửa", theo thông tin từ phòng thí nghiệm AI này.
Dấu hiệu này là một mẫu hoặc văn bản mờ được nhúng vào các tài liệu kỹ thuật số để giúp chứng minh quyền sở hữu và ngăn chặn việc sao chép hoặc đánh cắp tác phẩm. Quy định này là một phần trong cam kết của Anthropic nhằm tăng cường tính minh bạch theo Đạo luật AI của EU. Các mẫu Claude được ra mắt từ ngày 2 tháng 8 sẽ hỗ trợ tính năng đánh dấu từ khi ra mắt, và Anthropic cũng đang làm việc để thêm chức năng này vào các mẫu cũ hơn.
Dấu hiệu này sẽ áp dụng cho nội dung được sản xuất bởi Claude trên toàn thế giới, bao gồm cả khi Claude được truy cập thông qua các nhà cung cấp dịch vụ đám mây. Anthropic cũng cho biết họ có kế hoạch cung cấp cho các bên thứ ba công cụ để phát hiện những dấu hiệu này.
Việc đánh dấu văn bản AI có thể là một bước ngoặt quan trọng cho ngành xuất bản, ngành này đang phải đối mặt với những thách thức từ nội dung do AI tạo ra. Vào tháng trước, một đại diện sách đã rút lại sự hỗ trợ cho tiểu thuyết trinh thám "Call Me, I'll Hide the Body" sau khi có lo ngại về việc tác giả có thể đã sử dụng AI. Mười bốn nhà xuất bản đã đấu giá cho quyền xuất bản cuốn sách này, và một thỏa thuận đã được ký kết trước khi đại diện này xin lỗi. Tác giả, Jerry Falade, đã phủ nhận việc sử dụng AI để viết cuốn sách.
Vào đầu năm nay, Hachette đã rút lại tiểu thuyết kinh dị "Shy Girl" của Mia Ballard sau khi có cáo buộc về việc viết bằng AI. Ballard cho biết với tờ The New York Times rằng cô không sử dụng AI để viết nó, và một biên tập viên tự do đã giới thiệu nội dung do AI tạo ra mà không có sự đồng ý trực tiếp của cô.
Dấu hiệu mới của Claude có thể cung cấp cho các nhà xuất bản, trường học và đại học một cách khác để điều tra những trường hợp như vậy và làm khó khăn hơn cho việc người khác giả mạo văn bản do AI tạo ra là của mình. Tuy nhiên, vẫn còn những lỗ hổng. Anthropic cho biết rằng việc chỉnh sửa nặng, diễn giải lại, dịch thuật hoặc kết hợp đầu ra của Claude với các văn bản khác có thể làm cho dấu hiệu của nó không thể phát hiện được. Hơn nữa, việc tìm thấy một dấu hiệu không chứng minh rằng Claude là tác giả ban đầu của một tác phẩm nào đó, vì ngay cả việc hiệu đính hoặc dịch thuật với AI của nó cũng có thể để lại dấu hiệu.
Anthropic là phòng thí nghiệm lớn thứ hai giới thiệu việc đánh dấu văn bản. Vào năm 2024, Google DeepMind đã công bố rằng họ sẽ đánh dấu văn bản và video được tạo ra trong ứng dụng và trải nghiệm web Gemini bằng công nghệ SynthID của họ, và đã phát hành phiên bản hình ảnh của tính năng này vào năm 2023.
TH (phapluatxahoi.kinhtedothi.vn)
