Google vừa thông báo thu hồi tính năng mới trên Google Earth, cho phép người dùng tạo ra hình ảnh vệ tinh giả mạo chỉ bằng một câu lệnh AI. Tính năng này đã gây ra nhiều tranh cãi và phản ứng dữ dội từ cộng đồng, đặc biệt là trong bối cảnh lo ngại về việc phát tán thông tin sai lệch.
Nguyên nhân thu hồi tính năng
Tính năng này, được giới thiệu vào ngày 31 tháng 7, cho phép người dùng sử dụng công cụ tạo hình ảnh AI mang tên Nano Banana để tạo ra các hình ảnh vệ tinh siêu thực. Tuy nhiên, chỉ sau 24 giờ, Google đã phải thu hồi tính năng này do những chỉ trích từ các chuyên gia trong lĩnh vực báo chí, AI và tình báo nguồn mở.
Các chuyên gia cho rằng tính năng này có thể tạo điều kiện cho việc phát tán thông tin sai lệch một cách dễ dàng hơn. Henk van Ess, một nhà điều tra nguồn mở nổi tiếng, đã lên tiếng chỉ trích rằng tính năng này sẽ gây ra nhiều tác hại hơn là lợi ích.
Hệ quả của việc phát tán hình ảnh giả mạo
Trong bối cảnh hình ảnh vệ tinh thường được coi là đáng tin cậy, việc cho phép tạo ra hình ảnh giả mạo có thể làm giảm độ tin cậy của công cụ này. Google Earth đã được sử dụng rộng rãi trong các cuộc điều tra, đặc biệt là trong bối cảnh xung đột tại Ukraine và Trung Đông.
Trước khi tính năng bị thu hồi, CNA đã thử nghiệm và tạo ra một số hình ảnh giả mạo tại các địa điểm ở Singapore. Những hình ảnh này có thể dễ dàng được chia sẻ trên các nền tảng mạng xã hội mà không cần phải thông báo rằng chúng là hình ảnh được tạo ra bởi AI.
Phản ứng từ cộng đồng và các chuyên gia
Trước khi tính năng bị thu hồi, một số chuyên gia đã lên tiếng về tính không hợp lý của việc cho phép tạo ra hình ảnh vệ tinh giả mạo. Tom Jarvis, một chuyên gia AI từ Trung tâm Thông tin Đối kháng, đã chỉ trích rằng Google đã tạo ra một công cụ có thể khiến thông tin trở nên khó kiểm soát hơn.
Benjamin Ang, người đứng đầu trung tâm xuất sắc về an ninh quốc gia tại Trường Nghiên cứu Quốc tế S. Rajaratnam, nhấn mạnh rằng hình ảnh vệ tinh thường được coi là đáng tin cậy hơn so với hình ảnh chụp từ mặt đất. Việc cho phép tạo ra hình ảnh giả mạo dễ dàng có thể gây ra sự hoang mang và hiểu lầm trong cộng đồng.
Triển vọng trong tương lai
Google đã cam kết sẽ làm việc để cải thiện các biện pháp bảo vệ và hạn chế việc tạo ra hình ảnh trên các chủ đề nhạy cảm. Họ cũng đã nhấn mạnh rằng mỗi hình ảnh được tạo ra bằng Nano Banana đều có dấu hiệu nhận diện kỹ thuật số để giúp người dùng phân biệt được nội dung do AI tạo ra.
Trong tương lai, việc phát triển và quản lý các công nghệ AI trong lĩnh vực tạo hình ảnh sẽ cần được giám sát chặt chẽ hơn để đảm bảo rằng chúng không bị lạm dụng cho mục đích phát tán thông tin sai lệch.
TH (phapluatxahoi.kinhtedothi.vn)
