Google ra mắt API Gemini Decisions: chấm điểm đa phương thức một lượt, giá 0,10 USD mỗi triệu token

Google DeepMind vừa công bố Gemini Decisions API, một endpoint mới chuyên xử lý các quyết định dạng đóng (closed-set), tức chọn trong một tập lựa chọn có sẵn thay vì sinh văn bản tự do. Công cụ này chạy trên mô hình mới Gemini Decision 1 (mã gemini-decision-1), truy cập qua Gemini API trong Google AI Studio. Hai tác giả đứng sau dự án là Min Choi, quản lý sản phẩm, và Felix Yu, nhà khoa học chính, đều thuộc Google DeepMind.

Điểm khác biệt cốt lõi nằm ở cách mô hình tính toán. Thay vì sinh câu trả lời từng token một như các mô hình ngôn ngữ thông thường, Gemini Decision 1 chấm điểm trực tiếp các phương án ứng viên trong một lượt lan truyền xuôi duy nhất, rồi trả về xác suất và điểm tin cậy. Nhờ vậy, độ trễ đầu cuối chỉ còn 150-250 ms, trong đó phần tính toán của mô hình chiếm 50-100 ms.

Một đầu vào, tối đa 1.000 câu hỏi

Người dùng có thể đưa vào một khối dữ liệu đa phương thức duy nhất gồm văn bản, hình ảnh, âm thanh, video và PDF, giới hạn tối đa 256K token. Kèm theo đó là tối đa 1.000 câu hỏi độc lập. Toàn bộ được xử lý trong một lần gọi, và mỗi câu hỏi chỉ cộng thêm token cho phần hướng dẫn cùng tiêu chí của chính nó, còn dữ liệu đầu vào chỉ bị tính tiền một lần cho mỗi request.

Đáng chú ý là độ trễ gần như không đổi khi số câu hỏi tăng từ 1 lên 100 trong cùng một request, với ngữ cảnh lên tới 16K token. Đây là điểm mạnh rõ rệt so với cách gọi mô hình sinh văn bản nhiều lần liên tiếp.

API hỗ trợ ba kiểu câu hỏi, có thể trộn lẫn trong cùng một lần gọi:

• yes/no (có/không): ước lượng xác suất một điều kiện đúng hay sai, có thể kèm mô tả tiêu chí cho trường hợp đúng và sai.
• choice (trắc nghiệm): chọn từ 2 đến 255 phương án, trả về phương án thắng cùng xác suất đã chuẩn hoá cho từng ứng viên.
• score (thang điểm có thứ tự): chấm đầu vào theo một thang bậc bắt đầu từ 0, trả về điểm số liên tục có trọng số và xác suất cho từng mức.

Mọi câu trả lời đều kèm điểm tin cậy trong khoảng 0 đến 1. Nhờ con số này, lập trình viên có thể đặt ngưỡng để đẩy những trường hợp mơ hồ sang phương án dự phòng hoặc chuyển cho người kiểm duyệt, thay vì để hệ thống tự quyết trong vùng không chắc chắn.

Ví dụ thực tế và cách các nhóm trong Google dùng

Trong bài giới thiệu, nhóm phát triển đưa ra một đoạn mã Python minh hoạ: kiểm tra bức ảnh chụp quầy bếp kèm ghi chú văn bản trước cuộc họp khách hàng lúc 9 giờ sáng. Chỉ với một request, hệ thống trả lời đồng thời ba câu hỏi: có vết nước chưa lau hay không, nên chọn hành động dọn dẹp nào trong ba phương án (lau bằng khăn, gọi nhân viên vệ sinh, hoặc quầy đã sạch sẵn sàng), và mức độ nghiêm trọng của đống bừa bộn theo thang ba bậc.

Không dừng ở ví dụ, nhiều nhóm trong Google đã đưa API này vào vận hành thật. Gemini Notebook dùng Decisions API làm bộ định tuyến thời gian thực, phân loại ý định truy vấn trong vài mili giây để đưa câu hỏi thông thường tới mô hình nhẹ và giữ mô hình suy luận sâu cho tác vụ phức tạp. Cách làm này giúp giảm tới 40% độ trễ với các truy vấn hằng ngày.

Thử nghiệm rapid canvas trong Stitch dùng API để tạo wireframe có thể tương tác của một luồng sản phẩm trong vài giây, đồng thời áp dụng chỉnh sửa bằng giọng nói hoặc thao tác chạm gần như tức thì. Khi luồng thiết kế đã ổn, người dùng bấm một lần là chuyển toàn bộ màn hình sang giao diện Stitch đầy đủ để tinh chỉnh sâu hơn.

Ứng dụng CC của Google Labs dùng Decisions API để chọn biểu tượng cảm xúc phù hợp trong bảng hơn 200 lựa chọn chỉ trong một phần nhỏ của giây, nhờ đó phản ứng hiện ra ngay mà không cộng thêm độ trễ. Còn với Google Search, lớp an toàn cho các công cụ MCP dùng API này để phát hiện hành vi và nội dung đối kháng, đạt hiệu quả cao trong giới hạn độ trễ cho phép.

Hiệu năng và bài toán chi phí

Theo Google, Gemini Decision 1 dẫn đầu trên bộ benchmark bao gồm định tuyến tác nhân, suy luận, xếp hạng và hiểu đa phương thức, đồng thời có sai số hiệu chuẩn (calibration error) thấp nhất. Đây là chỉ số đo mức độ khớp giữa độ tin cậy mô hình báo cáo và độ chính xác thực tế, quan trọng với những hệ thống dùng ngưỡng tin cậy để ra quyết định tự động.

Về giá, mức 0,10 USD mỗi 1 triệu token đầu vào và 0 USD cho token đầu ra là điểm đáng chú ý. Google cho biết không có phí token suy luận biến đổi, không tính riêng chi phí phiên âm âm thanh hay OCR. So sánh trên cùng bộ benchmark, Gemini Decision 1 qua Decisions API rẻ gần 5 lần so với Gemini 3.5 Flash-Lite dùng Interactions API. Ngoài ra còn có bậc miễn phí trong Google AI Studio để thử nghiệm trước khi triển khai.

Người dùng cũng có thể tinh chỉnh độ phân giải đầu vào với hình ảnh và video, từ đó cân đối giữa mức chi tiết hình ảnh và chi phí token. Trường đầu vào dùng chung định dạng Content block với Interactions API, nên các dự án đã tích hợp sẵn sẽ dễ chuyển đổi hơn.

Hệ sinh thái và hướng đi tiếp theo

Bên cạnh bộ SDK google-genai, Google cho biết tích hợp đang được mở rộng sang OpenRouter, LangChain, Vercel, LiteLLM, Pydantic AI, Pipecat, LiveKit và OpenCode. Phiên bản hỗ trợ trên Gemini trong Google Cloud sẽ ra mắt sau. Để bắt đầu, lập trình viên lấy API key trong Google AI Studio, tham khảo hướng dẫn Python, JavaScript và REST, đồng thời thử ba ứng dụng mẫu Doorstep Parcels, Speed Sketch và Find the Zoo Keeper.

Hướng đi này cho thấy Google đang tách riêng bài toán ra quyết định khỏi bài toán sinh nội dung. Với các hệ thống cần phân loại, định tuyến hay kiểm tra chính sách với khối lượng lớn, một mô hình chuyên chấm điểm phương án có thể thay thế cả chuỗi gọi mô hình sinh văn bản vừa chậm vừa tốn kém.

Nguồn tham khảo: Gemini Decisions API: Fast, calibrated multimodal decisions.

Bài viết được biên soạn với sự hỗ trợ của AI dựa trên nguồn dẫn ở trên.

TH (phapluatxahoi.kinhtedothi.vn)