Structured outputs

Khi tích hợp cần JSON, mô tả schema rõ trong prompt và xác thực ở ứng dụng. Không coi JSON parse được là dữ liệu đúng.

import json
from jsonschema import validate

schema = {
    "type": "object",
    "properties": {"summary": {"type": "string"}, "risk": {"enum": ["low", "high"]}},
    "required": ["summary", "risk"],
    "additionalProperties": False,
}

data = json.loads(answer_text)
validate(data, schema)

Yêu cầu “chỉ JSON”, temperature thấp nếu phù hợp, và ví dụ biên. Khi lỗi: phản hồi lỗi validation ngắn cho model, thử lại tối đa 1–2 lần, rồi chuyển fallback/human review. Tránh regex để “sửa” JSON không đáng tin.

Các extension structured-output cấp provider có thể không được mọi backend của alias hỗ trợ; schema validation phía ứng dụng vẫn là lớp bắt buộc.