Evaluate and ship
Safety and guardrails
Đặt kiểm soát trước, trong và sau lời gọi model
Trước request
Phân loại dữ liệu; loại secret/PII không cần thiết; kiểm tra quyền tenant; giới hạn kích thước; bao dữ liệu không tin cậy như dữ liệu, không như chỉ dẫn.
Trong tác vụ
Dùng system instruction ngắn, tool allowlist, schema chặt, least privilege, timeout và số vòng tối đa. Coi mọi output/tool argument là không tin cậy.
Sau response
Validate schema, kiểm tra policy/PII, escape khi render, đối chiếu nguồn và chuyển người duyệt ở tác vụ rủi ro. Không cho model tự phê duyệt thao tác tài chính, pháp lý, y tế, xóa dữ liệu hay phát hành công khai.
Ghi audit trail gồm phiên bản prompt/model alias, tool đã gọi, quyết định guardrail và người phê duyệt—nhưng redact key, thinking và nội dung nhạy cảm.