Human-in-the-loop cho AI agent: 3 chế độ phối hợp để giữ quyền quyết định

AI agent cần con người ở bước nào?

Trả lời ngắn: Đừng đặt con người vào quy trình như một “người duyệt cuối” chung chung. Hãy chỉ rõ ai có quyền quyết định, họ phải xem bằng chứng nào, và agent phải dừng ở hành động nào dựa trên bốn yếu tố: mức tác động, khả năng đảo ngược, độ bất định và chất lượng bằng chứng.

Với một tác vụ cụ thể, bạn có thể chọn một trong ba chế độ:

1. Draft-only: agent chỉ tạo bản nháp; người chịu trách nhiệm quyết định có dùng hay không.
2. Approval-gated: agent chuẩn bị hành động nhưng phải đợi một người có thẩm quyền phê duyệt.
3. Monitored autonomy: agent được tiếp tục trong phạm vi hẹp, có log, giới hạn và điều kiện dừng rõ ràng.

Đây là khung thực hành của bài viết, không phải tiêu chuẩn ngành và không bảo đảm một hệ thống sẽ an toàn, chính xác hay tuân thủ. Ngưỡng cụ thể phải do chủ quy trình quyết định theo bối cảnh.

Hình 1. Ba chế độ phối hợp tăng dần về quyền hành động; hình minh họa khái niệm, không phải giao diện sản phẩm.

Ngày rà soát nội dung: 06/09/2026. Bài viết là hướng dẫn thực hành chung, không phải tư vấn pháp lý, bảo mật hoặc cam kết về sản phẩm. Nếu phát hiện điểm cần sửa, vui lòng gửi qua trang Liên hệ.

Vì sao “có người trong vòng lặp” vẫn chưa đủ?

Human-in-the-loop thường được hiểu là có con người tham gia một điểm nào đó trong vòng lặp của hệ thống. Nhưng sự hiện diện của một người không tự động tạo ra quyền kiểm soát thực tế.

Một bước duyệt dễ trở thành hình thức nếu người duyệt:

• không biết mình đang chịu trách nhiệm cho quyết định nào;
• không thấy nguồn, dữ liệu đầu vào hoặc lịch sử hành động;
• không có đủ thời gian hay chuyên môn để kiểm tra;
• không thể yêu cầu sửa, từ chối hoặc dừng quy trình;
• phải duyệt quá nhiều cảnh báo giống nhau và dần bấm “đồng ý” theo thói quen.

NIST AI Risk Management Framework là một khung tự nguyện, tổ chức công việc quản trị rủi ro theo bốn nhóm Govern, Map, Measure, Manage. Phần Core của NIST nêu việc cần phân biệt vai trò và trách nhiệm trong cấu hình người–AI và hoạt động giám sát. Điều đó gợi ra một nguyên tắc thực tế: đừng chỉ thêm nút “Approve”; hãy chỉ rõ người nào có quyền và nghĩa vụ gì.

Ba chế độ phối hợp khác nhau thế nào?

1. Draft-only: AI chuẩn bị, người quyết định

Dùng khi: đầu ra còn cần phán đoán nghề nghiệp, dữ liệu đầu vào chưa ổn định, hoặc quy trình mới đang ở giai đoạn học.

Agent có thể tổng hợp ghi chú, tạo dàn ý, đề xuất bảng câu hỏi hoặc soạn email. Nhưng nó không gửi, không cập nhật hệ thống chính và không phát hành thay người chịu trách nhiệm.

Ví dụ: agent đọc ghi chú phỏng vấn đã được phép sử dụng và tạo bản nháp tóm tắt. Nhà tư vấn kiểm tra nguồn, bỏ suy diễn, chỉnh ngữ cảnh rồi mới chia sẻ.

2. Approval-gated: AI chuẩn bị hành động, người phê duyệt

Dùng khi: hành động có tác động đáng kể, đụng đến khách hàng, tiền, quyền truy cập, cam kết hoặc khó đảo ngược.

Agent có thể đi đến ngay trước bước hành động, trình bày nội dung dự kiến, dữ liệu đã dùng, rủi ro và phương án hoàn tác. Một checkpoint (điểm kiểm soát) chặn quy trình cho đến khi đúng người phê duyệt.

OpenAI khuyến nghị cơ chế chuyển cho người khi agent vượt ngưỡng thất bại hoặc chuẩn bị thực hiện hành động nhạy cảm, rủi ro cao hay khó đảo ngược; hướng dẫn này cũng đề xuất đánh giá tool theo mức rủi ro. Đây là heuristic thiết kế, không phải ngưỡng bắt buộc cho mọi hệ thống. Xem A practical guide to building agents.

3. Monitored autonomy: AI tiếp tục trong “hành lang” hẹp

Dùng khi: tác vụ lặp lại, phạm vi và dữ liệu được kiểm soát, kết quả có thể kiểm tra, hành động dễ hoàn tác và hệ thống đã được đánh giá đủ cho bối cảnh đó.

Agent được tự tiếp tục, nhưng không có nghĩa là “tự do hoàn toàn”. Hành lang vận hành nên có:

• tool và dữ liệu được phép;
• giới hạn số bước, thời gian hoặc lần thử;
• kiểm tra đầu ra;
• log đủ để truy vết;
• cảnh báo bất thường;
• stop condition (điều kiện dừng);
• người nhận bàn giao khi agent không thể tiếp tục.

Anthropic mô tả agent như một vòng lặp lấy phản hồi từ môi trường, có thể dừng ở checkpoint, khi gặp blocker hoặc khi chạm điều kiện kết thúc. Họ cũng lưu ý tính tự chủ có thể làm chi phí và sai sót cộng dồn, nên cần thử nghiệm trong môi trường cô lập cùng guardrail phù hợp.

Bốn câu hỏi để đặt đúng checkpoint

Hình 2. Mỗi hành động nên có một tuyến rõ: tiếp tục, xin phê duyệt hoặc dừng và chuyển cấp.

Trước mỗi hành động quan trọng, hãy trả lời bốn câu hỏi sau:

1. Tác động lớn đến đâu?

Ai hoặc hệ thống nào sẽ bị ảnh hưởng nếu hành động sai? Một bản nháp nội bộ khác với email đã gửi cho khách hàng; một đề xuất lịch họp khác với thay đổi quyền truy cập.

2. Có đảo ngược được không?

Có thể khôi phục trạng thái cũ nhanh và đầy đủ không? Nếu không có rollback đáng tin cậy, hãy nâng mức kiểm soát thay vì trông chờ người sửa sau.

3. Bất định nằm ở đâu?

Agent đang thiếu dữ liệu, gặp chỉ dẫn mâu thuẫn hay phải phán đoán ngoài phạm vi? “Không chắc” phải dẫn đến một hành vi xác định: hỏi thêm, chuyển người hoặc dừng — không phải tự đoán rồi tiếp tục.

4. Người duyệt sẽ thấy bằng chứng nào?

Một nút phê duyệt không đủ. Người duyệt cần thấy đầu vào liên quan, nguồn, thay đổi dự kiến, đối tượng bị tác động, phần chưa chắc chắn và phương án hoàn tác.

Quy tắc gợi ý của bài viết:

• Tác động thấp + dễ đảo ngược + kiểm tra được: có thể cân nhắc monitored autonomy.
• Tác động đáng kể hoặc khó đảo ngược: cân nhắc approval-gated.
• Thiếu dữ liệu, xung đột chỉ dẫn hoặc vượt phạm vi: dừng và chuyển cho người.

Không có một công thức điểm số chung. Chủ quy trình phải đặt ngưỡng và kiểm tra lại sau khi có dữ liệu vận hành.

Viết handoff contract sáu dòng

Hình 3. Handoff contract biến “con người sẽ giám sát” thành sáu điều có thể kiểm tra.

Handoff contract trong bài này là một thỏa thuận vận hành ngắn giữa chủ quy trình, người duyệt và agent. Nó không phải hợp đồng pháp lý hay chuẩn ngành.

Hãy viết sáu dòng:

1. Goal: Agent phải tạo ra kết quả gì, cho ai và trong phạm vi nào?
2. Allowed inputs: Agent được đọc nguồn dữ liệu nào; dữ liệu nào bị cấm?
3. Action boundary: Agent chỉ được đề xuất, tạo draft, thay đổi hay gửi?
4. Evidence for review: Người duyệt sẽ thấy nguồn, log, thay đổi và độ bất định nào?
5. Decision right: Ai có quyền approve, reject, request changes và revoke access?
6. Stop and handoff: Khi nào agent phải dừng; bàn giao cho ai; trạng thái nào cần được giữ lại?

Khi điểm dừng do tool failure kích hoạt, dùng biên bản bàn giao retry/fallback có side-effect state và exact resume condition thay vì chỉ chuyển một thông báo lỗi.

Nếu chưa điền được một dòng, đừng che khoảng trống bằng câu “sẽ có người kiểm tra”. Hãy hạ agent xuống draft-only hoặc giữ tác vụ ngoài phạm vi cho đến khi chủ sở hữu quyết định.

Ví dụ: chuẩn bị email tổng kết sau buổi tư vấn

Giả sử một agent được giao chuẩn bị email tổng kết sau cuộc họp với khách hàng.

Cấu hình còn mơ hồ

Đọc ghi chú, tóm tắt và gửi email cho khách hàng. Hỏi tôi nếu cần.

Vấn đề: không rõ agent được dùng ghi chú nào, ai là người nhận hợp lệ, điều gì cần kiểm chứng và “nếu cần” được kích hoạt ra sao.

Handoff contract rõ hơn

• Goal: Tạo bản nháp email tóm tắt quyết định và việc tiếp theo cho đúng cuộc họp.
• Allowed inputs: Biên bản đã được chủ dự án đánh dấu dùng được; không truy cập thư mục khách hàng khác.
• Action boundary: Draft-only; không gửi và không thêm người nhận.
• Evidence for review: Mỗi quyết định có liên kết về đoạn ghi chú; phần thiếu chủ sở hữu hoặc thời hạn được gắn cờ.
• Decision right: Nhà tư vấn phụ trách được sửa, từ chối hoặc gửi.
• Stop and handoff: Dừng nếu có hai phiên bản biên bản, tên người nhận không khớp hoặc ghi chú chứa chỉ dẫn mâu thuẫn.

Sau một giai đoạn thử nghiệm, nhóm có thể cân nhắc cho agent tạo draft trong CRM nhưng vẫn giữ bước gửi ở approval-gated. Đó là graduated autonomy — tăng quyền theo bằng chứng và khả năng kiểm soát — chứ không phải nâng cấp tự động chỉ vì agent từng làm đúng vài lần.

Đánh giá con người và agent như một hệ thống

Đừng chỉ đo “agent trả lời đúng bao nhiêu lần”. Hãy kiểm tra cả cách phối hợp:

• Agent có dừng đúng lúc không?
• Người duyệt có nhận đủ bằng chứng không?
• Tỷ lệ người duyệt sửa hoặc từ chối là bao nhiêu, và vì lý do gì?
• Có cảnh báo nào bị bỏ qua lặp lại không?
• Handoff có giữ được trạng thái để người tiếp tục công việc không?
• Sau thay đổi model, prompt, tool hoặc dữ liệu, kết quả có lệch không?

Anthropic đề xuất dùng bộ chấm deterministic khi có thể, dùng model grader khi cần, và dùng human grader có chọn lọc để bổ sung xác nhận. Cách kết hợp phải phù hợp với tác vụ; đánh giá của con người cũng có thể thiếu nhất quán hoặc bị ảnh hưởng bởi automation bias.

Bạn có thể ghi rõ điểm human approval và handoff trong scorecard cùng run log đánh giá AI agent, thay vì thêm người vào vòng lặp mà không có tiêu chí.

Những điều khung này không giải quyết thay bạn

Khung ba chế độ không tự xác định:

• yêu cầu pháp lý hoặc bảo mật của tổ chức;
• dữ liệu nào được phép xử lý;
• ai thực sự có thẩm quyền phê duyệt;
• mức sai số chấp nhận được;
• tần suất đánh giá lại;
• một AI agent hay sản phẩm cụ thể đã đủ tin cậy hay chưa.

Các quyết định đó cần chủ quy trình, chuyên gia lĩnh vực và các chủ sở hữu rủi ro liên quan. Với tác vụ có hậu quả lớn, hãy bắt đầu ở phạm vi hẹp và tách dữ liệu thật khỏi giai đoạn thử nghiệm.

Câu hỏi thường gặp

Human-in-the-loop có làm AI agent an toàn không?

Không thể kết luận như vậy. Human-in-the-loop chỉ mô tả sự tham gia của con người. Hiệu quả còn phụ thuộc vào quyền hạn, bằng chứng, năng lực, thời gian, giao diện, mức cảnh báo và khả năng dừng hoặc đảo ngược hành động.

Có phải mọi hành động của agent đều cần người duyệt?

Không nhất thiết. Với tác vụ tác động thấp, dễ đảo ngược và có kiểm tra đáng tin cậy, chủ quy trình có thể cân nhắc monitored autonomy. Hành động nhạy cảm, tác động lớn hoặc khó đảo ngược thường cần checkpoint chặt hơn.

Khi nào nên dùng draft-only?

Khi quy trình còn mới, đầu vào biến động, cần phán đoán nghề nghiệp, chưa có rollback hoặc chưa biết cách đánh giá kết quả. Draft-only là cách học về lỗi mà chưa trao quyền hành động ra bên ngoài.

Khi nào nên tăng quyền cho agent?

Chỉ sau khi chủ quy trình có bằng chứng từ các tình huống đại diện, hiểu lớp lỗi, có log và điều kiện dừng, kiểm tra lại sau thay đổi, đồng thời xác nhận người chịu trách nhiệm có thể thu hồi quyền.

Bước tiếp theo: viết hợp đồng trước khi nối thêm tool

Chọn một tác vụ lặp lại trong tuần này. Đánh dấu hành động có tác động lớn nhất. Sau đó viết sáu dòng: Goal, Allowed inputs, Action boundary, Evidence for review, Decision right, Stop and handoff.

Để reviewer nhận đủ context tại checkpoint, dùng decision trail 6 trường cho AI agent và bắt buộc liên kết approval receipt với tool receipt.

Nếu chưa chỉ rõ được ai quyết định và agent dừng ở đâu, hãy giữ tác vụ ở draft-only. Quyền tự chủ nên đi sau bằng chứng và khả năng kiểm soát — không đi trước chúng.

Để bắt đầu từ khái niệm nền tảng, xem thêm AI agent không chỉ là chatbot: vòng lặp 4 bước để giao việc có kiểm soát.

Áp dụng quyền phê duyệt vào một quyết định thật

Ba chế độ phối hợp cho biết khi nào con người cần can thiệp. Khung 7 bước ra quyết định với AI giúp bạn ghi rõ dựa trên bằng chứng nào, ai quyết định và điều kiện nào khiến lựa chọn phải đổi.