Mô hình vận hành AI Agent: cách triển khai an toàn trong doanh nghiệp

Mô hình vận hành AI Agent là gì?

Mô hình vận hành AI Agent là bộ quy tắc bằng văn bản cho biết mỗi AI Agent làm việc gì, được dùng công cụ và dữ liệu nào, khi nào phải dừng hoặc chuyển cho con người, và ai chịu trách nhiệm về kết quả. Nó giống bản mô tả công việc cộng với quy chế phân quyền, nhưng viết cho một hệ thống phần mềm.

Khi triển khai AI Agent trong doanh nghiệp, rủi ro lớn nhất thường không nằm ở năng lực của mô hình ngôn ngữ mà ở khung vận hành xung quanh: ranh giới thẩm quyền mơ hồ, thiếu bước duyệt và không có quy trình xử lý ngoại lệ. Nếu chưa rõ AI Agent khác chatbot hay RPA thế nào, hãy đọc trước bài AI Agent là gì.

Bước 1: định nghĩa vai trò trước khi chọn công cụ

Mỗi Agent nên có một chức danh mà con người hiểu được: điều phối tiếp nhận yêu cầu, người soát hồ sơ, trợ lý soạn báo cáo. Chức danh gợi ra phạm vi công việc và ranh giới tự nhiên. Nếu không mô tả được vai trò trong một câu, phạm vi đã quá rộng cho bản đầu tiên.

Viết thêm danh sách những việc Agent không được làm. Danh sách này thường quan trọng hơn danh sách việc được làm, vì nó là căn cứ để cấu hình quyền và kiểm thử.

• Ví dụ minh họa: “Agent tiếp nhận đọc email gửi đến hộp thư hỗ trợ, phân loại theo chủ đề và soạn nháp phản hồi; không gửi email, không sửa dữ liệu khách hàng, không hứa thời hạn xử lý.”
• Mỗi vai trò có một người sở hữu nghiệp vụ, không phải chỉ người viết code.
• Bắt đầu với một Agent cho một quy trình hẹp; chỉ tách thành nhiều Agent khi vai trò đầu tiên đã ổn định.

Bước 2: phân quyền tối thiểu và bước duyệt

Nguyên tắc đặc quyền tối thiểu (least privilege) áp dụng cho Agent giống như cho nhân viên mới: bắt đầu với quyền đọc và chỉ mở quyền ghi cho những hành động đã được kiểm thử. OWASP xếp “Excessive Agency” (trao cho Agent quá nhiều quyền) vào danh sách OWASP Top 10 cho ứng dụng LLM (bản 2025, mục LLM06), với ba nguyên nhân gốc: chức năng thừa, quyền thừa và tự chủ quá mức.

OWASP khuyến nghị giới hạn công cụ mà Agent được gọi ở mức tối thiểu, tránh công cụ mở như chạy lệnh tùy ý, thực thi phân quyền ở hệ thống phía sau thay vì để mô hình tự quyết hành động có được phép hay không, và yêu cầu con người duyệt các hành động có tác động lớn. Chi tiết kỹ thuật có trong bài phân quyền và nhật ký kiểm toán cho AI Agent.

Bước 3: bảng RACI cho vai trò, quyền và bàn giao

RACI là cách ghi rõ ai Thực hiện (Responsible), ai Chịu trách nhiệm cuối cùng (Accountable), ai được Tham vấn (Consulted) và ai được Thông báo (Informed). Với AI Agent, quy tắc quan trọng nhất là: Agent có thể là R, nhưng không bao giờ là A. Trách nhiệm cuối cùng luôn thuộc về một người cụ thể.

Bước 4: thiết kế sẵn cách xử lý khi AI Agent gặp lỗi

Agent lỗi theo những cách dự đoán được: thiếu dữ liệu, chỉ dẫn mâu thuẫn, yêu cầu mơ hồ, công cụ trả về lỗi hoặc nội dung đầu vào chứa chỉ dẫn lạ. Mỗi trường hợp cần một hành vi định sẵn: hỏi lại, dừng, hoặc chuyển lên. Điều tệ nhất là Agent vẫn tự tin làm tiếp khi lẽ ra phải dừng.

OWASP cũng lưu ý rằng ghi nhật ký, giám sát và giới hạn tần suất không ngăn được việc Agent làm sai nhưng giúp phát hiện sớm và giảm thiệt hại. Vì vậy cần cả hai lớp: ranh giới phòng ngừa (quyền, bước duyệt) và lớp phát hiện (nhật ký, cảnh báo, nút dừng).

• Đặt giới hạn số bước, số lần gọi công cụ và chi phí cho mỗi tác vụ.
• Coi nội dung từ email, tài liệu, trang web là dữ liệu, không phải mệnh lệnh.
• Kiểm thử định kỳ nút dừng và cơ chế quay lui.

Luật AI 2025: con người giữ quyền quyết định

Luật Trí tuệ nhân tạo số 134/2025/QH15 có hiệu lực từ 01/3/2026. Điều 4 khoản 2 quy định trí tuệ nhân tạo phục vụ con người, không thay thế thẩm quyền và trách nhiệm của con người; phải bảo đảm duy trì sự kiểm soát và khả năng can thiệp của con người đối với mọi quyết định và hành vi của hệ thống AI, cùng với khả năng kiểm tra, giám sát quá trình phát triển và vận hành.

Mô hình vận hành chính là nơi nguyên tắc này được hiện thực: bảng RACI xác định người chịu trách nhiệm, ma trận quyền xác định chỗ con người duyệt, và nút dừng bảo đảm khả năng can thiệp. Điều 7 khoản 4 còn cấm hành vi cản trở, vô hiệu hóa hoặc làm sai lệch cơ chế giám sát, can thiệp và kiểm soát của con người.

Với hệ thống AI rủi ro cao, nghĩa vụ cụ thể hơn: nhà cung cấp phải thiết kế hệ thống bảo đảm khả năng giám sát và can thiệp của con người và lưu hồ sơ kỹ thuật, nhật ký hoạt động (Điều 14 khoản 1 điểm c, d); bên triển khai phải bảo đảm khả năng can thiệp của con người trong quá trình sử dụng (Điều 14 khoản 2 điểm b). Quyết định 33/2026/QĐ-TTg về Danh mục hệ thống AI rủi ro cao cũng nêu rõ việc dùng AI không làm thay đổi, chuyển giao hoặc loại trừ thẩm quyền, trách nhiệm của cơ quan, tổ chức, cá nhân có thẩm quyền.

Tổng quan đầy đủ về nghĩa vụ có trong bài Luật Trí tuệ nhân tạo 2025: doanh nghiệp dùng AI cần chuẩn bị gì; cách thiết kế điểm duyệt có trong bài human-in-the-loop.

Bước 5: viết ra rồi mới xây

Mô hình vận hành là văn bản ngắn, thường một đến hai trang cho mỗi Agent, được người phụ trách quy trình rà soát. Nó được cập nhật khi quy trình nghiệp vụ thay đổi, không chỉ khi phần mềm thay đổi. Đội ngũ viết tài liệu này trước sẽ tốn ít công sửa hành vi về sau, và có sẵn tài liệu khi cần giải trình.

EYC đang hướng tới mô hình vận hành trong đó AI Agent đảm nhận phần lớn công việc lặp lại dưới sự chỉ đạo của con người, theo nguyên tắc “Hệ thống do con người dẫn dắt. Công việc được AI phối hợp thực thi.” Trong dịch vụ tự động hóa bằng AI và tư vấn tích hợp, chúng tôi có thể cùng đội ngũ của bạn viết mô hình vận hành, cấu hình phân quyền và thiết kế bàn giao; phạm vi cụ thể theo thỏa thuận trong hợp đồng.

• Mẫu tối thiểu: vai trò một câu, việc được/không được làm, ma trận quyền, điều kiện bàn giao, hành vi khi lỗi, bảng RACI, lịch rà soát.
• Gắn mỗi phiên bản mô hình vận hành với phiên bản cấu hình Agent đang chạy.