Multi-agent là gì?
Hệ thống multi-agent là hệ thống gồm nhiều AI Agent cùng phối hợp (mỗi Agent là một mô hình ngôn ngữ tự dùng công cụ trong một vòng lặp) để hoàn thành một nhiệm vụ. Điều phối (orchestration) là cách quyết định Agent nào làm gì, theo thứ tự nào, chia sẻ thông tin gì và khi nào dừng.
Với doanh nghiệp, câu trả lời ngắn là: phần lớn bài toán nên bắt đầu bằng một Agent với bộ công cụ rõ ràng. Chỉ chuyển sang nhiều Agent khi có lý do cụ thể như công việc chia song song được, lượng thông tin vượt quá một ngữ cảnh, hoặc cần ranh giới bảo mật riêng cho từng phần việc.
Nếu bạn chưa nắm khái niệm cơ bản, hãy đọc trước AI Agent là gì.
Nguyên tắc đầu tiên: bắt đầu với một Agent
Cả Anthropic và Microsoft đều khuyên bắt đầu từ mức đơn giản nhất. Anthropic khuyên tìm giải pháp đơn giản nhất có thể và chỉ tăng độ phức tạp khi cần, kể cả khi điều đó nghĩa là không cần hệ thống agent nào. Microsoft Learn chia thành ba mức: gọi mô hình trực tiếp, một Agent có công cụ, và điều phối nhiều Agent; nên dùng mức thấp nhất đáp ứng ổn định yêu cầu, và một Agent có công cụ thường là lựa chọn mặc định đúng cho doanh nghiệp.
Anthropic còn ghi nhận nhiều hệ thống nhiều Agent đang được dùng ở chỗ một Agent sẽ làm tốt hơn; có nhóm mất nhiều tháng xây kiến trúc phức tạp rồi phát hiện chỉ cần cải thiện prompt cho một Agent là đạt kết quả tương đương.
| Mức | Mô tả | Khi nào dùng |
|---|---|---|
| Gọi mô hình trực tiếp | Một lần gọi với prompt tốt, không công cụ | Phân loại, tóm tắt, dịch: việc một bước |
| Một Agent có công cụ | Một Agent tự chọn công cụ, lặp nhiều bước | Câu hỏi đa dạng trong một lĩnh vực, ví dụ tra đơn hàng, truy vấn dữ liệu |
| Nhiều Agent | Nhiều Agent chuyên biệt có cơ chế điều phối | Bài toán liên phòng ban, cần ranh giới bảo mật riêng, hoặc chia song song được |
Phép thử trước khi thêm Agent
- Một Agent với chỉ dẫn rõ và đúng công cụ có làm được không? Nếu được, dừng ở đó.
- Công việc có thật sự chia thành các nhánh độc lập chạy song song không?
- Một Agent có đang phải chọn giữa quá nhiều công cụ dễ nhầm lẫn không?
- Có yêu cầu bảo mật buộc phải tách quyền truy cập theo phần việc không?
- Giá trị của tác vụ có đủ lớn để trả chi phí token tăng thêm không?
So sánh các mô hình điều phối nhiều AI Agent
Các tên gọi dưới đây lấy từ tài liệu của Anthropic và Microsoft Learn; nhiều framework dùng tên khác nhau cho cùng một ý tưởng.
| Mô hình | Cách hoạt động | Phù hợp khi | Rủi ro cần canh |
|---|---|---|---|
| Orchestrator-worker (điều phối – thực thi) | Một Agent trung tâm chia việc động, giao cho các worker rồi tổng hợp kết quả | Không đoán trước được cần những bước con nào, ví dụ nghiên cứu nhiều nguồn | Orchestrator sinh quá nhiều worker; tổng hợp sai |
| Pipeline tuần tự (sequential) | Các Agent nối theo thứ tự cố định, Agent sau xử lý đầu ra của Agent trước | Quy trình nhiều bước có phụ thuộc rõ: soạn – kiểm – hoàn thiện | Lỗi ở bước đầu lan xuống các bước sau; không song song |
| Song song (concurrent / fan-out) | Nhiều Agent cùng xử lý một đầu vào độc lập, sau đó gộp kết quả | Cần nhiều góc nhìn độc lập hoặc cần giảm độ trễ | Kết quả mâu thuẫn cần luật gộp; tốn tài nguyên cùng lúc |
| Handoff (chuyển giao) | Mỗi lúc chỉ một Agent xử lý; Agent tự quyết định chuyển cho chuyên gia khác hoặc cho người | Chưa biết trước chuyên gia nào cần, ví dụ chăm sóc khách hàng nhiều mảng | Chuyền qua lại vô tận; định tuyến khó đoán |
| Group chat / tranh luận | Các Agent cùng thảo luận trong một luồng, có người điều phối lượt nói; gồm cả vòng maker-checker | Cần phản biện, đồng thuận hoặc kiểm duyệt chất lượng | Vòng lặp hội thoại; khó kiểm soát khi nhiều Agent |
| Phân cấp (hierarchical) | Agent dẫn dắt quản lý các Agent con, có thể nhiều tầng; biến thể có Agent quản lý lập kế hoạch động (Microsoft gọi là magentic) | Bài toán mở, lớn, cần lập và điều chỉnh kế hoạch | Chậm hội tụ; chi phí khó dự đoán; khó truy vết |
Ghi chú về group chat
Microsoft Learn khuyên giới hạn group chat ở ba Agent trở xuống để giữ kiểm soát, và với vòng maker-checker phải có tiêu chí chấp nhận rõ, giới hạn số vòng và hành vi dự phòng khi chạm giới hạn, chẳng hạn chuyển cho người duyệt.
Kết hợp nhiều mô hình
Một hệ thống thật thường kết hợp: pipeline cho bước tiền xử lý, song song cho phần phân tích độc lập, handoff khi cần chuyển cho người. Đừng ép mọi bước vào một mô hình duy nhất.
Bài học từ một hệ thống thật: nghiên cứu nhiều Agent của Anthropic
Anthropic đã công bố cách họ xây tính năng Research: một Agent dẫn dắt lập kế hoạch rồi tạo các Agent con tìm kiếm song song, cuối cùng một Agent riêng xử lý trích dẫn. Đây là mô hình orchestrator-worker.
Theo đánh giá nội bộ của Anthropic, cấu hình nhiều Agent (Claude Opus 4 dẫn dắt, Claude Sonnet 4 làm Agent con) vượt cấu hình một Agent Claude Opus 4 tới 90,2% trên bộ đánh giá nghiên cứu của họ. Đây là số liệu do chính nhà cung cấp tự đo, cho một loại việc cụ thể là tìm kiếm theo chiều rộng.
Điểm quan trọng hơn là giới hạn: Anthropic cho biết hệ thống nhiều Agent hợp với việc có giá trị cao, song song hóa mạnh, thông tin vượt quá một ngữ cảnh và nhiều công cụ phức tạp; còn những lĩnh vực cần mọi Agent chia sẻ cùng ngữ cảnh hoặc có nhiều phụ thuộc giữa các Agent, như phần lớn công việc lập trình, thì hiện chưa phù hợp.
- Giai đoạn đầu, các Agent từng sinh 50 Agent con cho câu hỏi đơn giản, tìm mãi những nguồn không tồn tại và làm phiền nhau bằng cập nhật quá mức.
- Cách khắc phục: ghi rõ quy tắc tỉ lệ công sức theo độ khó, ví dụ việc tra cứu đơn giản chỉ cần 1 Agent với 3–10 lần gọi công cụ.
- Mỗi lần giao việc cho Agent con cần mục tiêu, định dạng đầu ra, công cụ được dùng và ranh giới nhiệm vụ rõ ràng.
Các kiểu lỗi thường gặp
Microsoft Learn lưu ý hệ thống nhiều Agent gặp lại các vấn đề kinh điển của hệ phân tán: một thành phần hỏng, mất thông điệp, lỗi dây chuyền. Anthropic nhấn mạnh Agent có trạng thái và lỗi cộng dồn: lỗi nhỏ với phần mềm thường có thể làm Agent đi chệch hoàn toàn.
- Trùng việc hoặc bỏ sót: hai Agent cùng làm một phần, hoặc không Agent nào nhận phần khó.
- Lỗi lan truyền: đầu ra kém của Agent trước trở thành đầu vào của Agent sau mà không ai kiểm.
- Vòng lặp: chuyển giao qua lại, tranh luận không dứt, hoặc lặp gọi công cụ.
- Phình ngữ cảnh: mỗi Agent thêm suy luận và kết quả công cụ, làm ngữ cảnh lớn dần và chất lượng giảm.
- Trạng thái chia sẻ không nhất quán: các Agent song song cùng sửa một dữ liệu.
- Quyền quá rộng: Agent con được cấp quyền như Agent chính, hoặc trả về dữ liệu mà người dùng không được xem.
Biện pháp phòng ngừa
- Bàn giao bằng bản ghi có cấu trúc: việc cần làm, đầu vào, ràng buộc, đầu ra mong đợi, tiêu chí chấp nhận.
- Kiểm tra đầu ra trước khi chuyển cho Agent sau; dừng hoặc thử lại khi đầu ra kém.
- Đặt giới hạn cứng cho mỗi tác vụ: số lần gọi công cụ, ngân sách token, thời gian chạy, số vòng.
- Cấp quyền tối thiểu cho từng Agent và lọc dữ liệu theo quyền của người dùng ở mọi Agent.
- Lưu trạng thái ra kho bền vững để tiếp tục sau sự cố thay vì chạy lại từ đầu.
- Đặt điểm duyệt của con người trước các hành động khó đảo ngược. Xem thêm Human-in-the-Loop.
Chi phí: vì sao multi-agent tốn token
Theo dữ liệu của Anthropic, Agent thường dùng khoảng 4 lần số token so với một cuộc chat, còn hệ thống nhiều Agent dùng khoảng 15 lần. Vì vậy, Anthropic kết luận hệ thống nhiều Agent chỉ hợp lý về kinh tế khi giá trị của tác vụ đủ cao.
Microsoft Learn bổ sung: pipeline và handoff gọi lần lượt từng Agent nên chi phí cộng dồn; mô hình song song có thể làm tài nguyên tăng vọt cùng lúc; mô hình lập kế hoạch động khó dự đoán tổng chi phí nhất.
- Chọn mô hình theo độ khó của từng Agent: việc phân loại, trích xuất, định dạng thường dùng được mô hình nhỏ hơn.
- Theo dõi token theo từng Agent và từng lần chạy để biết chỗ tốn nhất.
- Nén ngữ cảnh giữa các Agent bằng tóm tắt hoặc cắt bớt phần không cần.
- Đặt ngân sách cho mỗi tác vụ và cảnh báo khi vượt.
Ví dụ minh họa
Một nhóm vận hành đặt giới hạn mỗi tác vụ tối đa 6 lần gọi công cụ và 15 giây; khi chạm giới hạn, hệ thống dừng, lưu trạng thái và chuyển cho người phụ trách. Con số chỉ mang tính minh họa; giới hạn phù hợp phải được đo trên khối lượng việc thật.
Giám sát và kiểm thử hệ thống nhiều Agent
Anthropic cho biết truy vết (tracing) đầy đủ trong môi trường thật giúp họ chẩn đoán vì sao Agent thất bại: truy vấn tìm kiếm kém, chọn nguồn kém hay lỗi công cụ. Họ cũng triển khai dần (rainbow deployment) để cập nhật phiên bản mà không làm gián đoạn các Agent đang chạy.
Microsoft Learn khuyên ghi nhận mọi thao tác và lần chuyển giao, đo hiệu năng theo từng Agent; vì đầu ra không tất định, hãy kiểm thử bằng thang chấm điểm hoặc mô hình làm giám khảo thay vì so khớp chính xác.
| Nhóm | Nội dung ghi nhận | Dùng để |
|---|---|---|
| Luồng | Agent nào được gọi, theo thứ tự nào, ai giao việc cho ai | Tái hiện và chẩn đoán lỗi |
| Công cụ | Công cụ được gọi, tham số, kết quả, lỗi | Kiểm tra quyền và phát hiện lạm dụng |
| Chi phí | Token và thời gian theo từng Agent | Tối ưu chi phí, đặt ngân sách |
| Chất lượng | Điểm đánh giá đầu ra, các lần thử lại, các lần chuyển cho người | Theo dõi xu hướng chất lượng |
| Con người | Ai duyệt, duyệt gì, lúc nào | Trách nhiệm giải trình |
Lộ trình đề xuất cho doanh nghiệp
EYC đang xây dựng hướng vận hành có AI Agent hỗ trợ và tư vấn, triển khai tự động hóa bằng AI cho doanh nghiệp; phạm vi cụ thể được xác định theo thỏa thuận trong hợp đồng.
- Bắt đầu với một Agent và bộ công cụ hẹp; đo chất lượng trên tập việc thật. Xem mô hình vận hành AI Agent.
- Khi thấy giới hạn rõ (quá nhiều công cụ, cần song song, cần tách quyền), tách đúng một phần việc thành Agent thứ hai, thường theo pipeline hoặc orchestrator-worker.
- Thiết lập bàn giao có cấu trúc, giới hạn cứng và truy vết trước khi thêm Agent thứ ba.
- Đặt phân quyền và nhật ký cho từng Agent. Xem phân quyền và nhật ký kiểm toán cho AI Agent.
- Chỉ mở rộng khi số đo cho thấy nhiều Agent tốt hơn một Agent trên cùng bộ đánh giá.
Câu hỏi thường gặp
Multi-agent khác gì một AI Agent dùng nhiều công cụ?
Một Agent dùng nhiều công cụ vẫn chỉ có một vòng suy luận và một ngữ cảnh. Multi-agent có nhiều Agent, mỗi Agent có ngữ cảnh, chỉ dẫn và quyền riêng, cần cơ chế điều phối giữa chúng. Microsoft Learn coi một Agent có công cụ thường là mặc định phù hợp cho doanh nghiệp.
Khi nào nên dùng nhiều AI Agent?
Khi công việc chia song song được, lượng thông tin vượt quá một ngữ cảnh, một Agent phải chọn giữa quá nhiều công cụ dễ nhầm, hoặc cần ranh giới bảo mật riêng cho từng phần việc, và giá trị tác vụ đủ để trả chi phí token cao hơn.
Hệ thống nhiều AI Agent tốn chi phí hơn bao nhiêu?
Theo dữ liệu của Anthropic, Agent dùng khoảng 4 lần token so với chat và hệ thống nhiều Agent khoảng 15 lần. Con số thực tế phụ thuộc mô hình điều phối, mô hình ngôn ngữ và cách quản lý ngữ cảnh.
Mô hình điều phối nào nên thử đầu tiên?
Pipeline tuần tự hoặc orchestrator-worker thường dễ kiểm soát nhất. Microsoft Learn cảnh báo việc chọn mô hình phức tạp khi pipeline hoặc song song cơ bản là đủ là một lỗi phổ biến.
Làm sao ngăn các Agent lặp vô tận?
Đặt giới hạn cứng về số lần gọi công cụ, số vòng, ngân sách token và thời gian; định nghĩa tiêu chí hoàn thành rõ; và quy định hành vi khi chạm giới hạn, chẳng hạn dừng, lưu trạng thái và chuyển cho người.
MCP có phải là điều phối nhiều Agent không?
Không. Model Context Protocol chuẩn hóa cách Agent khám phá và gọi công cụ; nó giúp kiểm soát quyền truy cập công cụ nhưng không quyết định Agent nào làm gì. Xem bài MCP là gì.