00 · Bối cảnh
Việc chia theo skill chỉ là phần bề nổi của tảng băng.
Khi xây hệ thống Multi-Agent thực sự, câu hỏi "ai làm việc gì" chỉ là tầng đầu tiên. Tầng sâu hơn là các agent phối hợp với nhau như thế nào — và đây là nơi các design pattern điều phối ra đời.
Mỗi pattern không phải là một "kiểu hệ thống" mà là một chiến thuật giải quyết một class bài toán cụ thể. Hierarchical giải quyết audit + scope. Routing giải quyết cost-quality matching. Debate giải quyết irreversible decisions. Mỗi cái là một câu trả lời cho một câu hỏi khác nhau.
Trong production, hiếm khi dùng duy nhất một pattern. Một deep research agent thực tế là Orchestrator-Workers ở tầng ngoài + Parallelization cho fetch + Evaluator-Optimizer cho synthesis. Việc nhận diện pattern nào nằm ở tầng nào trong stack quan trọng hơn việc gắn nhãn toàn hệ thống.
Pattern không phải lựa chọn "hoặc" — chúng là composable. Bạn chọn một pattern cho mỗi trục thiết kế, không phải một pattern cho toàn hệ thống. Tài liệu này đi qua 7 pattern theo thứ tự độ phức tạp tăng dần, mỗi pattern kèm use case quy mô SME để dễ hình dung, kết thúc bằng khung quyết định 6 cấp về cách orchestrator chọn pattern phù hợp.
01 · Bộ pattern
Bảy mô hình, bảy chiến thuật.
Năm pattern đầu là bộ canonical phổ biến nhất trong tài liệu agentic AI hiện hành. Hai pattern cuối — Parallelization và Orchestrator-Workers — thuộc bộ chính thức của Anthropic nhưng thường bị bỏ sót khi liệt kê.
A
Structural
Hierarchical / Supervisor
Một agent "manager" điều phối các sub-agent theo cây phân cấp. Manager không tự làm việc — nó phân công và tổng hợp. Cấu trúc tổ chức tĩnh, communication theo chiều dọc: xuống là phân công, lên là báo cáo.
SME Use Case
Shop bán hàng online đa kênh — Supervisor nhận message từ 3 kênh, phân loại 4 domain: Order Tracker, Product Q&A, Returns Agent, Escalation. Tiết kiệm 2 vị trí CSKH ≈ 15tr/tháng.
Dùng khi
Org chart rõ ràng, cần audit trail, scope fix cứng
Tránh khi
Task khám phá, domain biến động, cần collaboration ngang
B
Structural
Dynamic Routing
Router agent phân loại intent và định tuyến đến specialist phù hợp. Router nhỏ & rẻ, chỉ đọc input và phân loại. Mỗi specialist dùng model/tool khác nhau — tối ưu cost theo loại task.
SME Use Case
Phòng khám nha khoa — Router phân loại: Booking (model rẻ), Pricing (RAG), Triage (model y khoa), Complaint (escalate). Cost ~500K–1tr/tháng cho 1500 inquiry.
Dùng khi
Cost/latency matter, task type heterogeneous, volume cao
Tránh khi
Task cần nhiều bước, domain quá hẹp, router sai = phá toàn bộ
C
Decomposition
Sequential Chain
Output của agent trước là input của agent sau, theo thứ tự cứng. Dễ debug nhất nhưng cũng dễ vỡ nhất vì lỗi tích lũy theo chuỗi. Mỗi bước có agent với reasoning, không phải pure function.
SME Use Case
Agency marketing — 6 bước: Brief Parser → Topic Researcher → Outline Writer → Draft Writer → SEO Optimizer → Brand Voice QA. Tăng throughput 3–4x.
Dùng khi
Quy trình chuẩn hóa, schema I/O rõ, cần determinism cao
Tránh khi
Task có nhánh, cần khám phá, bước có thể chạy song song
D
Quality Control
Consensus / Debate
Nhiều agent đưa quan điểm trái ngược, một judge agent ra phán quyết. Bull tìm lý do làm; Bear tìm rủi ro; Neutral đưa data khách quan. Chi phí token 3–5x single-pass.
SME Use Case
Chuỗi F&B cân nhắc mở chi nhánh — Bull Agent, Bear Agent, Comparable Researcher, Synthesis Agent tổng hợp memo. Chi phí sai lầm = lợi nhuận cả năm.
Dùng khi
Quyết định irreversible, cost-of-error cao, subjective
Tránh khi
Có ground truth, volume cao, latency-sensitive
E
Quality Control
Evaluator-Optimizer
Generator tạo output, Critic phản biện, Generator sửa. Loop đến khi đạt threshold. Khai thác asymmetry: đánh giá dễ hơn tạo ra. Critic có thể là LLM nhỏ hơn hoặc test runner.
SME Use Case
Shop cross-border — Generator viết description, Critic chấm theo checklist (keyword density, title length, CTA). Loop 2–3 lần. Cost 5–10K/sản phẩm vs freelancer 100–200K.
Dùng khi
Rubric rõ ràng, khó one-shot, Critic rẻ, volume lớn
Tránh khi
Tiêu chí subjective, Generator one-shot được, latency-critical
F
Decomposition
Parallelization
Chia task thành các phần độc lập, chạy song song, gộp kết quả. Hai biến thể: Sectioning (chia khác nhau, tối ưu throughput) và Voting (lặp giống nhau, giảm variance).
SME Use Case
Công ty cho thuê căn hộ — Sectioning per hồ sơ: ID Verifier, Income Checker, Reference Drafter, Risk Flagger, Aggregator. 33 giờ/tháng → 2–3 giờ review.
Dùng khi
Subtask độc lập, cần latency thấp, resource OK
Tránh khi
Subtask có dependency, cost token nhân lên đáng kể
G
Dynamic Decomposition
Orchestrator-Workers
Khác Hierarchical: cấu trúc động. Orchestrator phân rã task tại runtime — không biết trước cần bao nhiêu worker, làm gì. Backbone của deep research products.
SME Use Case
Sales B2B prospect research — Spawn động: tìm info cơ bản → phát hiện funding → phân tích founder LinkedIn → tìm gap POS. 30 phút → 3–5 phút, 4 call/ngày → 12–15.
Dùng khi
Scope không biết trước, task exploratory, mỗi case khác nhau
Tránh khi
Task chuẩn hóa, latency predictable, token budget tight
02 · Khung quyết định
Làm sao orchestrator biết khi nào dùng pattern nào?
Câu trả lời thẳng thắn: phần lớn không thực sự "biết" — chúng được lập trình trước. Nhưng cách lập trình đó có 6 cấp độ, từ thô sơ đến tiệm cận autonomous.
01
Rule-based
Hard-coded conditional logic
If/else cứng. "Nếu task chứa 'research' → Orchestrator-Workers." Predictable & auditable nhưng cực kỳ giòn, fail im lặng trên task mới.
02
Semantic Routing
LLM nhỏ làm Router
LLM rẻ đọc task và phân loại vào N pattern. Hiểu paraphrase & intent ẩn. Vẫn bị giới hạn bởi taxonomy do người định nghĩa.
03
Meta-reasoning
LLM tự nghĩ về cách làm
Orchestrator LLM phân tích task phù hợp approach nào. Linh hoạt nhất, xử lý task novel. Nhưng LLM overconfident khi self-assess.
04
Two-Phase Analysis
Task profiling → Pattern selection
Phase 1: extract feature định lượng. Phase 2: map feature → pattern qua decision tree. Decision tách khỏi input, dễ debug.
05
Escalation Policy
Bắt đầu rẻ — escalate khi cần
ReAct rẻ trước → Plan-and-Execute → Orchestrator-Workers → human-in-the-loop. Robust thực tế, không cần dự đoán hoàn hảo.
06
Self-correcting
Adaptive pattern switching · Frontier
Pattern đang chạy tự phát hiện không phù hợp và trigger switch. Confidence drop, loop detection, budget exhaustion là tín hiệu. Chưa stable production.
03 · Composability
Pattern không loại trừ nhau — chúng chồng lớp.
Trong hệ thống thực, mỗi trục thiết kế bạn chọn một pattern. Không có chuyện "hệ thống của tôi là Hierarchical" — mà là "topology Hierarchical + communication Direct + decomposition Sequential + quality control Evaluator".
Axis · 01
Topology
Hierarchical · Swarm · Recursive · Flat
Axis · 02
Communication
Direct call · Blackboard · Event-driven · Stigmergy
Axis · 03
Decomposition
Sequential · Parallel · Orchestrator-Workers · Plan-and-Execute
Axis · 04
Quality Control
Evaluator-Optimizer · Debate · Voting · None
Axis · 05
Routing
Dynamic Routing · MoE · Market-based · Static
Axis · 06
Reliability
Saga · Human-in-the-Loop · Speculative · Retry
"Most agents are over-engineered. Start with one well-designed pattern. Add complexity only when measurement shows it's needed."
Anthropic · Building Effective Agents