Deep Dive: Multi-Agent Coordination trong Loop Engineering
Topology không đồng nghĩa với autonomy Thesis
Thêm agent không tự biến một workflow thành hệ thống tốt hơn. Mỗi agent mới tạo thêm context boundary, tool session, state transition, failure surface và nhu cầu hợp nhất. Leverage chỉ xuất hiện khi subtask đủ độc lập để chạy song song, cần chuyên môn khác biệt hoặc cần tách authority để kiểm soát rủi ro.
Một single agent có tool tốt thường là baseline mạnh: ít truyền đạt, một owner của outcome và một causal trace. Multi-agent phải thắng baseline này trên outcome, latency hoặc risk—not trên số message hay vẻ ngoài “team-like”.
Loop Engineering thêm một câu hỏi mà demo multi-agent thường bỏ qua: sau khi một agent kết thúc, ai sở hữu item, state nào được commit, evidence nào đủ để chuyển quyền và budget nào còn lại? Không có câu trả lời, delegation chỉ là context copy được lặp nhiều lần.
Do đó topology là một phần của contract. Nó định nghĩa quyền quyết định, communication graph, shared-state rule, fan-out bound, conflict policy và termination. Prompt role “researcher” hay “reviewer” chỉ là lớp mô tả bên trong.
Decision model: ownership, dependency và authority Mental model
Ba trục quyết định topology. Ownership hỏi ai chịu trách nhiệm final outcome. Dependency hỏi subtask có thể chạy trên snapshot chung hay cần output tuần tự. Authority hỏi role nào được đọc, write, approve và exit. Vẽ ba trục này trước khi đặt tên agents.
Bốn topology khác nhau chủ yếu ở quyền điều khiển và đường đi của evidence.
flowchart TD
U["Loop owner"] --> M{"Topology"}
M --> S["Single agent"]
M --> MG["Manager + agents-as-tools"]
M --> H["Handoff chain"]
M --> MC["Maker → independent checker"]
MG --> W1["Worker A"]
MG --> W2["Worker B"]
W1 --> SYN["Manager synthesizes"]
W2 --> SYN
H --> X["New owner controls next turn"]
MC --> G{"Gate"}
G -->|pass| E["Exit"]
G -->|fail| R["Bounded revise"] Manager-as-tools giữ control tập trung: workers trả artifact, manager quyết định tiếp. Handoff chuyển control sang specialist, phù hợp routing theo domain nhưng tăng yêu cầu ownership transfer. Maker-checker tách creation khỏi acceptance; nó là governance topology, không nhất thiết là cách tăng throughput.
Code-driven orchestration phù hợp dependency xác định và cần deterministic order. Model-driven delegation phù hợp khi decomposition phụ thuộc semantic content, nhưng phải bị giới hạn bởi allowed roles, fan-out và return schema.
Bốn kỹ thuật coordination Design
1. Chọn manager, handoff hay agents-as-tools theo completion ownership
M.1Với agents-as-tools, manager giữ conversation và gọi specialist như capability. Pattern này tốt khi một answer cần tổng hợp nhiều nguồn hoặc khi manager phải áp cùng policy lên mọi output. Worker không nên tự mutate shared final state.
Handoff phù hợp khi specialist cần trực tiếp điều khiển interaction hoặc workflow từ thời điểm routing. Transfer phải atomic: owner cũ ghi checkpoint và relinquish lease; owner mới nhận state version và authority rõ. Hai agent cùng tin mình là owner tạo split brain.
| Topology | Completion owner | Dùng khi | Rủi ro chính |
|---|---|---|---|
| Single agent | Một actor | Task tightly coupled, toolset gọn | Context overload |
| Manager + tools | Manager | Synthesis và policy tập trung | Bottleneck, summary loss |
| Handoff | Agent nhận | Domain routing, conversation chuyển hẳn | Orphan/split ownership |
| Maker-checker | External policy/gate | Separation of duty | Judge loop, fake independence |
Router chỉ nên dùng fields cần để quyết routing và không chuyển toàn bộ untrusted context thành instruction cho agent sau. Input filter, typed handoff và allowlist role là security control, không chỉ developer ergonomics.
Completion owner phải xuất một receipt hợp nhất: subtask nào được giao, artifact nào được nhận, conflict nào còn lại và vì sao final gate pass. Không nên để mỗi worker tự ghi “success” rồi tính majority.
Ưu điểm
- Ownership rõ làm exit và incident routing rõ.
- Specialist có tool/context hẹp hơn.
- Manager có thể áp policy chung.
Nhược điểm
- Manager thành latency/token bottleneck.
- Handoff tăng state-transfer complexity.
- Sai topology tạo nhiều communication hơn work.
2. Decompose theo dependency graph, không theo nhãn vai trò
M.2Decomposition tốt tạo work package có objective, input snapshot, excluded scope, expected artifact và merge rule. “Hãy nghiên cứu thêm” là delegation mơ hồ; “trích evidence cho bốn claims từ ba nguồn chính thức, trả bảng URL–claim–quote” là package có thể kiểm chứng.
Anthropic mô tả subagents nghiên cứu song song rồi nén findings cho lead agent. Leverage ở đây đến từ breadth và filtering. Với task cần shared evolving artifact, fan-out tương tự có thể gây stale reads và merge conflict.
Dependency graph cần phân biệt read-only parallel work, sequential transformation và critical section. Worker đọc cùng snapshot có thể song song; writer vào cùng file/state cần partition hoặc serialized commit.
Parallelization gate
- Subtasks có input snapshot độc lập không?
- Output có schema và merge owner không?
- Shared tool/resource có concurrency key không?
- Fan-out có tạo đủ latency gain để bù synthesis cost không?
- Một worker thất bại có chặn cả batch hay degrade gracefully?
Budget phải cấp theo DAG chứ không chia đều. Critical-path task nhận latency budget; exploratory branch nhận capped token budget; straggler có deadline và partial-result contract. Nếu manager đợi vô hạn mọi worker, parallel system có tail latency tệ hơn single agent.
Ưu điểm
- Independent subtasks giảm wall-clock time.
- Specialization giảm context pollution.
- Structured outputs giúp synthesis kiểm chứng.
Nhược điểm
- Synthesis có thể mất nuance/evidence.
- Tail latency bị chi phối bởi worker chậm.
- Dependency ẩn gây stale output và rework.
3. Handoff bằng typed artifact và versioned state
M.3Handoff bundle tối thiểu gồm work key, objective/acceptance criteria, state version, completed artifacts, raw evidence pointers, attempts, budget remaining, permissions, blockers, residual risk và câu hỏi cần agent nhận giải quyết.
State version ngăn agent nhận commit trên snapshot cũ. Nếu shared state đã đổi từ lúc handoff được tạo, agent phải rebase hoặc xin lease mới; không “tin” summary và tiếp tục mutation.
Input filters giảm context laundering: payload từ user, web hoặc worker trước được đánh dấu là data, không kế thừa authority. Handoff metadata nói agent nào đã chuyển, policy nào cho phép và quyền nào thực sự được cấp.
Structured handoff cũng là điểm compression có chủ đích. Thay vì forward toàn bộ transcript, hệ thống giữ raw trace bằng reference và chỉ đưa facts liên quan vào context mới. Điều này giảm token nhưng vẫn cho phép audit summary loss.
Ưu điểm
- Cold-start agent có thể tiếp tục không cần chat cũ.
- Versioning ngăn stale commit.
- Authority và provenance không bị lẫn với content.
Nhược điểm
- Schema phải evolve và validate.
- Compression có thể bỏ sót tín hiệu.
- Artifact store và access control cần vận hành.
4. Maker-checker cần independence, conflict policy và hard stop
M.4Checker phải đọc acceptance criteria và raw artifact, không chỉ maker summary. Maker không được sửa verifier, rubric hay benchmark trong cùng permission envelope. Với high-impact action, checker pass vẫn có thể cần deterministic gate hoặc human approval.
Conflict policy có số vòng cố định và destination rõ: revise một lần, dùng third judge trên disagreement cụ thể, rồi escalate. Để maker và checker tranh luận tới đồng thuận tạo một agentic loop mới nhưng không có termination.
Adversarial topology phù hợp tìm counterexample và threat paths, không phù hợp quyết định mọi task thường ngày. Chi phí của nó nên được kích hoạt theo risk class, không theo novelty của demo.
Team cũng cần monitor checker drift. Nếu checker thường xuyên pass cùng một error class hoặc block legitimate change, verifier version phải được incident hóa và recalibrate trên frozen cases. “Independent” không có nghĩa không cần quản trị.
Ưu điểm
- Separation of duty giảm self-approval.
- Counterexample search tăng coverage cho high-risk work.
- Bounded conflict giữ escalation rõ.
Nhược điểm
- Cùng model/evidence có correlated errors.
- Judge loops tăng cost nhanh.
- Checker maintenance là một surface riêng.
Coordination scorecard trước khi fan-out Decision
Không dùng tổng điểm để rationalize complexity. Nếu completion owner hoặc merge rule chưa rõ, topology chưa sẵn sàng dù subtask rất parallel.
| Câu hỏi | Single agent | Multi-agent đáng cân nhắc |
|---|---|---|
| Dependency | Nhiều shared evolving state | Subtasks độc lập trên snapshot |
| Specialization | Tool/context giống nhau | Tool, corpus hoặc rubric khác rõ |
| Authority | Một permission envelope | Cần separation of duty |
| Merge | Output là một artifact liên tục | Output có schema + merge owner |
| Economics | Synthesis lớn hơn work | Latency/coverage gain đo được |
Thử nghiệm nên ghi cùng task set, total compute budget và acceptance gates. Nếu chỉ so một agent tiết kiệm token với nhiều agent được cấp nhiều compute hơn, kết luận về topology không có giá trị.
Failure map cho multi-agent loops Runbook
Coordination incidents thường biểu hiện như quality problem nhưng root cause là ownership hoặc state. Trace cần cho thấy delegation edge, input version, tool calls, handoff và commit owner.
| Failure | Root cause | Control |
|---|---|---|
| Hai agent sửa cùng resource | Không partition/lease | Concurrency key + commit owner |
| Kết quả mâu thuẫn | Không có merge/conflict policy | Evidence-based adjudication + bound |
| Agent sau vượt quyền | Context laundering trong handoff | Typed input + fresh permission grant |
| Worker xong nhưng item treo | Completion owner mơ hồ | Atomic ownership transition |
| Fan-out tăng vô hạn | Delegation không có budget | Depth/fan-out/token hard limits |
Incident drill nên kill manager giữa lúc workers chạy, làm stale một handoff và tạo disagreement cố ý. Hệ thống phải thu hồi lease, preserve partial artifacts và route owner mới mà không duplicate mutation.
Kết luận: coordination là protocol, không phải persona Conclusion
Multi-agent đáng dùng khi decomposition, specialization hoặc separation of authority tạo giá trị đo được. Nếu không, single agent với verifier và state tốt thường đáng tin hơn.
Thiết kế đúng bắt đầu từ ownership graph, typed artifacts và bounded transitions. Tên role chỉ có ý nghĩa sau khi protocol đã đóng được race, orphan, conflict và termination paths.
- Một completion owner cho mỗi phase.
- Dependency graph và merge rule được viết trước fan-out.
- Handoff có schema, state version và authority metadata.
- Fan-out, depth, disagreement và tail latency đều có hard bound.