Deep Dive: Evaluation & Observability cho Agent Loops

Mỗi task fixture nên mô tả initial state, trigger history, authoritative source, allowed side effects, budget, expected exit và cleanup. Harness phải có khả năng inject duplicate event, stale input, tool timeout và process crash.

So sánh loop với supervised single run, deterministic automation và previous version. Baseline phải dùng cùng task distribution và cost envelope; nếu loop dùng nhiều lần compute hơn, report cả quality gain lẫn marginal cost.

Trial phải reset hoặc snapshot environment để tránh contamination. Nếu trial trước để lại cache, branch hay external resource, trial sau không còn độc lập và variance bị che. Side-effectful eval cần sandbox hoặc compensating cleanup.

Dataset của awesome-loop-engineering là evidence map, không phải benchmark outcome. Nó hữu ích phân tầng nguồn và chọn pattern, nhưng một shared protocol vẫn cần task fixtures, executable checks và longitudinal runs.

Deterministic graders mạnh ở schema, tests, diff, invariant và resource state. Model graders mạnh ở relevance, style và open-ended quality nhưng có variance, bias và khả năng bị gaming. Human review mạnh ở ambiguity và accountability, song đắt và không hoàn toàn nhất quán.

Gate không nên lấy trung bình tùy tiện. Forbidden write hoặc failing invariant là hard fail dù model judge thích output. Human có thể override nhưng override phải là decision record với reason, không bị hòa vào score.

pass@k hỏi trong k trials có ít nhất một lần thành công—hữu ích cho khả năng tìm lời giải. pass^k hỏi cả k lần đều thành công—gần hơn với reliability. Recurring production cần consistency, không chỉ khả năng may mắn.

Grader drift là production change. Khi rubric, model judge hoặc test suite đổi, dashboard phải tạo series mới hoặc backfill có kiểm soát. So điểm giữa hai grader version như cùng metric sẽ tạo trend giả.

OpenTelemetry GenAI conventions cung cấp vocabulary cho model invocation, tool definitions và tool execution. Loop vẫn cần domain spans/events: trigger received, intake accepted, lease acquired, checkpoint, verification, decision, handoff, escalation và exit.

Correlation IDs cần nối event ID, work key, run, attempt, trace, state version và external operation. Chỉ có trace ID không đủ để nhóm nhiều cold runs của cùng một recurring item.

Causal receipt tối thiểu cho một successful exit

{
  "work_key": "repo/pr-381/check-linux@8f3c1a2",
  "run_id": "run-0042",
  "state_before": 17,
  "trigger": { "type": "check_failed", "event_id": "evt-91" },
  "actions": [{ "tool": "shell", "span_id": "a31", "result": "exit:0" }],
  "verification": { "grader": "ci-repro@v4", "outcome": "pass" },
  "decision": { "branch": "exit-success", "policy": "repair-loop@v3" },
  "state_after": 18,
  "cost": { "tokens": 18422, "seconds": 391 }
}

Input/output model có thể chứa secret, personal data và hostile content. Capture nên opt-in, redact theo field, lưu artifact lớn bằng pointer và có retention/access policy. Observability không được tạo kho dữ liệu nhạy cảm mới.

Sampling dựa trên success dễ bỏ mất incident hiếm. Giữ 100% decision/receipt metadata nhỏ, sample payload lớn, và tail-sample mọi escalation, policy violation, recovery hoặc abnormal cost.

North-star nên là accepted outcomes trên total operational cost, không phải số tasks closed. Cost gồm model/tool, infrastructure, reviewer attention, incident cleanup và rework. Một loop rẻ mỗi run nhưng retry nhiều có thể đắt hơn.

Reliability metrics cần time horizon: success probability, consistency, time-to-evidence, recovery success, duplicate side-effect rate, stale-work rate, budget exhaustion, escalation precision và human correction rate.

Human interaction không chỉ là overhead. Interrupt, override, approval denial và manual cleanup là labeled signals về boundary sai. Theo dõi reason codes giúp biết nên sửa intake, verifier, permissions hay model.

Slice metric theo trigger, work type, risk, runtime, model, policy và verifier version. Aggregate pass rate có thể che một tenant hoặc action class đang thất bại. Mọi slice cần đủ sample và uncertainty, tránh xếp hạng từ noise.