Đánh giá (evaluation) cho biết một AI agent có thể chạy hay không; quan sát (observability) cho biết nó đang chạy ra sao. Evaluation chấm điểm agent trên các case thật trước khi ship — mức hoàn thành tác vụ, gọi công cụ đúng, an toàn, chi phí. Observability truy vết những gì agent thực sự làm ở production — quyết định, lời gọi công cụ, lỗi, độ trễ. Năm 2026 đa số đội đã có observability (~89%) nhưng ít đội chạy evals (~52%), và đó chính là lý do agent qua demo rồi gãy ở production. Bạn cần cả hai, và evaluation là thứ đa số đội đang thiếu.
Một agent "trông có vẻ chạy" không giống một agent bạn tin được. Cách duy nhất để biết là đo nó — trước khi ship và liên tục sau đó. Dưới đây là khác biệt giữa evaluation và observability, và cách dựng cả hai cho agent production.
Evaluation là chấm điểm hành vi của agent trên một tập case thật, đại diện, có kết quả đúng đã biết. Nó trả lời "agent này làm tác vụ đúng, an toàn, trong ngân sách không?" — đo được, không đoán. Một bộ eval tốt bao gồm mức hoàn thành tác vụ, gọi công cụ đúng, tuân thủ chính sách, chi phí và độ trễ, và regression, và chạy trên mỗi thay đổi để bạn biết một chỉnh sửa làm agent tốt lên hay tệ đi.
Observability là khả năng thấy agent thực sự làm gì ở production: trace đầy đủ chuỗi suy luận và lời gọi công cụ, metric, lỗi, và quyết định sau mỗi hành động. Evaluation là bài kiểm tra có kiểm soát trước và song song triển khai; observability là tầm nhìn trực tiếp trong lúc triển khai. Evaluation hỏi "nó chạy được không?"; observability hỏi "nó đang chạy đúng không, và vì sao nó làm vậy?". Hai cái bổ trợ — evaluation bắt lỗi trước khi người dùng gặp, observability bắt những lỗi chỉ traffic thật mới lộ.
Vì observability mà thiếu evaluation chỉ cho biết có cái gì hỏng, chứ không biết agent có bao giờ thật sự tốt hay không. Nếu chưa từng chấm điểm agent trên case thật, bạn ship theo cảm tính — và giám sát chỉ cho thấy lỗi sau khi chúng tới tay người dùng. Khoảng cách 2026 rất rõ: đội gắn dashboard nhưng bỏ evals vốn có thể bắt lỗi trước khi ra mắt. Observability là cần thiết; evaluation là thứ đa số đội đang thiếu.
Dựng bộ eval trước, từ case thật, và chạy trên mỗi thay đổi; gắn trace đầy đủ và log cấp quyết định để hành vi production nhìn thấy được; và khép vòng bằng cách đưa lỗi production trở lại bộ eval. Đây là kỷ luật phân tách demo khỏi hệ thống sống sót với traffic thật (xem từ pilot lên production), và đi cùng phân quyền và audit của governance cho agent. Nếu không đo được agent có tốt lên hay không, bạn không vận hành nó — bạn đang hy vọng.
Evaluation và observability là cốt lõi trong cách chúng tôi ship agent đáng tin. Xem cách chúng tôi tiếp cận phát triển AI agent, hoặc gửi agent của bạn để chúng tôi giúp đo xem nó có thật sự chạy.