Xây một sản phẩm AI năm 2026 tốn từ $15,000 đến $500,000. Vận hành nó còn tốn hơn — thường vượt cả chi phí xây trong 18–24 tháng. Inference, giám sát, đánh giá (evals) và model đổi phiên bản ngốn $5,000–$50,000 mỗi tháng cho một sản phẩm LLM chạy thật, và cái đồng hồ đó không bao giờ ngừng. Đa số bài viết về chi phí chỉ báo con số xây — đó chính là cách founder tiêu vượt runway. Bài này bóc tách xây vs vận hành, điều gì thực sự quyết định hóa đơn hàng tháng, và cách giữ nó không nuốt bạn.
Chi phí xây là một lần. Chi phí vận hành là một gói thuê bao bạn ký mà không đọc. Đây là cách hai con số đứng cạnh nhau cho một sản phẩm AI custom điển hình:
| Hạng mục | Xây (một lần) | Vận hành (hàng tháng) |
|---|---|---|
| Proof of concept / lớp vỏ mỏng | $15K–$40K | $200–$2K |
| Tính năng AI production trong app | $30K–$80K | $2K–$10K |
| Nền tảng đa agent / workflow | $100K–$200K+ | $10K–$50K+ |
Cái bẫy là lập kế hoạch phần xây và quên phần vận hành. Một MVP $60K tốn $8K/tháng để chạy đã tiêu nhiều cho vận hành hơn cho xây trước sinh nhật thứ hai của nó. Với một startup đã gọi vốn, dòng chi phí lặp lại đó chính là thứ âm thầm quyết định vòng vốn tới phải bù cho vận hành thay vì tăng trưởng. Bản demo chỉ là 1% câu chuyện; 99% không ai chụp màn hình — đường ống dữ liệu, evals, giám sát, hóa đơn — mới là thứ thực sự vận hành công ty bạn.
Năm thứ ảnh hưởng tới con số hàng tháng hơn mọi yếu tố khác.
Inference (token). Mỗi request tới một model frontier đều tốn tiền, và chi phí tỉ lệ với kích thước model, độ dài context và lượng gọi. Một sản phẩm "nói nhiều" trên model lớn với context dài có thể tự nhân hóa đơn lên 10 lần mà không thêm một tính năng nào.
Vòng lặp agentic. Một hành động của người dùng trong agent có thể bung ra hàng chục lượt gọi model — suy luận, gọi tool, retry, phản tư. Agent nhân inference theo cách một prompt đơn không làm, và đó là lý do chi phí vận hành agent gây bất ngờ nhất.
Giám sát và evals. Bạn không thể ship một tính năng AI chịu quản lý hay quan trọng về doanh thu rồi cầu may. Observability, bộ đánh giá và phát hiện trôi (drift) là hạ tầng thật với chi phí thật — bỏ qua chúng là cách bạn rơi vào 88% agent AI không bao giờ lên được production.
Model đổi phiên bản. Model bị khai tử, đổi giá và thay thế theo chu kỳ tính bằng tháng. Mỗi lần đổi là re-test evals, chỉnh lại prompt, đôi khi kiến trúc lại. Đó là một khoản thuế lặp lại, không phải một lần.
Con người trong vòng lặp. Trong y tế, fintech và bất kỳ quy trình chịu quản lý nào, một con người xem xét hoặc phê duyệt việc model làm. Thời gian đó là chi phí vận hành — và là yêu cầu tuân thủ, không phải tùy chọn.
Với một agent phạm vi rõ, một workflow chạy production, hãy dự trù $2,000–$10,000 mỗi tháng khi tính cả inference, giám sát và review nhẹ của con người. Một hệ ràng buộc tuân thủ hoặc đa agent chạy $10,000–$50,000+. Đòn bẩy lớn nhất là routing: đẩy các bước dễ sang model nhỏ, rẻ và chỉ dành model frontier cho 10% khó có thể cắt hóa đơn inference đi một nửa hoặc hơn. Phần xây chúng tôi bàn trong hướng dẫn chi phí AI agent; đây là cái đồng hồ chạy tiếp sau khi ra mắt.
Cắt cái đồng hồ, đừng cắt chất lượng. Những nước đi tiết kiệm nhất:
Cách định giá AI trung thực là định giá cả hai nửa. Chúng tôi xây MVP và agent với giá cố định, và dự toán chi phí vận hành cùng bạn từ tuần đầu — routing, cache và evals thiết kế sẵn, không phải gắn vá. Bạn sở hữu code, hạ tầng và repo ngay từ ngày đầu, nên hóa đơn luôn là của bạn để nhìn và để cắt. Đang xây thứ chạm tới người dùng thật hoặc dữ liệu chịu quản lý? Trao đổi về phát triển AI agent hoặc nhận báo giá cố định kèm dự toán chi phí vận hành trong một cuộc gọi 30 phút.