Nội dung chính
1. Năm phát hiện "neo" báo hiệu doanh nghiệp đang chạy AI agent trước khi có đủ hệ thống kiểm soát
Khảo sát VentureBeat Research được thực hiện qua 5 đợt song song trong tháng 6/2026, tập trung vào 5 lớp của agentic stack:
- Identity cho agent: agent nào được phép làm gì, dưới danh nghĩa ai
- Evaluation: làm sao biết output của agent có đạt yêu cầu không
- Cost telemetry: mỗi agent tốn bao nhiêu để chạy
- Context layer: dữ liệu và định nghĩa nghiệp vụ mà agent đọc để trả lời
- Orchestration control plane: phần mềm điều phối workflow đa bước của agent
Bức tranh tổng thể: doanh nghiệp đang triển khai agent trước, rồi mới lo xây dựng các lớp kiểm soát. 54% công ty đã gặp sự cố hoặc suýt sự cố bảo mật agent trong 12 tháng qua. 27% chỉ kiểm soát chi phí agent một cách thụ động – biết agent tốn bao nhiêu khi nhận hóa đơn, không có budget trần theo agent.
2. Phát hiện 1: GPU chạy non nửa công suất
Hơn 86% doanh nghiệp chạy GPU riêng báo cáo utilization ≤ 50%. Chỉ 44% có đo lường nghiêm túc chi phí và lợi nhuận của compute AI – phần còn lại chỉ ước lượng.
Điều thú vị là quyết định mua hàng vẫn tiếp tục: 45% doanh nghiệp cho biết compute option mới mà họ "có khả năng cao nhất" sẽ đánh giá trong 12 tháng tới là AI-specialized cloud (CoreWeave, Lambda, Crusoe, Nebius). Nhưng hiện tại dưới 2% đang dùng các neocloud này.
Đặt trong bối cảnh Việt Nam: Nếu doanh nghiệp Việt đang tính mua 1–2 GPU H100 giá ~600 triệu VNĐ mỗi chiếc để chạy AI nội bộ, dữ liệu này cho thấy: hơn 8/10 trường hợp sẽ để GPU chạy non tải. Giải pháp tốt hơn cho nhiều SME là thuê cloud theo giờ thay vì mua đứt.
3. Phát hiện 2: "agent" mà doanh nghiệp deploy đa số chỉ là chatbot
71% doanh nghiệp nói rằng 1/4 hoặc ít hơn "agent" của họ có thể tự hoàn thành tác vụ đa bước – phần còn lại chỉ là chatbot một prompt. Chỉ 10% nói agent thực sự chiếm đa số workload.
Đây là điểm quan trọng: Gartner từng cảnh báo "agentwashing" – các hãng gọi chatbot AI assistant là "agent", gây hiểu nhầm. Theo Gartner, 40% ứng dụng doanh nghiệp sẽ tích hợp task-specific AI agent vào cuối 2026, tăng từ dưới 5% năm 2025. Con số này nghe lớn, nhưng khi hỏi ngược lại những người vận hành: bao nhiêu agent của bạn có thể tự hoàn thành tác vụ đa bước? – câu trả lời trung thực chỉ là 10–25%.
4. Phát hiện 3: 66% để agent push production chỉ dựa trên eval tự động – nhưng chỉ 5% tin eval
34% doanh nghiệp cho phép AI agent push code hoặc thay đổi hệ thống lên production dựa trên kết quả eval tự động, không có người review. 33% khác đang kỹ thuật hóa pipeline để đạt điều đó trong 12 tháng tới. Nhưng chỉ 5% thực sự tin tưởng các eval tự động đủ chính xác.
Nửa doanh nghiệp đã tung agent pass eval nội bộ nhưng gây lỗi thật cho khách hàng trong năm qua. Một phần tư đã thấy điều này xảy ra nhiều hơn một lần.
Đặt trong bối cảnh Việt Nam: nếu team bạn đang xây chatbot AI cho khách hàng, đây là cảnh báo rõ ràng – eval nội bộ không phải là biện pháp bảo vệ đủ. Cần test trên dữ liệu production thực tế trước khi tự động hóa hoàn toàn.
5. Phát hiện 4: 69% cho phép chia sẻ credential giữa các agent
69% doanh nghiệp cho phép nhiều agent chạy dưới cùng một API key hoặc service account. Và những công ty này bị tấn công nhiều hơn:
- Có credential sharing: 63,5% gặp sự cố hoặc suýt sự cố bảo mật (47/74 công ty)
- Mỗi agent có identity riêng: chỉ 40,9% gặp sự cố (9/22 công ty)
Chênh lệch 23 điểm phần trăm cho thấy: mỗi agent cần một danh tính riêng, bắt đầu với các agent chạm vào hệ thống production.
6. Phát hiện 5: 57% truy ngược "agent tự tin sai" về context nghiệp vụ thiếu
57% doanh nghiệp truy được ra nguyên nhân ít nhất một câu trả lời sai tự tin của agent trong 6 tháng qua: do metric sai, định nghĩa cũ, tài liệu thiếu. Phần lớn trong số họ thấy điều này xảy ra nhiều hơn một lần.
Chỉ 25% đã chạy governed semantic layer (một định nghĩa thống nhất về business mà mọi AI đọc vào). 34% đang xây, 41% chưa bắt đầu.
Điều này ảnh hưởng gì đến bạn?
- Nếu bạn là CIO/CTO Việt đang mua GPU: đo utilization thực tế của hạ tầng hiện tại trước khi đầu tư thêm. Nếu dưới 50%, có thể cần tối ưu workload thay vì mua mới.
- Nếu bạn triển khai AI agent cho SME Việt: đừng gọi chatbot một prompt là "agent" – sự khác biệt quyết định chi phí kiểm soát cần thiết.
- Nếu bạn đang xây eval pipeline cho agent: eval nội bộ chưa đủ. Cần test trên production outcomes thực tế, không chỉ benchmark nội bộ.
- Nếu bạn lo về bảo mật agent: cấp cho mỗi agent một identity riêng (scoped credentials), đặc biệt với agent chạm vào production.
Số liệu & thống kê
| Chỉ số | Giá trị | Ý nghĩa |
|---|---|---|
| Doanh nghiệp GPU utilization ≤ 50% | 86%+ | hơn 8/10 để GPU chạy non tải |
| Đo lường chi phí compute nghiêm túc | 44% | phần còn lại chỉ ước lượng |
| Đang dùng AI-specialized cloud | <2% | dù 45% dự định đánh giá |
| "Agent" thực sự đa bước | ≤25% | phần còn lại chỉ là chatbot |
| Gặp sự cố bảo mật agent | 54% | trong 12 tháng qua |
| Chia sẻ credential giữa agent | 69% | tăng nguy cơ sự cố 23 điểm % |
| Push production chỉ dựa trên eval tự động | 66% | nhưng chỉ 5% tin eval |
Sources
| # | Title | URL | Ghi chú |
|---|---|---|---|
| 1 | Wall Street is debating the AI buildout. Enterprises just answered: More than 80% say their GPUs run at half capacity or less | https://venturebeat.com/orchestration/wall-street-is-debating-the-ai-buildout-enterprises-just-answered-86-say-their-gpus-run-at-half-capacity-or-less | Bài gốc VentureBeat |
