Enterprise AI adoption in 2025 moved faster than governance frameworks could keep up with. Autonomous AI agents — systems that can browse the web, execute code, send emails, make API calls, and complete multi-step tasks without human approval — went from research demos to production deployments at thousands of companies in under 18 months. Regulators are now catching up, and the governance conversation they're starting will reshape how enterprises design and deploy AI systems.

Three separate regulatory bodies issued guidance or proposed frameworks for AI agent governance in Q1 2026: the European Union (under the EU AI Act's implementation guidelines), the US NIST (National Institute of Standards and Technology), and Singapore's IMDA (Info-communications Media Development Authority). Each takes a different approach, but they converge on a common concern: who is accountable when an autonomous AI agent causes harm?

The EU AI Act: High-Risk Classifications

The EU AI Act, fully in force since August 2025, classifies AI systems by risk level. Most enterprise AI agents — particularly those operating in HR, financial services, or critical infrastructure — fall into the "high-risk" category, triggering requirements for:

  • Maintaining a comprehensive technical documentation log of all agent decisions and actions
  • Implementing human oversight mechanisms at defined decision thresholds
  • Conducting conformity assessments before deployment
  • Registering systems in the EU AI database for public-facing deployments

The practical challenge for enterprises is that many existing AI agent deployments were designed without these logging and oversight architectures in mind. Retrofitting compliance is costly and in some cases requires architectural changes to the underlying agent design.

Singapore's Model AI Governance Framework

Singapore's IMDA released version 3.0 of its Model AI Governance Framework in February 2026, with a dedicated section on autonomous agents. Singapore's approach is notably more principles-based than the EU's prescriptive rulebook, focusing on four pillars: internal governance, human involvement, operations management, and stakeholder interaction.

The framework specifically addresses multi-agent systems — where one AI orchestrates other AI agents — identifying these as the highest-risk configuration from an accountability perspective. When Agent A instructs Agent B to perform an action that causes harm, Singapore's framework requires enterprises to have clear documentation of the authority chain and human approval points.

Key Takeaway Enterprise teams deploying AI agents in 2026 need to build governance architecture from day one, not as an afterthought. This means: audit logging of all agent actions, clearly defined human-in-the-loop checkpoints for high-stakes decisions, and a designated accountability owner for each agent system.

The Accountability Gap in Practice

The governance challenge is not hypothetical. In Q4 2025, a US financial institution's AI agent — deployed to handle routine vendor payment processing — was manipulated via prompt injection to redirect payments to fraudulent accounts, resulting in $2.3M in losses. The incident exposed a fundamental design flaw: the agent had been granted write access to payment systems without a verification step for large transfers.

This class of vulnerability — where an agent with broad tool access can be manipulated through malicious inputs — is now considered the primary security concern in enterprise agentic AI. Mitigations include:

  • Least-privilege tool access: Grant agents only the minimum tool permissions required for their specific task
  • Action thresholds: Require human approval for any action above a defined impact threshold (dollar amount, records affected, external communication)
  • Input sanitisation: Treat all external data that an agent processes as potentially adversarial
  • Immutable audit logs: Maintain tamper-proof logs of every agent action for post-incident analysis

What Southeast Asian Enterprises Should Do Now

For enterprises in Vietnam, Singapore, and the Philippines deploying AI agents — whether for customer service, procurement automation, or data analysis — the governance gap is real and closing quickly from a regulatory standpoint. Singapore's framework is already in effect for regulated industries. Vietnam's Ministry of Information and Communications published its first AI governance circular in March 2026, signalling that regional regulation is accelerating.

The practical first step is an AI agent inventory: cataloguing every autonomous AI system in production, documenting its tool access, decision authority, and oversight mechanisms. Most enterprises we speak with are surprised to discover they have more agent deployments than their IT governance function is aware of — a direct consequence of the ease with which modern AI tools can be provisioned by individual teams.

Getting governance right isn't just about compliance. It's about building AI systems that organisations can actually trust — and that will keep working reliably as the regulatory environment matures around them.

Việc áp dụng AI trong doanh nghiệp vào năm 2025 diễn ra nhanh hơn so với khả năng theo kịp của các khung quản trị. Các AI agent tự trị — các hệ thống có thể duyệt web, thực thi code, gửi email, thực hiện các lệnh gọi API và hoàn thành các tác vụ đa bước mà không cần sự chấp thuận của con người — đã đi từ các bản demo nghiên cứu đến triển khai sản xuất tại hàng nghìn công ty trong vòng chưa đầy 18 tháng. Các cơ quan quản lý hiện đang bắt kịp, và cuộc trò chuyện về quản trị mà họ đang bắt đầu sẽ định hình lại cách doanh nghiệp thiết kế và triển khai hệ thống AI.

Ba cơ quan quản lý riêng biệt đã ban hành hướng dẫn hoặc đề xuất khung cho quản trị AI agent trong Q1 2026: Liên minh châu Âu (theo hướng dẫn thực hiện EU AI Act), NIST Hoa Kỳ (Viện Tiêu chuẩn và Công nghệ Quốc gia) và IMDA Singapore (Cơ quan Phát triển Truyền thông Thông tin). Mỗi bên có cách tiếp cận khác nhau, nhưng đều hội tụ về một mối lo ngại chung: ai chịu trách nhiệm khi một AI agent tự trị gây ra thiệt hại?

EU AI Act: Phân loại rủi ro cao

EU AI Act, có hiệu lực đầy đủ từ tháng 8 năm 2025, phân loại hệ thống AI theo mức độ rủi ro. Hầu hết AI agent doanh nghiệp — đặc biệt là những agent hoạt động trong nhân sự, dịch vụ tài chính hoặc cơ sở hạ tầng quan trọng — rơi vào danh mục "rủi ro cao", kích hoạt yêu cầu:

  • Duy trì nhật ký tài liệu kỹ thuật toàn diện về tất cả các quyết định và hành động của agent
  • Triển khai các cơ chế giám sát của con người tại các ngưỡng quyết định xác định
  • Tiến hành đánh giá sự phù hợp trước khi triển khai
  • Đăng ký hệ thống trong cơ sở dữ liệu EU AI cho các triển khai hướng đến công chúng

Thách thức thực tế đối với doanh nghiệp là nhiều triển khai AI agent hiện có được thiết kế mà không tính đến các kiến trúc ghi nhật ký và giám sát này. Việc cải tạo để tuân thủ tốn kém chi phí và trong một số trường hợp đòi hỏi thay đổi kiến trúc trong thiết kế agent cơ bản.

Khung quản trị AI mẫu của Singapore

IMDA Singapore đã phát hành phiên bản 3.0 của Khung quản trị AI mẫu vào tháng 2 năm 2026, với một phần chuyên dụng về các agent tự trị. Cách tiếp cận của Singapore đáng chú ý hơn là dựa trên nguyên tắc so với quy tắc quy định của EU, tập trung vào bốn trụ cột: quản trị nội bộ, sự tham gia của con người, quản lý hoạt động và tương tác với các bên liên quan.

Khung cụ thể đề cập đến các hệ thống đa agent — nơi một AI điều phối các AI agent khác — xác định đây là cấu hình rủi ro cao nhất từ quan điểm trách nhiệm giải trình. Khi Agent A hướng dẫn Agent B thực hiện một hành động gây hại, khung của Singapore yêu cầu doanh nghiệp phải có tài liệu rõ ràng về chuỗi thẩm quyền và các điểm phê duyệt của con người.

Điểm Mấu Chốt Các nhóm doanh nghiệp triển khai AI agent vào năm 2026 cần xây dựng kiến trúc quản trị từ ngày đầu tiên, không phải như một suy nghĩ sau. Điều này có nghĩa là: ghi nhật ký kiểm tra tất cả các hành động của agent, các điểm kiểm tra human-in-the-loop được xác định rõ ràng cho các quyết định có tác động cao và chủ sở hữu trách nhiệm được chỉ định cho mỗi hệ thống agent.

Khoảng cách trách nhiệm trong thực tế

Thách thức quản trị không phải là giả thuyết. Trong Q4 2025, AI agent của một tổ chức tài chính Hoa Kỳ — được triển khai để xử lý xử lý thanh toán nhà cung cấp thông thường — đã bị thao túng thông qua prompt injection để chuyển hướng thanh toán đến các tài khoản gian lận, dẫn đến thiệt hại $2,3 triệu. Sự cố đã phơi bày một lỗi thiết kế cơ bản: agent đã được cấp quyền ghi vào hệ thống thanh toán mà không có bước xác minh cho các giao dịch lớn.

Loại lỗ hổng này — nơi một agent có quyền truy cập công cụ rộng có thể bị thao túng thông qua đầu vào độc hại — hiện được coi là mối quan tâm bảo mật chính trong AI agentic doanh nghiệp. Các biện pháp giảm thiểu bao gồm:

  • Quyền truy cập công cụ tối thiểu: Chỉ cấp cho agent các quyền công cụ tối thiểu cần thiết cho nhiệm vụ cụ thể của họ
  • Ngưỡng hành động: Yêu cầu phê duyệt của con người cho bất kỳ hành động nào vượt quá ngưỡng tác động xác định (số tiền, hồ sơ bị ảnh hưởng, liên lạc bên ngoài)
  • Làm sạch đầu vào: Coi tất cả dữ liệu bên ngoài mà agent xử lý là có khả năng bất lợi
  • Nhật ký kiểm tra bất biến: Duy trì nhật ký chống giả mạo về mọi hành động của agent để phân tích sau sự cố

Doanh nghiệp Đông Nam Á nên làm gì ngay bây giờ

Đối với doanh nghiệp ở Việt Nam, Singapore và Philippines triển khai AI agent — dù là cho dịch vụ khách hàng, tự động hóa mua sắm hay phân tích dữ liệu — khoảng cách quản trị là thực tế và đang thu hẹp nhanh chóng từ góc độ quy định. Khung của Singapore đã có hiệu lực cho các ngành được quản lý. Bộ Thông tin và Truyền thông Việt Nam đã ban hành thông tư quản trị AI đầu tiên vào tháng 3 năm 2026, báo hiệu sự gia tăng quy định khu vực.

Bước đầu tiên thực tế là kiểm kê AI agent: lập danh mục mọi hệ thống AI tự trị trong sản xuất, ghi lại quyền truy cập công cụ, thẩm quyền quyết định và các cơ chế giám sát. Hầu hết các doanh nghiệp chúng tôi nói chuyện đều ngạc nhiên khi phát hiện ra họ có nhiều triển khai agent hơn so với chức năng quản trị IT của họ biết — hậu quả trực tiếp của sự dễ dàng mà các công cụ AI hiện đại có thể được cung cấp bởi các nhóm riêng lẻ.

Thực hiện quản trị đúng cách không chỉ là về tuân thủ. Đó là về việc xây dựng các hệ thống AI mà các tổ chức có thể thực sự tin tưởng — và sẽ tiếp tục hoạt động đáng tin cậy khi môi trường quy định trưởng thành xung quanh chúng.