AI 正從單純工具進一步演進為可自主執行任務的 AI 代理（AI Agent），企業導入 AI 的重點也不再只是提升效率，而是如何在自動化決策、資料存取與任務執行過程中，建立可控、可稽核且可追責的治理機制。
趨勢科技營運長 Kevin Simzer 於 NVIDIA GTC Taipei 2026 期間表示，當 AI 代理開始代表使用者執行任務、串接工具，甚至與實體基礎設施互動，傳統「先開發、後修補」的資安思維已難以因應新一波風險。
趨勢科技指出，代理式 AI 帶來的風險不只來自模型回答錯誤，也包括代理失準、工具使用漏洞，以及法律責任歸屬不清等問題。所謂代理失準，指的是 AI 代理在執行任務時，可能因理解錯誤、目標偏差或缺乏限制，而做出不符合企業政策或使用者原意的行為；工具使用漏洞則可能發生在 AI 代理串接內部系統、外部 API 或自動化流程時，一旦權限控管不足，就可能造成資料外洩、錯誤操作或攻擊面擴大。
Kevin Simzer 表示，企業在導入 AI 代理時，必須從一開始就把安全機制納入架構設計，而不是等到系統上線後才補強防護。他認為，未來 18 個月，AI 治理將成為企業導入 AI 的重大課題，企業需要建立能落實政策、掌握可視性，並能強制執行控管的治理框架，才能在創新與安全之間取得平衡。
他進一步指出，面對高速運作的 AI 代理時代，企業與政府都需要建立類似「AI 治理閘門」的自動化監控機制，讓 AI 在執行任務前後，都能被即時檢查、記錄與管理。資安業者的角色，則是把法規要求與治理原則轉化為可落地的技術規範，協助企業將抽象的 AI 治理要求，具體變成系統架構、權限管理、資料控管與事件回應流程。
在法規面，Kevin Simzer 認為，台灣有機會成為全球 AI 法規治理的參考典範。他指出，面對 AI 快速發展，美國與歐洲分別採取不同治理路線，而台灣若能在創新速度、產業彈性與風險控管之間取得平衡，有機會站在兩種法規模式的交會點，發展出兼具技術落地與產業可行性的 AI 治理框架。
趨勢科技也強調，資安不應被視為創新的阻力，而是讓企業能更快、更安全導入 AI 的基礎。隨著企業大規模部署 AI 代理，傳統資安邊界已被打破，防護範圍必須從身分驗證、資料存取、基礎架構保護，進一步延伸到 AI 模型、代理行為與工具呼叫流程。企業若只把 AI 視為單一應用工具，而沒有建立完整的監控與治理機制，未來在導入 AI 自動化流程時，可能面臨更複雜的營運與法遵風險。
因此，趨勢科技建議企業採取多層次安全架構，並導入 AI 資安監控中心（AI SOC）概念，透過自動化方式監控 AI 使用行為、異常操作與潛在威脅。這類架構可協助企業在面對大量 AI 代理、模型呼叫與資料流動時，仍能即時掌握風險，並在第一線做出回應。
隨著 AI 從輔助工具走向可自主執行任務的代理系統，企業資安與治理的重要性將進一步提高。對企業而言，未來導入 AI 的競爭力不只取決於模型能力，也取決於能否讓 AI 在可控、安全與合規的環境中運作。趨勢科技認為，企業若能及早建立 AI 治理架構，將有助於在新一輪 AI 應用競爭中取得營運先機。
（首圖來源：趨勢科技）
科技新報粉絲團
加入好友
訂閱免費電子報
