生成式 AI 從工具走向代理人（AI agent）後，企業導入速度正快速拉高，但資安與治理缺口也同步擴大。微軟在最新釋出的《Cyber Pulse：AI Security Report》指出，AI agent 正在各地區、各產業加速擴散，企業若缺乏可觀測性（observability）、治理（governance）與安全控管，可能使 agent 變成被濫用的「雙面間諜」（double agents），帶來資料外洩、營運中斷與合規風險。
報告引述微軟內部數據指出，超過 80% 的《財富》 500 強（Fortune 500）已透過低程式碼／零程式碼工具部署「活躍中的 AI agents」，顯示代理人的建置不再限於工程團隊，而是擴散到各種職務情境。
（Source：微軟）
在地區分布上，報告列出目前活躍代理人的分布以 EMEA 42% 最高，其次為美國 29%、亞洲 19%、美洲（不含美國）10%。
（Source：微軟）
從產業來看，微軟觀察到金融服務、製造、零售等領域採用度居前；其中金融服務約占全球活躍代理人的 11%，製造占 13%，零售占 9%。報告也提醒，快速擴張的同時，企業內部同時存在「IT 核准」與「未核准」的代理人，且安全成熟度不一。
在風險面，報告提到，若代理人權限配置過大、或被不可信輸入操控，可能被攻擊者利用。微軟也舉例說明，Defender 團隊曾觀測到惡意活動利用「記憶體投毒」（memory poisoning）等技巧，嘗試以持續方式影響 AI 助理的記憶與回應；微軟 AI Red Team 的測試研究也記錄到代理人可能被「介面中的欺騙元素」誤導，導致行為偏離預期。
報告並揭露兩個與「影子 AI」相關的數字：一份由 Hypothesis Group 受託、針對 1,700 多名資安／資料安全專業人士的跨國調查顯示，已有 29% 員工在工作任務中使用未獲核准的 AI 代理人；同時，微軟 Data Security Index 指出，僅 47% 組織表示正在導入特定的 GenAI 安全控管。
為縮小治理落差，微軟在報告中主張以零信任（Zero Trust） 思維看待代理人，採取最小權限、明確驗證並假設可能遭入侵，並把「看得見、管得住」列為優先。
報告也提出可觀測性的五大核心，包括建立集中式盤點清冊（registry）、一致的存取控制、即時可視化儀表板、跨平台互通治理與內建安全防護；並提供一份「AI 治理與安全檢核清單」，涵蓋定義範圍與最小權限、延伸 DLP 與合規、提供核准平台以降低影子 AI、規劃 AI 事件應變、面對法規、以企業層級管理風險，以及培養安全創新文化等方向。
（首圖來源：Unsplash）
科技新報粉絲團
加入好友
訂閱免費電子報
