微軟宣布可信任 AI 計畫，強化 AI 服務安全性、隱私保護

微軟宣布可信任 AI 計畫（Trustworthy AI），推出全新的相關產品功能及服務，進一步強化 AI 服務的全面性防護措施，以協助客戶使用並建構值得信任的人工智慧，確保其 AI 受到保護、並具備安全性及隱私性。

微軟全球執行副總裁暨首席行銷長 Takeshi Numoto 指出，微軟致力於確保可信任的 AI，並打造領先業界的支援技術；微軟承諾持續精進技術與能力，確保客戶和開發者在每一層面的AI應用都得到充分保護。微軟即日起推出全新產品功能，以加強 AI 系統的保障、安全及私隱保護。

微軟指出，該公司將安全列為第一優先，擴展的「安全未來倡議計畫」（SFI）強調了公司全體上下對客戶的安全承諾。繼本週釋出首份「SFI 進展報告」，重點介紹了企業文化、治理、技術和營運方面的最新進展，並遵循安全設計、安全預設與安全營運三大核心原則。除了 Microsoft Defender 和 Purview 外，AI 服務也內建基本的安全控制功能，如防止提示詞被截取（prompt injections）和版權侵犯，微軟再宣布推出兩項新功能：

• Azure AI Studio 中的 Evaluations 功能已支援主動式的風險評估。
• Microsoft 365 Copilot 將提供網路查詢的透明度，協助管理員和用戶了解網路搜尋如何改善 Copilot 的回應。

微軟自 2018 年建立「負責任 AI 原則」以來，致力於在公司內安全的構建和部署 AI 服務，這包括建立、測試和監控系統，以防止有害內容、偏見及其他風險。多年來，我們在治理結構、政策、工具和流程方面進行了重大投資，確保這些準則的落實。微軟承諾與客戶分享這些經驗和最佳實踐，幫助他們開發符合高標準的 AI 應用。為幫助客戶在追求 AI 帶來的利益同時能夠降低相關風險，微軟推出以下全新產品功能：

• 在 Microsoft Azure AI Content Safety 中的 Groundedness 檢測功能中新增矯正功能（Correction），有助於在出現幻覺（hallucination）之前即時修復這些問題。
• Embedded Content Safety 允許客戶將 Azure AI Content Safety 功能嵌入到裝置設備中，這對於雲端連接可能不穩定或無法使用的裝置設備情境非常重要。
• Azure AI Studio 推出了新的評估功能（Evaluations），可協助客戶評估輸出內容的品質和關聯性，並檢測他們的 AI 應用輸出受保護的資料之頻率。
• Azure AI Content Safety 中的 Protected Material Detection for Code 功能目前正在預覽中，有助於偵測預先存在的內容和程式代碼。此功能幫助開發者探索 GitHub 儲存庫中的公開原始碼，促進協作和透明度，進而做出更明智的編碼決策。

微軟認為，數據是 AI 的基礎，該公司首要任務是透過長期遵循的隱私原則，確保客戶資料得到保護並符合規範，這些原則包括用戶控制、透明度以及法律和監管保護。微軟宣布以下新的產品功能：

• Azure OpenAI Service Whisper 模型現已推出「機密推理 (Confidential inferencing)」預覽功能，客戶可開發支援可驗證端到端隱私保護的生成式 AI 應用程式。機密推理能確保訓練好的 AI 模型，在推理、預測或決策的過程中，敏感的客戶資料能受到安全及隱私的保護。這對於高度受監管的行業，尤其是醫療保健、金融服務、零售、製造和能源等行業尤為重要。
• 配備 NVIDIA H100 Tensor Core GPU 的Azure Confidential VMs現已全面上市，這讓客戶可以直接在 GPU 上保護資料。這是以我們機密運算解決方案為基礎，確保客戶資料在安全環境中保持加密和保護，任何人都無法在未獲得授權的情況下存取相關資訊或服務。
• 適用於歐盟和美國的 Azure OpenAI Data Zones 即將推出，它是建構於 Azure OpenAI 服務提供的現有資料駐留，能使客戶更輕鬆地管理生成式 AI 應用程式的資料處理和儲存，並靈活地在一個區域內擴充所有 Azure 區域的生成式 AI 應用，同時能夠在歐盟或美國境內控制資料處理和儲存。

（首圖來源：微軟）