招聘、裁員不得只信 AI，加州通過「拒絕機器人老闆」法案

現在很多公司都在用 AI 篩選履歷，甚至決定考績與薪資，但現在加州準備限制 AI 職場權力。加州立法者通過《SB 7 法案》，規範 AI 職場使用範圍，暱稱為「拒絕機器人老闆」法案，包括禁止雇主僅依賴 AI 決定員工紀律處分或解僱。

「拒絕機器人老闆」法案獲加州議會和參議院批准，正等待州長加文紐瑟姆簽署。法案頒布後，將對自動化決策系統，廣義包括機器學習工具、演算法和 AI，進行僱用決策，涵蓋招聘、績效管理、晉升、排班、解僱，甚至生產力追蹤。

新法案將 AI 工具定義為，任何源自機器學習、統計建模、資料分析或 AI 的計算過程產生簡化的輸出，包括分數、分類或建議，用於協助或取代人類的自由決策。現在企業常用的 AI 工具都包含在內，例如簡歷掃描、監控工具、分析語音或文字，用來分析面試或評估員工績效的工具、績效追蹤工具、排班助理工具等等。

強化問責制與透明度

法案中與就業相關的決定，定義得極為廣泛，任何員工工資、福利、薪酬、工作時間、工作安排、績效評估、招聘、紀律處分、晉升、解僱、工作任務、技能要求、工作職責、工作分配、工作和培訓機會、生產力要求或工作場所健康與安全產生重大影響的決定，都涵蓋在內。

法案明確禁止幾項行為，最值得注意的是，雇主在做出紀律處分、解僱或停職決定時，不得只依賴自動化工具。法案也對雇主可以使用的資料類型進行限制，譬如如果員工的工作面向客戶，客戶可以留下評論，雇主不可以只依賴這些評分，來提拔、懲戒或解僱員工，這些決策必須參考其他數據。

新法也不是不讓雇主使用 AI，而是高度重視人類監督。新法規定，當雇主主要依賴自動化工具做出特定類型的決定，譬如紀律處分、解僱或停職決定時，雇主必須聘請人工審查員，來審查自動化工具的輸出，並彙編和審查與該決定相關的其他資訊。換句話說，新法案要求對更重要的決定，進行二次審核。新法也要求透明度，要求雇主在使用自動化決策系統時通知員工和求職者。

企業反對法律限制 AI 決策

之前加州州長曾否決過其他與 AI 相關的立法，理由是監管框架不成熟，以及需要進一步的產業諮詢。然而，與 AI 在就業決策中的應用受到政治和公眾壓力日益增大，這項法案可能更難被駁回，一旦簽署，將於明年 1 月 1 日生效。

專家認為，加州新法代表著職場 AI 監管範式的重大轉變，如果加州州長簽署成為法律，將要求加州雇主思考，未來如何應對職場 AI 問題。然而加州商會反對這項立法，直指 AI 工具本意是提高效率，降低成本，若法律限制太多，企業人力資源部門必須投入更多人手處理合規流程，可能需要額外付出 10 億美金的成本。

(首圖來源：Flickr/Jordan Richmond CC BY 2.0)