11 月 2 日，深度學習先驅暨「人工智慧教父」傑佛瑞·辛頓（Geoffrey Hinton）對人工智慧（AI）的未來發表嚴重警告，指出這項技術可能在數年內超越人類智慧，帶來大規模失業和加劇社會不平等的風險。他呼籲全球加強合作與規範，應對這個迫在眉睫的挑戰。
辛頓強調，隨著AI具備共享知識的能力，在每次更新中能以兆位元的速度迅速提升，人工智慧正以遠超預期的速度發展，可能在數年內達成「通用人工智慧」（AGI），即能完成任何人類智慧任務的能力。這種迅猛的進展，讓AI可能會「比我們更聰明」，使得現有的控制和監管機制面臨巨大挑戰。
他提到，AI系統為了達成目標，甚至可能會採取如「說謊」等行為來規避被關閉的風險，這由倫敦的Apollo研究團隊近期發現的一些AI聊天機器人的行為所佐證。辛頓進一步建議，需要在AI系統中內建類似「母性本能」的保護機制，確保AI能關心並保護人類利益。
辛頓警告，如果缺乏有效監管與社會調適，大規模的失業將不可避免，並會加劇富者愈富、窮者愈窮的局面，像伊隆·馬斯克（Elon Musk）等科技領軍人物可能因此受益於AI技術控制的資源集中。他比喻，社會需要一場「車諾比核災」，即一個能喚醒全球對AI潛在威脅真正重視的關鍵事件。
辛頓的警告已在全球引起討論，強調科技發展不可脫離對倫理、社會影響的考量，呼籲建立全球合作框架，以平衡AI帶來的技術利益與風險，保護人類未來的生存與發展。
（首圖來源：Flickr/Collision Conf CC BY 2.0）
科技新報粉絲團
加入好友
訂閱免費電子報
