世界人工智能大會聲音：圖靈獎得主強調三大風險

7月5日，2024世界人工智能大會（WAIC）前沿人工智能安全與治理論壇在上海舉行。與會專家就前沿人工智能（AI）安全研究、評測、治理和國際合作等問題進行主旨演講和圓桌討論。

參與論壇的專家表示，在AI快速發展的背景下，人類需要對AI潛在的風險做好準備。其中，國際合作和對話必不可少，有關AI治理的政策應得到優化，以解決目前技術發展快、監管政策慢導致的“步伐差距”。同時，在人類與AI共生的社會中，“紅線”問題也應被討論。

AGI的三大風險

“人類沒有準備好應對快速變化，因此我們需要現在就為未來的風險做好準備。人工智能帶來的不確定性，意味著我們需要就此提出預防性措施，表明各方在這個問題上對話和合作的重要性。”與會的圖靈獎得主、深度學習三巨頭之一、米拉-魁北克人工智能研究所（Mila）創始人和科學總監約書亞·本吉奧（YoshuaBengio）指出。

在AI領域，國際合作已初現端倪。2023年11月，首屆全球AI安全峰會（AISafetySummit）在英國布萊切利莊園召開，會后包括中國在內的與會國達成全球第一份針對AI的國際性聲明《布萊切利宣言》。28個國家和歐盟一致認為，AI對人類構成了潛在的災難性風險。

作為《布萊切利宣言》的關鍵承諾之一，今年5月，由本吉奧主持的《2024先進人工智能安全國際科學報告》（以下簡稱《報告》）發布。報告聯合了一支多元化的全球人工智能專家團隊，其中包括來自世界30個人工智能領先國家的專家顧問小組，以及聯合國和歐盟的代表。2023年11月，其初期版本以AI科學狀況報告的形式發布。本吉奧此番提及的為中期報告，為5月舉行的首爾AI峰會上的討論提供了信息。最終報告預計將在2025年于法國舉行的“AI行動峰會”（AIActionSummit）上發布。

7月5日，本吉奧在演講中表示，《報告》涉及范圍非常廣，包括目前已經存在的歧視、偏見等AI風險，以及誤用AI、影響勞動力市場等問題。

《報告》發現，人們對AI獲取能力速度理解的不同，導致對于AI使用理解、社會如何應對風險和技術的看法也不同。同時，《報告》提到AI專家在部分議題上缺乏統一意見的問題，比如大規模失業、AI失控等議題。

《報告》還討論了通用人工智能（AGI），即能夠生成文本、圖像和實現自動化決策的AI系統，指出AGI會帶來三類風險：惡意風險（深度偽造）、功能故障風險（失控）、系統性風險（版權、隱私）。

本吉奧稱：“《報告》的目的不是預測未來AI科技的走向，而是總結現有的科學研究，為優化相應政策提供根據。”

參與撰寫《報告》的專家指出，政策制定者需要把對AI影響的理解變為優先事項。

聯合國曾表示，全球協調下的AI治理，能讓AI不脫離人類控制范圍的同時，把由AI服務、算法、計算機算力等帶來的不確定性，放到國際層面。

為了更好了解減輕AI風險的問題，本吉奧提出兩點措施：一是各國政府需要更好理解AI系統如何運作，包括為何和怎樣發展AI；二是了解誰會從AI中得到經濟利益，需要在研究方面投入多少。

AI發展存在“步伐差距”

與會的清華大學文科資深教授、人工智能國際治理研究院院長薛瀾，從四方面提出了全球AI治理目前面臨的挑戰。

首先，目前技術發展過快，但政治和機構相關改變較慢，因此出現“步伐差距”的問題；其次，實現更健康的AI系統發展，增加更多算力是否是唯一的辦法，未來可能各方會有不同看法；第三，非線性機構重疊，導致相關機構、機制因為沒有清晰的上下級關系，無法有機結合進行治理；第四，地緣政治問題。

在薛瀾看來，想要解決以上挑戰，提升各方在安全性和治理上的合作必不可少。同時，各國政府可以不用像歐盟那樣提出綜合性的AI法案，但必須對AI治理做出快速響應。

歐盟已批準的《人工智能法案》，是世界上首部對AI進行全面監管的法案。法案根據AI使用方法，而非技術本身造成的影響風險進行分類。

薛瀾表示，在政府之外，AI業界的自我約束也有用處。最后的國際治理，并非單一機構可以解決，而是需要形成多邊網絡系統。

“我們未來還需要討論以下三類問題：國內對技術使用的監管問題；國際社會問題，比如根本風險需要國際合作；更難管理的是，國內問題對國際產生影響，反之亦然。”薛瀾說。

與會的中國科學院自動化研究所人工智能倫理與治理研究中心主任、聯合國人工智能高層顧問機構專家曾毅提醒了有關AI紅線的問題。

曾毅表示，因為AI機制與人類機制不同，因此在“機器是否能像人類一樣智能”的問題上，他持反對意見。

“未來我們可能是建構性的思考方式，現在AI的優點、風險都有限。我們需要用一種主動視角做持續的對齊和嵌入，有真正想法后才能讓AI和人類更好結合，而不僅是預防的角度考慮。”曾毅表示。

提及AI紅線，曾毅說，“我們應重新思考這一問題”。“以核武器為例，AI控制核武器，并非AI的能力，而是人類放棄做決策。因此，AI紅線和人類紅線應該一起討論。”

“AI會犯錯，對信息處理非完全智能。”曾毅認為，在訓練未來的AI時，不能只是下達做或不做的命令，行善去惡非常重要。

“將來我們重視人類和AI的關系，在讓AI和人類價值觀保持一致的問題上會存在很多挑戰，因為人類價值觀需適應功能社會的變化。”曾毅表示。