《科學》報道：歐洲將嚴格監管人工智能技術

　　近日，歐盟委員會公布了嚴格監管人工智能（AI）的計劃。據《科學》報道，該委員會將起草新的法律——包括禁止人類無法解釋的“黑匣子”AI系統，以控制該技術的高風險應用，比如醫療設備和自動駕駛汽車。

　　在宣布該計劃的新聞發布會上，歐盟委員會主席Ursula von der Leyen說，盡管監管將比此前任何的歐盟規定都更廣泛、更嚴格，但其目標是促進信任，而不是恐懼。該計劃還包括更新歐盟2018年AI戰略的措施，以及在未來10年投入數10億歐元用于研發。這并非最終定案，未來12周內，即在起草具體法律的工作正式啟動前，專家、游說團體和公眾可對該計劃發表意見。

　　相比于美國，歐洲對待AI的態度更為謹慎，歐盟官員希望通過監管贏得消費者信任，進而幫助歐洲競爭，推動AI的更廣泛應用。

　　歐盟委員會AI獨立顧問小組成員、歐洲政策研究中心AI政策研究員Andrea Renda表示:“歐盟試圖在最擅長的領域發揮領導作用，這是一個非常堅實和全面的監管框架。”

　　該委員會希望針對醫療、交通或刑事司法等領域的AI“高風險”使用，制定有約束力的規則。確定風險的標準將包括以下考慮因素：比如某人是否會受到傷害——被一輛自動駕駛汽車或醫療設備傷害；或者一個人是否對機器決策的影響幾乎無發言權，比如人工智能何時被用于招聘或執法。

　　歐盟委員會還希望通過人工監管來阻止不可預測的AI“黑匣子”。這些規則還將用于管理訓練AI系統的大型數據集，以確保這些數據集是合法獲取的、可追溯的，并且足夠廣泛。

　　法律將確定誰對人工智能系統的行為負責——使用它的公司或者設計它的公司，高風險的應用程序在部署到歐盟之前必須符合這些規則。

　　另外，歐盟委員會計劃提供一種“值得信賴的AI”認證，將鼓勵在低風險使用中自愿遵守，而之后被發現有違規行為的認證系統可能面臨罰款。

　　歐盟委員會還將就面部識別系統“在歐洲展開一場廣泛的辯論”。這是一種人工智能形式，可以在人群中未經同意而識別個人。盡管德國等歐盟國家已公布了部署該系統的計劃，但官員們表示，這些系統經常違反歐盟隱私法。

　　該委員會還將制定一項“行動計劃”，將AI整合到交通和醫療等公共服務中，并更新其2018年AI發展戰略，該戰略為研究投入了15億歐元。歐盟委員會正在呼吁更多的研發，包括AI“卓越和測試中心”以及一個新的可能投資數十億歐元的AI產業合作伙伴關系。此外，歐盟委員會還概述了一項促進數據共享的戰略，部分原因是為了支持AI的發展。