失控的人工智能可能威脅人類？

　　一封由科技界一些知名人士簽署的公開信正在引起全球關注和關于人工智能倫理的激烈討論。

　　信中說，最近幾個月，人工智能實驗室在開發和部署更強大的數字思維的競賽中失控，沒有人，甚至他們的創造者，能夠理解、預測或可靠地控制。

　　在題為“暫停巨型人工智能實驗：一封公開信”的信中，簽名者表示，由于擔心“具有人類競爭智能的人工智能系統可能對社會和人類構成巨大風險”，他們呼吁“所有人工智能實驗室立即暫停至少六個月，訓練比GPT-4更強大的人工智能系統。

　　這封信由生命未來研究所出版，已成功吸引了超過15，500個簽名，包括Space X&Twitter首席執行官埃隆馬斯克，蘋果聯合創始人史蒂夫沃茲尼亞克和著名的人工智能研究員斯圖爾特拉塞爾。

　　這封信被釋放后立即引發了爭議。一些批評者認為，這封信過于關注假設和長期風險，正如The Verge指出的那樣，它不太可能對當前的人工智能研究環境產生任何影響。

　　然而，其他人堅持認為，人工智能工具已經引發了一些不容忽視的社會或道德問題，例如提供有偏見的回應、傳播錯誤信息和影響消費者隱私。

　　對人工智能技術負面影響的擔憂日益加劇，特別是隨著ChatGPT的升級。例如，ChatGPT 使犯錯的學生能夠在學習成績上作弊。據路透社報道，歐盟警察部隊歐洲刑警組織警告說，該系統可能被濫用于網絡釣魚企圖、虛假信息和網絡犯罪。

　　就連ChatGPT的創建者Open AI也在一份聲明中表示，在某些時候，“在開始訓練未來的系統之前，獲得獨立審查可能很重要，并且對于最先進的努力來說，同意限制用于創建新模型的計算的增長率。

　　那個“某個點”就是現在。

　　人工智能安全創業公司SaferAI的首席執行官Simeon Campos告訴《時代》雜志，他簽署了這封信，因為不可能管理系統的風險，即使是這些系統的發明者也不確切知道它們是如何工作的，不知道它們有什么能力，也不知道如何限制它們的行為。

　　不可否認，人類從人工智能技術的進步中受益匪淺。但是，如果尖端技術對人類生存構成潛在和不可預測的風險，那么誰來承擔這種毀滅性后果的責任呢？

　　這不僅關乎人工智能的創造者和開發者，還關乎地球上的每個人。

　　所以這封公開信并不完美，但它的寫作精神是正確的。

　　“我們需要放慢速度，直到我們更好地了解后果，”紐約大學教授加里馬庫斯也簽署了這封信，他告訴路透社。

　　我們需要在為時已晚之前更加重視有關人工智能的法規和法律。人類的未來應該由人類決定，而不是由人工智能系統決定。