ChatGPT之父：監管機構應參與技術測試

ChatGPT之父對AI技術的高速發展充滿擔憂，認為社會各界及監管機構應該共同參與ChatGPT技術的測試。

當地時間3月16日，美國廣播公司新聞頻道（ABC News）報道稱，ChatGPT之父Sam Altman在訪談中表示，人工智能（AI）技術將重塑社會，他認為AI會帶來危險，但也是“人類迄今為止發展出的最偉大的技術”。

Altman是OpenAI的創始人兼CEO，去年11月該公司發布的聊天機器人ChatGPT，在短短兩個月內活躍用戶達到1億，成為歷史上增長最快的消費者應用程序。

本周，OpenAI再次推出新一代大型多模態模型GPT-4，與前代模型相比，其文本處理量擴大至2.5萬個單詞，還增加了圖片處理功能。目前已有多家公司將GPT-4集成至應用程序中，微軟最新發布的AI技術Copilot便是搭建在GPT-4之上。

盡管公司發布的產品取得不小成功，但Altman承認AI潛在的危險性讓他徹夜難眠。

他強調，監管機構和社會各界應盡可能地參與ChatGPT的發布和測試，因為外界的反饋有助于減少該技術對人類造成的潛在威脅。他補充說，自己與政府官員保持“定期聯系”。

“我特別擔心這些模型可能會被用于虛假信息的大規模傳播。”Altman說，“現在它們在編寫代碼方面表現得越來越好，可能會被用于網絡攻擊。”

OpenAI的首席技術官Mira Murati同樣表示，公司選擇將ChatGPT公開發布，主要目的是“收集大量反饋”。

“讓公眾與每個版本的ChatGPT進行互動非常重要。”Altman強調，外界不斷測試OpenAI的各類模型并給予反饋，能夠幫助該公司識別出什么地方需要設置保護措施，幫助其獲知“人們會用AI模型做什么，它還存在什么缺點，如何介入和改進”等信息。

“如果我們在自己的小實驗室里秘密地開發AI模型，制造出GPT-7后，突然將它向公眾開放……我認為這種情況非常糟糕。”Altman說，“（因為）人們需要時間來習慣這項技術，了解它的缺點，并思考對應措施。”

不少科幻題材作品中，常有這樣的恐怖情節，AI產生自我意識，不再受人類控制，并開始策劃統治世界。不過，Altman認為目前AI仍然在人類的控制之下，“它需要有人輸入指令才能完成任務，是一種非常受人類控制的工具。”

他真正的擔憂是，AI技術掌控在哪些人手中，“有人在使用（ChatGPT系列時），不設置安全限制。但我們的社會沒有太多時間去思考如何監管、如何處理這類事情。”

不過，Altman表示，為保證ChatGPT系列模型的安全性，OpenAI建立了政策制定團隊，負責決定將哪些信息能夠輸入ChatGPT，以及ChatGPT能夠與用戶分享哪些信息。

“（我們）正在與政策和安全專家交談，對系統進行審查以解決這些問題。”Altman說道，“再強調一次，我們無法在第一次就做到完美，但吸取教訓并在風險相對較低的情況下找到優勢非常重要。”

隨著技術的高速發展，不少人擔憂自己的工作將會被AI取代。Altman也認為，AI確實可能在不久的將來取代一些工作，并且擔心這件事會很快發生。

“我認為過去幾代人已經證明，人類可以很好地適應重大技術變革，”Altman說，“但我最擔心的是，這些技術在短短幾年內高速發展，會帶來什么樣的轉變。”

盡管存在這樣的擔憂，Altman仍然鼓勵人們將ChatGPT視為一種工具，“人類的創造力是無限的，現在我們找到了新的事情可以做。”

他將ChatGPT比作“量身定制的教育者”，它可以幫助人類學習，或為每個人提供超出其所能獲得的醫療建議。