人類與機器人將會怎樣？人工智能可能是最大滅絕風險

　　近日，大眾汽車新生產線上的安裝機器人將一名技師抓住并按壓致死事件，觸動了公眾的神經。盡管專家稱目前機器人尚未發展到主動攻擊人類的水平，人為操作失誤的可能性更大（見科技日報7月3日1版報道）。但人類面對機器人，會不會面臨一場控制危機的話題？引發人們關注。

　　“傳統”看法認為，如果我們能夠做到謹慎地監控、管制和引導機器人技術的發展，那么機器人將是可控制的。

　　然而，近幾十年來，在不少科幻小說或電影中，都出現了人工智能機器拒絕服從人的命令，甚至殺死或控制人的場景。設若科幻小說或電影場景變成現實的話，人類與機器人的關系將會怎樣？

　　在學術界，關于人工智能可能性的探討，或者說機器（非生物系統）是否能夠跟人類媲美乃至超越人類的智慧，一直也有著很多激烈的爭論。比如：我們有理由相信無機生命（機器）會發展出與有機體類似的生存和競爭意志嗎？有朝一日機器會不會自己設計、制造并操作不遵循人類準則的新型機器？而屆時我們很可能沒有任何辦法來避免這一可能性的發生。

　　2014年，包括斯蒂芬·霍金、比爾·蓋茨、埃隆·馬斯克在內的一些著名人士都提出：如果智能機器缺乏監管，人類將迎來一個黑暗的未來；人工智能可能是我們面臨的最大滅絕風險。

　　為什么會有這樣的擔憂？

　　有學者認為，一旦機器擁有了像人類一樣的設計和架構技能，僅僅更快的速度和更大的容量就可以使它們對自己的設計（源碼）進行操控。機器智能在反饋循環中不斷提高自己的能力，出現“智能爆發”，并將遠遠超出無機器輔助的人類智能。到了那個時候，人類對情感的理解能力，以及作出適當反應的能力（所謂的情商）——這些人類智慧的重要表現，也將被未來的機器智能理解并掌握；人類的世界終將被人工智能的世界代替，人類將會面臨一場控制危機。

　　當然，也有人認為這一切都是危言聳聽、杞人憂天，機器人永遠也不可能超越人的智能。我們現在連理解一個老鼠的神經行為，從而來模擬老鼠的行為都做不到，何談通過計算機來模擬人類的行為，進而完全理解人類行為的一切原理？

　　真正的問題或許是：當科技加速發展，使機器具有更多的智能時，我們并不知道哪里是危險的邊緣。更重要的一點在于，我們再不能以看待過去的視野，去理解必將超越它的事物了。