25位世界頂尖科學家呼吁：采取更強有力行動防范AI風險
當以后的人們為人工智能（AI）撰寫一部編年史時，這可能是一個里程碑。因為這是人類第一次由一個龐大的國際頂尖專家組，就先進AI的風險推進全球政策制定。人們已清晰認識到：我們離不開AI，亦需要大力推動AI技術發展，但我們必須有能力防范其中的風險。文章截圖：《科學》網站自6個月前在英國布萊奇利公園舉行第一屆AI安全峰會以來，世界各國領導人承諾以負責任的方式管理AI，但是AI專家認為這依然不夠。隨著第二屆AI安全峰會（5月21日至22日）在韓國首爾舉行，25位世界頂尖AI科學家呼吁，全世界應對AI風險采取更強有力的行動。發表于《科學》雜志的一份專家共識文章中，專家組概述了全球應采取的緊急政策優先事項。文章作者之一、英國牛津大學工程科學系教授菲利普·托爾表示：“在上屆AI峰會上，世界一致認為我們需要采取行動，而現在是時候將模糊的建議轉變為具體的承諾了。”安全性研究嚴重匱乏這25位全球頂尖的AI及其治理專家來自美國、中國、歐盟、英國和其他A......閱讀全文
用AI識別AI：西湖大學研究可檢測AI生成文本
虛假新聞、惡意產品評論、剽竊……ChatGPT、 GPT-4等AI大語言模型的應用帶來便利，但其誤用也帶來一系列問題。西湖大學工學院張岳教授的“文本智能實驗室”日前發布的一項研究提出一種高準確率、高速、低成本、通用的新文本檢測方法——Fast-DetectGPT，無需訓練即可識別各種AI大語言模型生
ChatGPT的拷問：何為AI倫理、AI治理
前不久，AI聊天機器人程序ChatGPT席卷全球，完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用，ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各界關注與擔憂。近年來，不少關于人工智能（AI），并和人類生產、生活關系緊密的議題被廣泛討論，諸如“如何應對AI可能對社會產生
“AI+”時代－|－AI“解碼”免疫系統
人體免疫系統包含了很多有關身體健康的信息，其中的關鍵部分就包含在血液中。醫學界提出了一個大膽設想：通過創建一個萬能的血液測試，采集免疫系統與病原體之間的反應信息，繪制“免疫圖譜”，從而解碼免疫系統中的信息，及時在疾病惡化前篩查確診。那么，什么樣的平臺能提供足夠的計算力，不斷通過機器學習和精準模型
ChatGPT的拷問：何為AI倫理、AI治理
原文地址：http://news.sciencenet.cn/htmlnews/2023/2/494707.shtm 前不久，AI聊天機器人程序ChatGPT席卷全球，完成了AI第一次大規模的自傳播。作為人工智能領域的現象級應用，ChatGPT可能引發的信任、責任、倫理、法律等問題也很快引發各
AI“參謀”來了！中關村AI新藥研發平臺落成
12月19日，由中關村生命科學園與角井（北京）生物技術有限公司共同發起建設的中關村AI新藥研發平臺在北京中關村生命科學園舉行落成典禮。該平臺于2020年12月開始籌建，旨在利用人工智能技術幫助制藥企業快速進行藥物靶點發現和篩選、藥物作用機制探索、特異性抗體優化等工作，成為生物醫藥企業新藥研發的
為什么越使用AI，越活得像個AI
生成式人工智能（AIGC）在重塑生產力的同時，也給高等教育領域帶來了顛覆性變革。然而，它所具有的“技術雙面性”很可能引發“流利但不真實”“道德偏見”“技術依賴”等問題，這將影響高等教育場景。2023年初，全球多所高校陸續出臺政策禁止學生使用生成式AI，但越來越多的大學開始意識到生成式AI勢不可擋，單
亞馬遜云推出AI代理功能，讓AI成為助理
Amazon Bedrock的Agents（代理）功能將使公司能夠構建可以自動執行特定任務的AI應用程序，例如預訂餐廳，而不僅僅是得到去哪里吃飯的建議。 “很多人都如此聚焦于這些模型和模型的大小，但我認為真正重要的是如何利用它們構建應用，這也是今天發布代理（Agents）功能的一個重要原因。”
“氏無界·AI無疆”醫療AI成果轉化行動啟動
原文地址：http://news.sciencenet.cn/htmlnews/2024/1/516109.shtm
“AI成龍”遇冷，AI數字人在影視業不靈？
影視業成為“粗制濫造”的標簽?近日，影視巨星成龍主演、大量使用了人工智能（AI）數字人技術的電影《傳說》登陸大熒幕，卻遭遇了票房與口碑的雙失利。截至7月20日，豆瓣評分5.3，上映10天累計票房不到8000萬元。顯然，“AI成龍”遭到了冷遇。“AI成龍”本是《傳說》這部電影的賣點。據介紹，為了劇情需
AI－耗電超出預期，未來－AI－進展或依賴能源突破
據 technews 報道，由于 AI 消耗電力將遠遠超出人們預期，OpenAI 執行長 Sam Altman 認為，未來 AI 發展需要尋求能源突破。Sam Altman在彭博社于達沃斯世界經濟論壇（World Economic Forum）期間舉行的座談活動中談道，對氣候友善的能源，特別是核融合
AI也分級？清華教授推動全球首個AI《分級定義》
AI對話系統發展歷程 高凱 攝 28日，由清華大學計算機教授、智能技術與系統實驗室副主任黃民烈發起，聯合了十余家科研機構、二十多位知名學者共同制定的全球首個《AI對話系統分級定義》(以下簡稱《分級定義》)正式發布，《分級定義》將推動AI對話系統在虛擬個人助理、智能家居、智能汽車(車載語音)、情
用AI生成數據訓練AI或導致模型崩潰
《自然》24日正式發表的一篇研究論文指出了一個人工智能（AI）嚴重問題：用AI生成的數據集訓練未來幾代機器學習模型，可能會嚴重“污染”它們的輸出，這被稱為“模型崩潰”。研究顯示，原始內容會在9次迭代以后，變成不相關的“胡言亂語”（演示中一個建筑文本最終變成了野兔的名字），這凸顯出使用可靠數據訓練
AI答題勝過真人
近日一項發表于《公共科學圖書館-綜合》的研究發現94%的使用ChatGPT創建的大學考試答案，不會被檢測出是由人工智能（AI）生成的，而且這些答案的得分往往比真實學生的更高。如今，人工智能（AI）技術的興起和發展，如ChatGPT的誕生，對教育部門提出了一個根本性問題，即學校許多形式的評估，都是在沒
AI答題勝過真人
近日一項發表于《公共科學圖書館-綜合》的研究發現94%的使用ChatGPT創建的大學考試答案，不會被檢測出是由人工智能（AI）生成的，而且這些答案的得分往往比真實學生的更高。如今，人工智能（AI）技術的興起和發展，如ChatGPT的誕生，對教育部門提出了一個根本性問題，即學校許多形式的評估，都是在沒
中國AI論文數量世界居首，美國AI系統遙遙領先
原文地址：http://news.sciencenet.cn/htmlnews/2023/4/497845.shtm當地時間4月3日，由美國斯坦福大學以人為本AI研究院（HAI）發起、學術界聯合工業界組成的跨學科小組共同編制的“2023人工智能指數（AI Index）報告”（以下簡稱“斯坦福 AI
《自然》封面：以AI生成數據訓練AI，模型變傻？
大模型有許多“崩”的時候，但有一種崩潰叫做“自毀前程”—— 近日，《自然》發表在封面的一篇論文指出，用AI生成的數據集訓練未來幾代機器學習模型，可能會“污染”它們的輸出。這項由英國牛津大學、劍橋大學、帝國理工學院、加拿大多倫多大學等多所高校聯合開展的研究顯示，原始內容會在數代內變成不相關的“胡
txyz.ai初探EAD奧義:－AI釋讀7600系統新進應用
SCIEX高分辨質譜 ZenoTOF??7600 系統自2021年發布以來，各種學科的科學家利用其新型的電子活化解離(Electron Activated Dissociation, EAD)技術結合Molecule Profiler和Biologics Explorer等數據處理軟件，在生物藥、脂
AI有感情嗎？舞劇《深AI你》登陸國家大劇院
原文地址：http://news.sciencenet.cn/htmlnews/2023/8/507297.shtm8月25日至27日，由中共深圳市委宣傳部、深圳市文化廣電旅游體育局出品的舞劇《深AI你》登上國家大劇院舞臺。作為國內首部人工智能題材舞劇作品，《深AI你》帶來一場科技魅力和人文思考的雙
新刊NEJM－AI上線，“AI在醫療領域的應用才剛起步”
經過1年多精心準備，NEJM AI第一期今晨正式上線（ai.nejm.org）。我們在此發表該刊主編Isaac Kohane教授撰寫的社論。 Kohane教授和該刊常務主編Charlotte Haug博士曾多次參加NEJM集團與J-Med共同主辦的AIMS年會。 在Kohane教授看來，“無
從AGI到AI4S，“AI愛因斯坦”還遠嗎？
“通用人工智能的最高體現之一就是理解復雜世界、發現未知規律，就是打造‘AI愛因斯坦’，這也是AI for Science的關鍵目標。”7月4日，在“人工智能：科研范式變革與產業發展”主題論壇上，上海科學智能研究院院長、復旦大學浩清特聘教授漆遠講述了他對于通用人工智能（AGI）和科學智能（AI4S）的
日本擬設“AI戰略會議”
原文地址：http://news.sciencenet.cn/htmlnews/2023/5/500318.shtm 中新網5月10日電 據日本共同社報道，日本首相岸田文雄9日透露了方針，擬設置磋商制定利用人工智能(AI)相關規則等的“AI戰略會議”。 據報道，岸田當天在官邸與研究人員和創業
AI如何改變醫療未來？
眾所周知，由于數字革命，數字技術解放了廣大醫生、護士和研究人員，醫護工作者可以將更多的精力放在更高層次的認知任務和患者護理上，而人工智能的使用，勢必將此提升到新的水平。圖片來源于網絡 隨著人工智能技術不斷進步，它有望在三個關鍵領域增強人類的思維力量：高級計算、統計分析和假設生成。這三個領域對應
谷歌評估AI“問診”能力
原文地址：http://news.sciencenet.cn/htmlnews/2023/7/504895.shtm
啤酒味道，AI知道
一種可以根據啤酒的化學成分預測其味道的人工智能，可以幫助人們制造出味道和普通啤酒一樣卻不含酒精的啤酒。相關研究成果近日發表于《自然-通訊》。在人工智能的幫助下，只用少量原料就能釀造出各種各樣的啤酒。圖片來源：Kutredrig/Getty Images從化合物中預測味道是很困難的，因為成分和味覺心理
AI打敗人類？人類完了
30日刊載美國科研成果網報道的《你比人工智能聰明嗎？計算機語言模型在智商測試中勝過人類》。文章摘要如下： 美國加利福尼亞大學洛杉磯分校的研究人員發現，在衡量智力的一系列推理測試中，自回歸語言模型“生成型已訓練變換模型3”(GPT-3)的成績明顯優于普通大學生。該程序利用深度學習生成類似人類語言
用AI“復活”奶奶之后
原文地址：http://news.sciencenet.cn/htmlnews/2024/3/519956.shtm編者按2024年一開春，兩條有關數字人的新聞引發熱議：一是商湯科技已故創始人、知名人工智能（AI）科學家湯曉鷗的數字人“現身”公司年會；二是臺灣地區音樂人包小柏借AI技術“復活”亡女。
權威AI基準評測發榜
6月30日，全球權威AI基準評測MLPerf最新V2.0訓練評測成績榜單公布。浪潮AI服務器表現優異，繼兩月前在MLPerf V2.0數據中心推理評測中斬獲全部冠軍后，本次又在MLPerf V2.0單機訓練性能繼續保持領先。 據了解，本次MLPerf 評測吸引了包括谷歌、NVIDIA、浪潮信息
AI用單次X光預測心臟病風險
美國研究人員開發了一種深度學習模型，該模型使用單次胸部X光片就能預測心臟病發作或中風在10年內死亡的風險。在29日召開的北美放射學會（RSNA）年會上公布了相關研究成果。 深度學習是一種高級類型的人工智能，可訓練它來搜索X射線圖像，以找到與疾病相關的模式。研究論文主要作者、馬薩諸塞州心血管影像研
生成式AI時代，大模型數據安全如何保障？
在生成式AI（人工智能）時代，數據安全的出路可能會是“用魔法打敗魔法”，知識產權保護也可能要提前到token（字符串）層面。4月26日，在2024中關村論壇上，人工智能企業與學者就AI大模型的數據安全問題進行了討論。中關村論壇數據安全治理與發展論壇現場? 澎湃新聞記者 秦盛 攝“在生成式人工智能時代
AI是否會超越人類？丘成桐：AI不會代替人類思維
近代物“人工智能（AI）是否會超越人類最優秀數學家？”對此，數學家、國際基礎科學大會主席丘成桐表示，從目前來看，人工智能無法識別幾何背后的定律，更無法識別數學與其他科學之間的關聯，人工智能不會代替人類思維。 在7月24日舉行的首屆基礎科學大會青少年專場活動“科學家面對面”中，一批來自高中和大學