怕AI毀滅人類!OpenAI成立「算力防衛隊」,預防核爆、生化攻擊、AI自我複製等災難
發表於 2023-10-28 20:01 作者: 區塊鏈情報速遞pro
隨著 AI 的技術越來強大,引發眾多人士的一系列擔憂。AI 龍頭公司 OpenAI 宣布正在組建新的團隊,以降低與 AI 相關的「災難性風險」。 (前情提要:美國SEC主席:AI人工智慧可能對未來金融構成重大系統風險) (背景補充:傳ChatGPT-5年底推出!OpenAI放話:智慧遠超人類,可能對世界帶來巨大風險)
基於大型語言模型(LLM)的人工聊天機器人 ChatGPT 在 2022 年 11 月底橫空亮相後,引爆了全球的 AI 熱潮,也讓開發商 OpenAI 聲名大噪,估值不斷隨漲船高,在今年第三季度飆漲至 800 億至 900 億美元之間,成為世界上最有價值的私人公司之一。
OpenAI 正組建新團隊
然而,隨著 AI 的技術越來強大,也引發眾多人士的一系列擔憂。
對此,OpenAI 在美國時間週四(26 日)宣布,正在組建名為「準備(Preparedness)」的新團隊,以降低與 AI 相關的「災難性風險」,並交由麻省理工學院(MIT)的可部署機器學習中心主任 Aleksander Madry 來主導。
為了最小化這些前沿 AI 系統可能衍生的風險,OpenAI 進一步解釋成立新團隊的主因:
我們深信前沿 AI 模型的能力將超過目前最先進的現有模型,並可能造福全人類,但它們也帶來了越來越嚴重的風險。 團隊將努力減輕核威脅、生物、化學和放射性威脅等一系列 AI 可能引發的重大風險,以及 AI「自我複製」等行為帶來的潛在風險。
此外,新的 Preparedness 團隊還將針對各種前沿模型來進行能力的評估與紅隊測試,包括 OpenAI 在不久的將來所開發的模型,以及那些具備人工通用智能(AGI)能力的模型,以追蹤、預測及防範各類別的災難性風險。
美國政府也害怕 AI 危及國安
事實上,自 AI 推出並逐漸開始普及以來,不乏陸續有專業人士跳出警告 AI 對人類滅亡和道德..等相關風險。
早前,美國總統拜登也曾與微軟、 Google 、OpenAI、Anthropic 等 4 家龍頭 AI 公司老闆會面,明確要求這些公司的產品在部署前,應確保安全無虞。當時拜登向這些公司的高管強調:
我們必須緩解 AI 對個人、社會和國安構成的既有與潛在風險。
標題:怕AI毀滅人類!OpenAI成立「算力防衛隊」,預防核爆、生化攻擊、AI自我複製等災難
地址:https://www.coinsdeep.com/article/59248.html
鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。