美國組AI聯盟 支持安全研發、應對風險

發表於 2024-02-09 16:00 作者： 區塊鏈情報速遞pro

美國組AI聯盟，以支持生成式AI的安全研發和部署。（路透資料照）

高佳菁／核稿編輯

〔財經頻道／綜合報導〕拜登政府週四（8日）表示，有多達200家實體加入了新成立的財團聯盟，以支持生成式人工智慧（AI）的安全研發和部署，其中也包括多家領先的AI公司。

《路透》報導，美國商務部長雷蒙多（Gina Raimondo）宣佈，美國人工智慧安全研究聯盟（U.S. AI Safety Institute Consortium，AISIC）包括主要AI企業OpenAI、Google、Anthropic和微軟（Microsoft），以及臉書（Facebook）母公司Meta、蘋果（Apple）、亞馬遜（Amazon）、輝達（NVIDIA）、英特爾（Intel）等公司，以及主要學術機構和政府機構，將隸屬於美國AI安全研究院（USAISI）旗下。

雷蒙多在聲明中指出，美國政府在制定標準和研發所需的工具，以減輕風險和利用AI龐大的潛力方面，可以發揮重要的作用。聯盟的任務是執行拜登10月祭出的AI行政命令中的首要行動，包括制定紅隊演練（red-teaming）指南、能力評估、風險管理以及對合成內容加註。

主要AI公司已在去年承諾，將AI生成的內容添加註記，確保技術更安全。「紅隊演練」長年來一直應用在網路安全領域，用於識別新風險。這一數與最早出現在冷戰，當時是軍隊用來形容模擬的攻擊行動，其中敵方被稱為「紅隊」。

美國商務部12月表示，正在邁出第1步，為AI的安全部署和測試編寫關鍵標準及指南。商務部指出，這一聯盟代表了最大的測試和評估團隊，將專注於為AI安全奠定基礎。儘管拜登政府正尋求保障措施，但美國會針對AI相關立法的推動卻陷入停滯。

標題：美國組AI聯盟 支持安全研發、應對風險

地址：https://www.coinsdeep.com/article/93379.html

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。