回應白宮AI安全承諾 Meta推首個語言模型評測工具

發表於 2023-12-08 16:00 作者： 區塊鏈情報速遞pro

Meta推出業界第一套針對大型語言模型的網路安全評測工具。（美聯社檔案照）

〔記者徐子苓／台北報導〕Meta的開源語言模型Llama下載數量突破1億次，為了建立對開發者的信任，Meta今天宣布推出「Purple Llama」，將匯集各類評測方式與工具，幫助開發者負責任地運用生成式人工智慧（AI）模型建構服務。

為什麼選擇紫色（Purple）？Meta表示，引用資安領域的概念，為了應對生成式AI帶來的挑戰，需要同時模擬攻擊（紅隊）與防禦（藍隊）的模式，紫隊便是由紅隊及藍隊協作組成，同時考量評估風險與減輕潛在威脅的作法。

Meta推出業界第一套針對大型語言模型的網路安全評測工具，這些標準是基於產業指南和規範，並與Meta的安全專家合作建構而成。

Meta表示，透過Purple Llama的初始版本，以應對向白宮做出的安全承諾中概述的風險，包括：量化大型語言模型網路安全風險的指標、評估不安全程式碼建議發生頻率的工具、評估使大型語言模型難以產生惡意程式碼或協助網路攻擊的工具。

生成式AI ChatGPT去年爆紅以來，各界關注AI的發展與風險，美國總統拜登今年7月在白宮和科技巨頭舉行會議，包含亞馬遜（Amazon）、谷歌（Google）、臉書母公司Meta、微軟（Microsoft）等企業高層，在會中允諾實施一系列自我監管的安全措施。

標題：回應白宮AI安全承諾 Meta推首個語言模型評測工具

地址：https://www.coinsdeep.com/article/72768.html

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。