微軟AI工具可能生成性暴力圖像 微軟工程師向FTC發出警告

發表於 2024-03-07 16:00 作者： 區塊鏈情報速遞pro

微軟工程師向FTC發出警告，指稱微軟AI工具可能生成性暴力圖像（美聯社資料照）

高佳菁／核稿編輯

〔財經頻道／綜合報導〕AI工具存在隱患！微軟1名軟體工程師週三向美國聯邦貿易委員會（FTC）發出警告，指出公司的人工智慧（AI）系統存在缺陷，他擔心此缺陷可能讓使用該工具的網民，製作很多具嚴重暴力及色情的假視頻。

外媒報導，目前擔任微軟AI產品首席軟體工程師的瓊斯（Shane Jones）指出，選擇在此時，向媒體與FTC發出警告，是因為他很擔心微軟去年3月推出的AI工具Copilot Designer可能會帶來嚴重後果。

瓊斯表示，微軟的Copilot Designer存在系統性問題，經常生成可能具冒犯性或不當的圖像，包括對女性的性物化圖像；儘管已知存在風險，微軟仍將此工具宣傳為安全，甚至適合兒童使用。

他進一步指出，過去3個月一直向微軟反映有關問題，但微軟指示他撤回有關公開信，直接向AI開發商OpenAI反映意見，因為Copilot Designer的核心是OpenAI的DALL-E 3計算模式。

標題：微軟AI工具可能生成性暴力圖像 微軟工程師向FTC發出警告

地址：https://www.coinsdeep.com/article/101654.html

鄭重聲明：本文版權歸原作者所有，轉載文章僅為傳播信息之目的，不構成任何投資建議，如有侵權行為，請第一時間聯絡我們修改或刪除，多謝。