ChatGPT背後的非洲血汗工:判讀「暗網殘虐內容」、時薪不到 2 美元

發表於 2023-02-14 20:00 作者: 區塊鏈情報速遞pro

被譽為 2022 年最具創新性的人工智慧應用 ChatGPT,卻有著鮮為人知的黑暗面;據《時代雜誌》在今年 1 月 18 日的報導指出,OpenAI 僱用了時薪不到 2 美元的肯亞外包勞工來訓練 ChatGPT,這些勞工因長時間接觸色情與殘酷內容的字句文本,而留下心理創傷。 (前情提要:不服ChatGPT!Google高管警告 : AI 聊天機器人會產生「錯覺」陷阱 ) (背景補充:Google 的 AI 機器人「Bard」糗秀錯誤答案!股價蒸發千億美元、跌逾7% )

 

譽為 2022 年最具創新性的人工智慧應用 ChatGPT,可以生成幾乎任何主題的文本、圖像、視頻,該技術協助人類的工作效率大幅提升,更是僅用 3 個月的時間,成為史上增長速度最快的應用;然而,在 ChatGPT 掀起的這場人工智慧革命和資本市場狂歡的背後,卻有著鮮為人知的黑暗面。

據《時代雜誌》於 1 月 18 日的報導指出,OpenAI 僱用了時薪不到 2 美元的肯亞外包勞工來訓練 ChatGPT,他們負責的工作是對龐大的數據庫手動進行數據標註,被稱為「數據標註員」;這份工作除了薪資被剝削外,也需長時間接觸性虐待、獸交、酷刑和亂倫等文本,因此留下心理創傷。

清除暴力、性別歧視和種族主義等言論

訓練人工智慧模型需要龐大的數據庫,ChatGPT 的前身 GPT-3 語言模組藉由網路上數千億個單詞進行訓練,展現出令人印象深刻的字句串連能力,但 GPT-3 不具備清除惡意資訊的能力,而被用戶詬病會得到與暴力、性別歧視和種族主義相關的回覆,因此技術團隊標記惡意言論的標籤和模型相當重要。

據《時代雜誌》報導,為了獲得這些語法標籤,OpenAI 從 2021 年 11 月委託肯亞的一家外包公司 Sama ,並發送數萬個文本片段讓其員工進行標記,其中大部分文本似乎從暗網中提取,內容包括兒童性虐待、獸交、謀殺、自殺、酷刑、自殘和亂倫等可怕內容。

Source:Unsplash

有道德的 AI 公司,但外包時薪不到 2 美元

OpenAI 在肯亞的外包合作夥伴 Sama,這是一家總部位於舊金山的公司,在肯亞、烏幹達和印度僱用員工為 Google、Meta 和微軟等矽谷客戶標記數據,並自詡為一家「有道德的 AI」公司,並聲稱已幫助 50,000 多人擺脫貧困

自詡為有道德的 AI 公司。Source:Sama blog

Sama 在訓練 ChatGPT 的項目中,大批僱傭了時薪不到 2 美元的肯亞勞工,他們所負責的工作是對龐大的數據庫手動進行數據標註。據《時代雜誌》採訪的三名員工表示,他們在 9 個小時的工作時間內,要閱讀和標註 150~200 段文本,這些文本的範圍從 100 個單字到 1000 多個單字不等;計算後,平均每小時他們最多要閱讀和標註超過 2 萬個單字

另《時代雜誌》 在審查了內部文件後指出,OpenAI 在 2021 年底與 Sama 簽署了三份總價值約 20 萬美元的合約,專為性虐待、仇恨言論和暴力等惡意內容進行標記;合約規定,OpenAI 將為該項目向 Sama 支付每小時 12.5美元的報酬,但數據標註員的實際時薪卻僅有 1.32 美元至 2 美元之間(約新台幣 39.9 元 ~ 60.5 元),具體時薪取決於資歷和表現。

Sama 的發言人對於數據標註員的工作內容和薪資問題也有話要說:

數據標註員被要求每 9 小時輪班標記 70 篇文本,而不是最多 250 篇,而且工人稅後每小時的收入在 1.46 美元到 3.74 美元之間。

該項目 12.50 美元的費率涵蓋了所有成本,例如基礎設施費用,以及員工及其全職質量保證分析師和團隊負責人的工資和福利。

心理治療師形同虛設?標記員留下精神創傷

《時代雜誌》 也採訪了參與 ChatGPT 項目的四名 Sama 員工,均表示這項工作讓他們在精神上留下了創傷;其中一位負責為 OpenAI 閱讀和標記文本的工作人員表示,他在閱讀了一名男子在幼兒在場的情況下與狗發生性關係的文本後,反覆出現幻覺。他表示:

那是一種折磨,整個星期你都會讀到很多這樣的內容,週五放假的時候,你會因為想到那張照片而感到不安。

雖然數據標註員有權參加「健康顧問」的會談,但採訪中的四人都表示,由於工作效率的高度要求,很難有機會參加這些會談,兩人說他們只能選擇參加小組會談。

Sama 的發言人對此說法不贊同,並表示:

這些說法是不正確的。員工有權與受過專業培訓並獲得許可的心理治療師進行個人和小組會談,這些治療師隨時都能讓員工聯繫。

OpenAI 與 Sama 結束合作關係

據《時代雜誌》報導,2022 年 2 月,Sama 開始為 OpenAI 的另一個項目進行試點工作,但工作內容根據美國的法律是非法的,儘管這項試點工作似乎與 ChatGPT 無關,但僅僅在幾週之內,Sama 就取消與 OpenAI 的所有合作項目,比合約中的約定時間提前了 8 個月。

Sama 在一份聲明中稱,其為 OpenAI 收集的圖像協議中不包括任何涉及非法的內容,直到相關工作開始後,OpenAI 才發來「附加指示」,提到了「一些非法的類別」,隨後東非團隊立即向 Sama 高管提出擔憂,並且結束此試點項目。

ChatGPT 閃耀的背後是依賴全球最廉價的勞動力,這些數據標註員被大幅剝削且留下精神創傷,卻鮮為人知,近期才藉由 OpenAI 與 Sama 的事件,順勢揭露人工智慧仍須依賴大量勞動力的黑暗事實。

?相關報導?

NEAR發推「Crowd是最早的AI加密應用」已運行兩年,代幣暴漲 20%

ChatGPT注入特斯拉血統》自動駕駛之父Andrej Karpathy宣布加入OpenAI

OpenAI 創辦人「曾發幣」!掃眼空投項目Worldcoin,野心比ChatGPT還大

Tags: AIChatGPTOpenAISama數據標註員

標題:ChatGPT背後的非洲血汗工:判讀「暗網殘虐內容」、時薪不到 2 美元

地址:https://www.coinsdeep.com/article/10377.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。

你可能還喜歡
熱門資訊