OpenAI 影片生成模型「Sora」太強...

首頁
資訊
OpenAI 影片生成模型「Sora」太強，造假影片要氾濫了？學4招辨識真假、看破Deepfake

OpenAI 影片生成模型「Sora」太強，造假影片要氾濫了？學4招辨識真假、看破Deepfake

發表於 2024-02-16 17:01 作者：區塊鏈情報速遞pro

隨著人工智慧（AI）技術的發展，我們越來越難判斷流傳於網路中的圖片和影片是否是由 AI 製作而成，這也給有心之人留下了作惡的可乘之機。本文整理有哪些方法能夠幫助辨別影片或圖像真偽。（前情提要：AI破解KYC！生成假證件騙過數間加密交易所，代價僅15美元加密貨幣）（背景補充：騙太大！高雄阿公梭哈「AI買幣機器人」大賺2245萬，出金才知一場空）

本文目錄

就在今（16）日凌晨，OpenAI 在Ｘ上推出一款新生成影片模型「Sora」，可根據文字提示、或是靜態圖片生成長度一分鐘的短影片。儘管目前尚未向市場推出，但其釋出的範例影片品質和細節真實度已轟動社群，甚至有網友表示這足以撼動整個影視產業。

但隨著 AI 生成影片工具越來越成熟，用該技術作惡的事件也層出不窮。例如上個月底，美國天後級歌手泰勒絲（Taylor Swift）就遭人惡意製作出深度偽造（Deepfake）的色情圖片，並在社群上廣為流傳，甚至驚動美國白宮敦促國會立法遏制該現象。

在擁抱新技術的同時，我們最好也要學習如何辨別影片真偽，尤其在詐騙猖獗的幣圈，才能更加安全的保護自己的資產，因此下文動區歸納了分辨 AI 影像的四種常用方法。

儘管由 AI 生成的影像越來越逼真，但若仔細觀察，仍能看出一些端倪：

異常或不自然的細節：

在 AI 生成的影像中，人物的臉部特徵、手指、耳朵等細節可能會出現異常。例如，臉部對稱性可能失調，眼睛大小不一，或者嘴脣的形狀看起來不自然。
在人物描繪方面，AI 有時會在身體比例上犯錯，如手臂過長或過短，手指數量不對等。
對於自然風景或物體，AI 可能會生成看似不合邏輯或物理法則的元素，例如水流的方向看起來不合理，或者樹木和建築物的比例看起來扭曲。
文字錯誤也是一個標誌，例如在標誌或背景中出現的文字可能會模糊不清或毫無意義。

紋理和圖案的重複：

AI 生成的影像在處理複雜的紋理和圖案時可能會展現出顯著的重複模式。例如，在天空、草地、水面或布料的紋理中，可能會看到幾乎相同的圖案重複出現。
在人物的衣物或背景的牆壁紙等處，也可能出現這種重複性。這種重複通常是因為 AI 在生成這些細節時，使用了有限的參考模式。
在一些複雜的場景中，如擁擠的街道或花園，AI 可能會在不同區域重複相同的物體或植物，這在自然攝影中是不常見的。

光影和顏色的不一致：

光線和陰影處理是 AI 生成影像中的一個常見問題。在自然光線下，物體的陰影應該與光源的方向一致。然而，在AI 生成的影像中，陰影有時會與假定的光源方向不匹配。
顏色的不一致也是一個指標。AI 可能會在影像的不同部分使用不協調或不自然的顏色。例如，同一影像中的天空可能出現不自然的顏色變化，或者人物的皮膚色調在不同區域出現明顯差異。
另外，AI 有時也會在處理反光或透明物體（如玻璃和水）時出現問題，導致這些元素看起來不真實或位置不正確。

使用專業工具進行分析

目前有部分公司已研發相關檢測技術。像是 Google 和 ElevenLabs 就研發出了能檢測內容真偽的技術、McAfee 也推出能辨識由 AI 生成的工具，可以幫助識別出 AI 生成的特徵。

Adobe Photoshop 的內容真實性工具：Adobe Photoshop 最近推出的功能包括能夠追蹤和驗證數位內容的來源。這些工具能幫助用戶了解影像的編輯歷史和來源，從而判斷其真實性。
逆向搜尋引擎：如 Google 影像搜尋、TinEye 等逆向影像搜尋工具，可以用來查找影像的來源和其他出現該影像的地方。這有助於確定影像是否被 AI 修改或生成。
專業影像分析軟件：一些更專業的工具，如 FotoForensics，提供了進階的數據分析功能，包括錯誤級分析（ELA）等，這些可以揭示數位照片的修改痕跡。
數位取證工具：如 Amped Authenticate，這類工具專門用於數位影像取證，提供廣泛的分析，包括文件分析、像素分析等，以識別影像的修改或生成。
深度假冒檢測平台：專門針對深度假冒（deepfakes）的檢測工具，如 Deepware Scanner，這些平台使用專門的算法來識別由 AI 生成的臉部和語音模仿。

總而言之，要判斷一個影片的真偽可從多個因素切入，最重要的是對你所接收到的內容真實抱有警覺性，可尋找更多資訊來進一步驗證。