AI 如此逼真，應該如何分辨？

近來，AI生成的圖片和影片頻繁出現在我們的視野中。

許多曾經需要專業設計師和攝影師才能完成的工作，如今通過幾行代碼和強大的模型就能實現。從廣告創意到影視製作，AI生成的圖片為我們帶來了極大的便利。然而，技術的迅速發展也帶來了一些不可忽視的問題。

比如，假影片和假圖片的出現頻率大大增加。

正如曾引發巨大社會轟動的N號房事件「2.0」，其中涉及的虛假影片讓警方難以追蹤。

通過AI技術，哪怕是一張再平常不過的生活照，不法分子都能將其變成換臉之後的淫穢影片。可怕的是，這其中甚至絕大部分犯罪嫌疑人都是未成年。AI技術上手門檻大大降低，以至於心智不成熟的未成年人以此為樂，絲毫沒有注意到因此帶來的危害，從而造就了這場軒然大波。

還有人換臉成馬斯克進行直播，掛名Elon，擺弄擺弄小火箭，捏捏臉蛋「自證身份」，真假難辨。這同樣也是使用了AI換臉技術DeepFake。

對特朗普、黃仁勳等業界名人的換臉/生圖惡搞，也早已不是什麼稀奇事。

那麼，面對這些真假難辨的視覺內容，你能分辨出哪些是AI生成的嗎？

經過我的測試，我發現了一些好用的 AI 圖片檢測工具，今天分享給大家。

我們先說肉眼如何分辨，再介紹一些 AI 圖片檢測工具。

一、肉眼如何鑒別AI生圖/影片？

事實上，隨著越來越多的圖片、影片誕生，我們似乎已經能從中發現一些關於AI生成的規律。

對於圖像，我們能從以下幾個方面入手：

• 不自然的細節：手指數量錯誤、不對稱的眼睛、耳朵形狀怪異等細節可以反應圖像是生成的。比如，之前某模型與「沙灘」有關的生成烏龍。

• 光影不合理：多個光源導致的光線和陰影不一致，或者陰影方向不符合物理規律。

• 邊緣模糊或銳化過度：AI生成圖像在複雜物體或背景的邊緣區域，常常表現出模糊或者過度銳化的現象，特別是在人物頭髮、物體輪廓處。

• 畫風突變：某些區域的風格與整體圖像不匹配，比如寫實風格的場景中，可能某個物體突然顯得非常卡通化或抽像化。

• 水印或生成工具標誌：部分生成工具會在圖像中嵌入水印或標誌，例如DALL-E會嵌入隱形水印，可以通過檢測工具識別。

對於影片，我們同樣能找到一些規律：

• 不自然的動作或表情：AI生成的影片在角色動作、面部表情上可能出現卡頓、扭曲，或幀與幀之間的運動銜接不流暢。

• 奇怪的劇情：AI生成影片可能在前後一致性上存在缺陷，可能經常會出現「牛頭不對馬嘴」的情況，當然，很多網民也利用這個無厘頭的特性進行惡搞。

• 重覆性動作或背景：AI生成的影片中，有時會出現重覆的動作或背景元素，尤其是在大場景或連續運動的背景中，可能會有顯得機械化的重覆。

• 邏輯性和物理規律缺失：AI生成的影片可能在動作連貫性、物理運動（如重力、速度）上出現偏差，場景中物體的行為不符合常見的物理規律，顯得不自然。

二、用AI工具檢測AI生成

除開用肉眼判斷，我們是否有一些工具可以輔助我們判斷AI生成呢？

答案是有的。這裏我找到了很多可以用於檢測的工具或網站，經過實際測試，部分網站的檢測效果不佳，比如illuminarty，連很明顯的AI生成圖片都只檢測出了2%的概率..意思是，這玩意大概率是人工出圖。

僅僅是對於藝術風格比較明顯的圖片，illuminarty 才能給出比較保守的47%概率。

很顯然 illuminarty 不太行。

經過測試，以下兩個網站是檢測成功率比較高的，可以使用。

1、AI or Not

這個網站需要登陸，不知道是不是我的網絡環境問題，進入檢測頁面的過程比較曲折。

不過實際檢測出來的正確率還是蠻高的，檢測的速度也很快。

除了這張「質檢員」照片，AI or Not 給出了Unkown的未知分析。其餘情況下，在 civitai 站找的AI生成圖片，工具基本上都能識別出AI生成。

網址：

https://www.aiornot.com/dashboard/home

2、Advanced AI Image Detector

這是一個可以直接上傳圖片進行檢測的項目。無需登錄，直接把本地的圖片或是URL上傳即可。

我們上傳一些看起來就是AI生成的圖片讓項目幫助我們檢測：

結果不錯，工具判斷這幅圖片有81%的可能性是AI生成的。終於有一個網站通過質檢了！

這種畫風清奇，實在是很難聯想到真實存在的圖片，檢測工具也是絲毫不手軟，直接鎖定了72%的AI生成可能性。

不過對於這種非常逼真的換臉，工具便有些捉摸不定了。圖上的細節較少，模仿的也僅僅是表情。工具很保守的給出了 38% 的概率。說實話，如果不說這是換臉模仿表情，你能分辨出來這是 AI 生成的嗎？

網址：

https://brandwell.ai/ai-image-detector/

AI 生成的圖片和影片技術為內容創作帶來了無限可能，但同時也引發了真實性與道德問題。掌握辨別 AI 生成內容的方法，尤其是在信息爆炸的時代至關重要。

整體來說，對於直接 SD 或者 MJ 生成的圖片，這類內容檢測準確率還不錯，但是對於 AI 換臉的效果，AI 檢測準確率比較低。