蘋果 AI 總結新聞鬧烏龍，這比「標題黨」更令人擔心

萬萬沒想到，蘋果 AI 也會有被大罵「標題黨」的一天。這對於遲遲沒有推出 Apple Intelligence 完全體的蘋果可不是一個好消息。

實際情況可能比「標題黨」這個不痛不癢的形容詞嚴重得多。如果說標題黨只是通過誇張和斷章取義的手法來博眼球的話，蘋果 AI 的所作所為可以說是「顛倒黑白」。

需要澄清的是，這次「闖禍」的責任完全在於蘋果 AI，跟 ChatGPT 的接入沒有任何關係。

圖源：9TO5Mac

近日，英國廣播公司（BBC）發佈了一系列關於路易吉·曼吉奧內（Luigi Mangione）謀殺美國聯合健康保險公司首席執行官白賴仁·湯臣（Brian Thompson）的新聞和跟蹤報導，提到了其將面臨一級謀殺指控等細節。

然而，BBC 提供的一張截圖顯示，蘋果 AI 總結生成的新聞摘要是「路易吉·曼吉奧內開槍自殺了」（ Luigi Mangione shoots himself）。這與事件的真實走向大相逕庭：據報導，目前他仍被關押在賓夕法尼亞州的監獄中。

太離譜了，錯得太離譜了。

圖源：BBC

針對這一令人啼笑皆非的錯誤，BBC 已經向蘋果正式提出投訴，要求後者要求採取糾正措施，並且防止此類錯誤再次發生。BBC 發言人表示其「致力於實現最高標準的準確性和公正性，並努力避免故意嚴重誤導我們的讀者」。

此外，無國界記者組織（Reporters Without Borders，簡稱 RSF）也敦促蘋果放棄其生成式人工智能功能。該組織表示「虛假標題」事件表明「生成式 AI 服務仍然太不成熟，無法為公眾提供可靠的信息」。

無國界記者組織的技術和新聞部門負責人文森特·伯蒂爾（Vincent Berthier）表示 AI 是概率機器，事實不能通過擲骰子來決定。他還指出《歐洲人工智能法案》並未將信息生成類 AI 歸為高風險系統，留下了「嚴重的法律真空」。

圖源：Engadget

實際上，這不是蘋果 AI 摘要第一次「新聞造假」了。上個月，美國調查新聞網站「ProPublica」的一位名為肯·施文克（Ken Schwencke）的記者在 Bluesky 上分享了一張截圖。

截圖中的第一條新聞赫然寫著「內塔尼亞胡已經被逮捕」（ Netanyahu arrested）。然而，真實的情況是國際刑事法院對以色列總理內塔尼亞胡發出逮捕令。

這篇被蘋果 AI 嚴重歪曲的報導來自《紐約時報》（NYTimes），後者目前並未對此事發表評論。

圖源：Bluesky

蘋果 Apple Intelligence 的智能生成摘要功能於今年下半年正式推出。蘋果的本意，是它能「通過其深度語言理解幫助提煉對你最重要的信息，通知會生成摘要以便你一覽重要詳細信息」。

看來，蘋果所提到的「深度語言理解」似乎水分很大。倫敦城市大學的媒體政策教授佩特路斯·伊奧菲迪斯（Petros Iosifidis）表示蘋果的錯誤「看起來很尷尬」。

伊奧菲迪斯還表示他「對蘋果會推出這樣明顯半生不熟的產品感到很驚訝」。雖然這項技術在未來具有潛在優勢，但是目前「存在傳播虛假信息的真正的危險」。

Petros Iosifidis（圖源：倫敦城市大學）

生成式 AI 技術發展到今天，我們似乎很自然地認為用其來總結一篇文章對於 AI 來講是「小菜一碟」。事實上，大多數 AI 工具在使用時很少會出現「瞎編」的情況，理解有誤或者「斷章取義」的情況倒是比較常見。

除了蘋果之外，Google和微軟等科技企業也在嘗試使用人工智能技術來對新聞進行分類、排序和摘要總結。這類 AI 工具雖然能夠增強用戶體驗，但其在沒有人工干預的情況下一旦出錯，所引發的「誤會」便可能成指數級傳播。

圖源：Medium

本文來自微信公眾號「愛範兒」（ID：ifanr），作者：發現明日產品的，36氪經授權發佈。