蘋果AI 總結新聞鬧烏龍，這比「標題黨」更令人擔心

本文來自微信公眾號：愛範兒 （ID：ifanr），作者：範津瑞，題圖來自：AI生成

萬萬沒想到，蘋果AI也會有被大罵「標題黨」的一天。這對於遲遲沒有推出Apple Intelligence完全體的蘋果可不是一個好消息。

實際情況可能比「標題黨」這個不痛不癢的形容詞嚴重得多。如果說標題黨只是通過誇張和斷章取義的手法來博眼球的話，蘋果AI的所作所為可以說是「顛倒黑白」。

需要澄清的是，這次「闖禍」的責任完全在於蘋果AI，跟ChatGPT的接入沒有任何關係。

近日，英國廣播公司（BBC）發佈了一系列關於路易吉·曼吉奧內（Luigi Mangione）謀殺美國聯合健康保險公司首席執行官白賴仁·湯臣（Brian Thompson）的新聞和跟蹤報導，提到了其將面臨一級謀殺指控等細節。

然而，BBC提供的一張截圖顯示，蘋果AI總結生成的新聞摘要是「路易吉·曼吉奧內開槍自殺了」（Luigi Mangione shoots himself）。這與事件的真實走向大相逕庭：據報導，目前他仍被關押在賓夕法尼亞州的監獄中。

太離譜了，錯得太離譜了。

針對這一令人啼笑皆非的錯誤，BBC已經向蘋果正式提出投訴，要求後者要求採取糾正措施，並且防止此類錯誤再次發生。BBC發言人表示其「致力於實現最高標準的準確性和公正性，並努力避免故意嚴重誤導我們的讀者」。

此外，無國界記者組織（Reporters Without Borders，簡稱RSF）也敦促蘋果放棄其生成式人工智能功能。該組織表示「虛假標題」事件表明「生成式AI服務仍然太不成熟，無法為公眾提供可靠的信息」。

無國界記者組織的技術和新聞部門負責人文森特·伯蒂爾（Vincent Berthier）表示AI是概率機器，事實不能通過擲骰子來決定。他還指出《歐洲人工智能法案》並未將信息生成類AI歸為高風險系統，留下了「嚴重的法律真空」。

實際上，這不是蘋果AI摘要第一次「新聞造假」了。上個月，美國調查新聞網站「ProPublica」的一位名為肯·施文克（Ken Schwencke）的記者在Bluesky上分享了一張截圖。

截圖中的第一條新聞赫然寫著「內塔尼亞胡已經被逮捕」（Netanyahu arrested）。然而，真實的情況是國際刑事法院對以色列總理內塔尼亞胡發出逮捕令。

這篇被蘋果AI嚴重歪曲的報導來自《紐約時報》（NYTimes），後者目前並未對此事發表評論。

蘋果Apple Intelligence的智能生成摘要功能於今年下半年正式推出。蘋果的本意，是它能「通過其深度語言理解幫助提煉對你最重要的信息，通知會生成摘要以便你一覽重要詳細信息」。

看來，蘋果所提到的「深度語言理解」似乎水分很大。倫敦城市大學的媒體政策教授佩特路斯·伊奧菲迪斯（Petros Iosifidis）表示蘋果的錯誤「看起來很尷尬」。

伊奧菲迪斯還表示他「對蘋果會推出這樣明顯半生不熟的產品感到很驚訝」。雖然這項技術在未來具有潛在優勢，但是目前「存在傳播虛假信息的真正的危險」。

生成式AI技術發展到今天，我們似乎很自然地認為用其來總結一篇文章對於AI來講是「小菜一碟」。事實上，大多數AI工具在使用時很少會出現「瞎編」的情況，理解有誤或者「斷章取義」的情況倒是比較常見。

除了蘋果之外，Google和微軟等科技企業也在嘗試使用人工智能技術來對新聞進行分類、排序和摘要總結。這類AI工具雖然能夠增強用戶體驗，但其在沒有人工干預的情況下一旦出錯，所引發的「誤會」便可能成指數級傳播。

雖說AI已經能在大多數場景下出色地幫助人們提高工作效率，但其出錯的概率絕不為零。於是，我們不得不在「承擔錯誤風險」和「享受AI的便利」之間做出幾乎唯一的選擇。

下一次，面對社交媒體上的一切信息，我們都要「擦亮眼睛」。