用上大模型，陰謀論不靈了！來自MIT最新研究丨Science封面

叨樂 發自 凹非寺

量子位 | 公眾號 QbitAI

陰謀論的「兔子洞」，被AI破解了！

MIT的最新研究登上了Science封面：與AI對話，有助於持續地降低陰謀論的影響。

研究結果顯示，大模型反駁陰謀論的準確性極高！

經過專業事實核查員評估，99.2%的反駁內容都被認定為真實信息，僅有0.8%存在一定的誤導性，而且整體沒有任何虛假信息和偏見內容。

研究成果一經發表，就受到了廣泛關注，但人們對AI破解陰謀論的態度褒貶不一。

有人認為這是人類對抗錯誤思維的偉大工具。

也有人說，放到現實中的話，這一切並不成立。因為她身邊的陰謀論者都非常抗拒使用AI工具，就算他們用了AI也不會相信它所給出的答案。

然而，更多的人依然對這項研究成果持樂觀態度。

至於結果到底如何，咱們來一探究竟！

成功破解「兔子洞」

實驗中，研究人員分別招募了1055人進行治療組實驗，以及2286人進行對照組實驗。

其中，治療組要求參與者與AI進行對話，討論他們選擇的陰謀論，而對照組則是和AI討論一個無關的話題。

最終的實驗結果顯示，治療組的陰謀論信念平均減少了約20%，而對照組幾乎沒有變化。

這一效果在2個月後依然存在，並且對各種陰謀論都有普遍的影響。

即使是對初始信念根深蒂固的參與者也是如此。

實驗也影響了參與者的後續的行為。（比如他們會在社交媒體上取關那些傳播陰謀論的博主）

團隊的研究人員更是發文感歎：

需求和動機並不會完全使你在陷入陰謀論後失去理智，只需詳細且量身定製的證據就可以幫助你回歸現實。干預是可行的！

如何破解？

既然「干預是可行的」，那咱們就來一起嘮嘮實驗中是如何進行「干預」的。

實驗中，研究人員先是讓參與者們完成了包含了15個陰謀論的信念量表，以0-100的等級來對他們的初始信念進行評分。

並且要求他們描述出一個自己相信的陰謀論，還要提供出相關的證據。（用來生成AI對話的初始摘要）

之後就將他們分配到「治療組」和「對照組」進行實驗。

期間他們會與基於GPT-4 Turbo的模型進行三輪對話，對話平均持續8.4分鐘。

實驗中，AI的目的是針對參與者所提供的具體證據進行反駁，並試圖減少他們對該陰謀論的信仰。

在對話結束後，所有參與者需要重新測試他們對所述陰謀論的信仰程度，等級範圍仍然是0-100，用來評估干預的的效果。

之後的10天和2個月的時間內，研究人員再次聯繫參與者，進行信仰程度的追蹤測量，進而評估信念變化的持久性。

此外，研究團隊通過不斷調整問卷的措辭，成功在兩輪實驗中驗證了研究結果的穩定性。

看完實驗過程，咱們再來嘮一嘮這項實驗有哪些創新之處：

首先，研究採用了實時互動模式，AI能根據參與者的具體證據和反駁靈活調整論點和策略，這種方法比傳統的靜態問卷或預設干預更具靈活性和針對性。

其次，研究提出了一種新的實驗範式，結合了行為科學和生成式AI的優勢，使得研究者能夠實時獲取參與者的信念陳述，並將其轉化為定量結果。

不過AI雖好，可不要貪杯，畢竟「水能載舟亦能覆舟」。

就像研究人員所說的那樣：

如果沒有保護措施，語言模型也可能讓人們相信陰謀論或其他虛假信息。

不過他還是貼心的給大家送上了相關鏈接供大家進行測試。

試玩鏈接已經附上，感興趣的朋友們可以圍觀一下~

試玩鏈接：

https://www.debunkbot.com/

參考鏈接：

[1]https://www.science.org/doi/10.1126/science.adq1814

[2]https://www.science.org/doi/10.1126/science.ads0433

[3]https://www.science.org/doi/10.1126/science.adt0007

[4]https://x.com/DG_Rand/status/1834291074480660560