一天7000篇!MCN機構利用AI造謠,細節曝光→

“西安突發爆炸”“重慶巫溪一民房發生爆炸事故”……這些聳人聽聞的消息,竟都是利用AI軟件炮製的謠言。

近日,一些不法分子為賺取平台流量補貼,實現流量變現,利用AI合成技術編造謠言,嚴重擾亂社會秩序。真相到底如何?公安機關又將怎樣處理?一探究竟↓↓↓

違法人員利用

AI技術博取流量

今年1月,某網絡平台出現一條關於“西安爆炸”的消息稱,當月10日晚,西安突然響起巨大爆炸聲,文字下方還配發所謂爆炸的圖片。消息一經發佈,很快在網上傳播。

經調查,消息的發佈賬號歸屬於江西南昌一家MCN機構,這家公司的實際控製人為王某某。經核實,民警發現當地沒有發生類似事件,初步判定該MCN機構發佈的數條信息涉嫌網絡造謠,屬不實信息

警方對王某某進行約談,得知網上發佈的這條謠言,從文本到圖片都是通過AI生成的民警表示,利用AI軟件生成新聞熱點類文章和圖片,全程基本不需要人工參與。

  • 國內一網站可提供近期可能生成熱點的新聞報導,違法人員王某某通過該網站獲取熱點關鍵詞,並生成文章標題。 

  • 王某某通過AI軟件,給出關鍵詞,軟件便會自動在網絡上抓取相關信息,生成幾百到上千字的文本,配上貌似和事件具有相關性的虛假圖片,從而形成一段看起來信息量很大,實際上子虛烏有的內容。

通過AI軟件生成內容的方式,這家MCN機構短時間內生成了大量文章,最高峰一天能生成4000至7000篇,最高的一條收入700元,初步估算每天的收入在1萬元以上。 

經警方調查,王某某共經營5家MCN機構,運營賬號842個。自今年1月以來,其中一家MCN機構利用其賬號,陸續在某平台發佈了“西安1月10日發生爆炸導致建築、車輛炸燬、人員傷亡”等多條謠言信息。

經查,王某某的行為構成傳播謠言,虛構事實,擾亂公共秩序。目前,南昌警方依據相關規定,依法對王某某處以行政拘留5日,責令涉案MCN機構停業整改。

新聞風格+驚險“災情”細節

此類AI生成謠言更具迷惑性

在重慶,公安機關查處一起個人利用AI軟件,編造民房爆炸謠言的案件。這起案件被公安部列為打擊整治網絡謠言違法犯罪典型案例。該案例利用AI技術,模仿新聞風格,一鍵生成涉及災情的信息,以獲取高流量。

去年12月25日,一則“重慶巫溪一民房發生爆炸事故,4人不幸遇難,官方緊急介入調查”的消息在某網絡平台發佈,全文500餘字,以新聞報導的口吻,提供了“發現了4名遇難者,其中包括一名兒童”“疑似與居民私拉亂接電線有關”等細節,短時間內獲得數萬次的點擊量。

這篇謠言閱讀量暴漲,讓之前在網上發文沒有任何流量的康某某一開始還有些興奮。 

康某某:之前我發了20多條內容都沒有收益,後來看到一個爆炸新聞有好幾十萬的點讚量。我就在網站輸入“重慶”“爆炸”,它自動生成內容,我複製它的標題和文章。

康某某之所以製造謠言,是因為得知在某知名網絡平台創作發佈文章,可以根據閱讀、評論、轉發數量等獲取相關流量收益,每千人有效閱讀量有1—2元的獎勵。但他編造虛假消息博取流量的行為已觸犯法律。

經查證,康某某對其虛構事實擾亂公共秩序的違法行為供認不諱。公安機關依法對其行政拘留3日,收繳其違法所得,並封禁其網絡賬號。 

專家:平台應履行相應監管責任

合理強化違法成本

法學專家表示,大量不實信息對普通網民來說,有時很難直接判斷是否為謠言,而平台對於相關信息,應該盡到監管責任

  • 有的網絡平台向流量高的內容和用戶支付報酬,在某種程度上會刺激一些想要賺錢的網絡用戶發佈虛假信息。專家表示,平台在刺激創作的同時,也應盡到消除虛假信息傳播的責任

    西南政法大學法學院教授陳偉表示,支付報酬方面,平台應行使積極的引導作用,對散佈謠言者採取相關的懲罰機制。

  • 法律專家建議,在法律法規上應讓造謠者付出更大的成本。 

    陳偉表示,違法成本在行政處罰里涉及行政拘留、行政性罰款等,還包括封號這樣的措施。法律應匹配違法人員的違法成本和他承擔責任之間的比例,以免其他人看到違法成本過低,遏製作用有限。

網絡並非法外之地

對於在互聯網上

發佈不實言論、擾亂社會秩序的

公安機關將堅決依法處理

對於造成惡劣影響、情節嚴重的

公安機關將依法追究其法律責任

本期編輯 鄒姍