杜撰青浦命案、女星含恨離世……用AI技術編造假新聞多人被抓

今年以來，上海警方連續破獲了「利用AI軟件合成故意縱火虛假影片」「利用AI軟件編造社會知名人士重病離世」等多起網絡謠言案。

近日，青浦公安分局網安支隊民警在日常工作發現，一網民發帖稱，2月29日上午上海市青浦區發生了一起2人死亡命案。經青浦警方核實，本區未發生此類案件，該帖文所述內容和圖片均系不實信息，存在造謠嫌疑。經深入調查和綜合研判，民警很快就鎖定了位於廣東的王某。隨後，依託打謠協作機制，青浦警方迅速將線索流轉至廣東警方。3月9日，廣東警方在王某的暫住地將其抓獲並傳喚至派出所作進一步調查。

男子為博取流量竟用AI杜撰「命案」。 本文圖片均為上海市公安局供圖 

經查，違法人員王某出於提高曝光度、博取流量牟利的目的，2月29日從網上隨意下載了一張照片，然後通過某AI軟件以命案為關鍵字杜撰了一篇關於青浦區發生命案的文章，並通過個人社交媒體賬戶發佈上網，吸引了大量關注和閱讀。

目前，違法人員王某因實施了虛構事實擾亂公共秩序的行為被警方依法處以行政拘留。

今年2月，長寧分局網安支隊民警在工作中發現，在某網購平台上出現了一則「某著名女星命運多舛、含恨離世」的短影片，引發大量點讚和轉發，社會影響惡劣。

經查，該影片內容完全系子虛烏有，影片內容也存在人為拚接痕跡。在對發佈該影片的帳號進行深入調查後發現，該帳號之前也發佈了大量以「名人去世」為噱頭的短影片，全部為不實信息，影響極為惡劣。長寧警方依託打謠協作機制，將上述謠言信息流轉至該網民戶籍所在地吉林網警部門繼續開展深挖調查。

長寧警方查處一女子利用AI技術編造明星死亡謠言。 

經影片發佈者杜某到案後交代，其在某網購平台上開了一家網店，平時主要經營土特產。由於銷量不佳，杜某萌生了編造奪人眼球虛假新聞的方式給網店帳號帶「流量」的念頭。因為杜某本人不會影片剪輯，便利用AI技術生成文本和影片，編造大量社會知名人士重病、離世等無中生有，奪人眼球的謠言影片。

果然，這些短影片給杜某的網店帶來了不少流量，正當杜某暗自高興，準備進一步炮製該類影片的時候，殊不知自己的行為已經觸犯了相關的法律。

目前，吉林警方已依法對杜某做出行政處罰，並將網絡上所有的虛假影片全部清除，及時消除不良社會影響。

去年12月，公安部部署打擊整治網絡謠言專項行動以來，上海警方針對網上惡意炒作、造謠生事等網絡違法亂象開展全力集中整治，依法從嚴快處網絡造謠違法人員、全鏈條打擊網絡謠言犯罪、持續開展網絡謠言生態綜合治理。截至目前，累計查處網絡謠言384起，依法查處造謠傳謠人員530餘人，清理網上謠言信息53000餘條，依法關停違法違規帳號5000餘個，堅決維護清朗有序的網絡環境。