新京報:誰在開發「一鍵脫衣」這種齷齪的App?

▲資料圖:AI概念圖。圖/IC photo▲資料圖:AI概念圖。圖/IC photo

  據極目新聞報導,一位女網民在網上曬出了自己在地鐵車廂里的照片,卻被人用AI技術「一鍵脫衣」。這樣一來,一張很正常的女性的生活照,變成了「衣不蔽體」的照片。記者發現,網上不少非法網站還提供「一鍵脫衣」的AI技術,並且這些技術主要針對女性,即使上傳的是男性的照片,這些網站仍會P上女性的裸體。

  目前,這名受害女性表示「會進行相關的維權處理」。儘管「AI一鍵脫衣」相關軟件早已被封禁,但在網絡上並不難找出替代品。有些非法在線網站還在傳播這種應用,甚至打出了「免費下載,免費試用」的廣告。

  如此齷齪的黑科技,引發了很多女性的恐慌,可能今後自己好端端地走在路上,就被人拍攝下來,用AI「一鍵脫衣」了,在賽博空間里被扒得一絲不掛。在現今AI強大的算法下,時間、地點都對得上的情況下,偽造的黃圖可能會讓當事人百口莫辯。

  隨著AI技術的成熟,曾經只有在科幻電影里才能出現的換臉、變聲等「黑科技」走進了現實生活,但是也帶來了新的倫理問題。如何讓科技向上向善,而不是讓其破壞公序良俗,成為肆意侵權、侮辱女性的廉價道具,值得重視。

  事實上,報導中使用AI「一鍵脫衣」的技術並傳播,已經侵犯到當事人的多項權利,也觸犯了國家法律。

  首先,侵犯了公民的肖像權。我國《民法典》明確規定:「任何組織或者個人不得以醜化、汙損,或者利用信息技術手段偽造等方式侵害他人的肖像權」。「一鍵脫衣」利用技術脫去女性正常穿著的衣服,讓女性裸露的形象被曝光,這就是「利用信息技術手段偽造等方式」侵犯女性的肖像權。

  其次,侵犯了公民的名譽權。女性遭遇了「一鍵脫衣」之後,近乎裸體的形象出現在公開場合,必然遭遇他人指指點點,使其社會評價降低。以此來看,「一鍵脫衣」實質上是一種以圖片形式實施的誹謗行為。

  從公法層面上看,「一鍵脫衣」是嚴重觸犯法律的。我國刑法規定了「侮辱罪」「傳播淫穢物品罪」,網絡本身就是一個公共空間,利用AI技術「脫去」女性衣服,屬於情節嚴重的侮辱女性的行為,已經達到可以追究刑事責任的程度。

  而且「一鍵脫衣」所生成的圖片,很多就是淫穢圖片,相關平台以及App大量製造、傳播這類圖片,則涉嫌傳播淫穢物品犯罪。

  在行業治理層面上,對於換臉等「深度合成」技術可能產生的社會危害,國家層面也有所行動。

  今年年初,國家網信辦、工信部、公安部發佈的《互聯網信息服務深度合成管理規定》正式施行。其中明確,任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息,不得利用深度合成服務從事侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等活動。

  對於伸向女性的那隻「髒手」,需要多管齊下。

  希望被害女性勇敢站出來,向平台舉報,並拿起法律武器,刑事自訴「脫衣人」的侮辱罪。同時,公安機關應給予更多的幫助,幫助受害人鎖定「元兇」的真實信息。對於「一鍵脫衣」背後的涉黃等問題,堅決依法亮劍,決不姑息。

  網信部門也要強化源頭治理,堅決取締這種非法應用,還要倒查到底是誰在開發這種齷齪的App。

  科技在進步,而法律和公序良俗不容突破。對於「一鍵脫衣」這種「髒應用」,必要讓其「吃不了兜著走」。

  撰稿/克鮮(媒體人)