立法會二十一題：規管涉及人工智能技術的製作

以下是今日（十二月十八日）在立法會會議上梁熙議員的提問和創新科技及工業局局長孫東教授的書面答覆：
 
問題：
 
據報，近日有不少香港和澳門立法會議員收到懷疑使用人工智能（AI）技術偽造的色情圖片，他們的容貌出現在該等圖片上，而騙徒以此進行勒索。就此，政府可否告知本會：
 
（一）自本年初至今，當局接獲涉及使用AI技術偽造聲音、相片或影片勒索的舉報宗數、涉及的損失款項，以及破案率分別為何；該等數字與去年同期比較有否變化；
 
（二）鑑於據悉，因應最近深度偽造（深偽）技術的發展及其特點，騙徒傾向偽冒商界管理層或政界知名人士以增加可信性，當局有何應對措施，例如會否參考外國經驗為社會知名人士訂立肖像權，限制在未經當事人同意下擅用AI技術偽造其聲音、相片或影片的行為；如會，詳情為何；如否，原因為何；
 
（三）鑑於據悉，一些以深偽技術製作的影片會利用社交媒體作為傳播的媒介，並透過於搜尋引擎投放廣告以提升其熱度及搜尋優次，當局有否研究要求社交媒體管理者對此作出限制，包括需要在影片中標示影片使用AI技術製作；如有，詳情為何；如否，原因為何；及
 
（四）鑑於立法會換屆選舉會於明年舉行，當局有否評估，會否出現外地以AI技術干預選舉過程及結果的情況，特別是發放不實信息抹黑候選人；如有評估而結果為會，當局對此有何準備，例如會否設立官方調查及澄清專隊，盡快就事件作出回應，以避免誤傳信息而影響選情；如會，詳情為何；如否，原因為何？
 
答覆：
 
主席：
 
就問題的四個部分，經統籌保安局、商務及經濟發展局（商經局）以及政制及內地事務局提供的資料後，現回覆如下：

（一）根據保安局提供的資料，二○二四年一月至十一月，警方共接獲三宗涉及人工智能深度偽造（深偽）的詐騙案，涉使用深偽技術偽冒公司員工指示商業機構轉帳至騙徒戶口及以深偽技術進行網戀，誘騙受害人投資加密貨幣。其中最近期在二○二四年十月發生的一宗，是警方根據情報主動偵破的案件，瓦解了一個由三合會操控、以深偽技術進行網戀以誘騙身處本港、內地以至亞洲等地的受害人投資加密貨幣的犯罪集團，涉款逾3.6億元，拘捕27人，包括集團主腦及骨幹成員。
 
有關發現或接獲舉報網上深偽片段的數字，警方自二○二三年十一月一日起開始立項統計，至二○二四年十一月三十日，警方於網上發現及接獲舉報共21條假冒政府官員或知名人士的深偽片段。應警方要求，相關網上或社交媒體平台已把該21條片段迅速下架，防止市民受騙。到目前為止，警方未有接獲市民直接因為相關深偽片段而受騙的報告。
 
警方沒有備存涉及色情照片的勒索案件數字，但留意到自二○二四年十一月初起有人以粗糙的移花接木方式偽造色情照片進行電郵勒索，涉及過百名受害人，但未有金錢損失。案件已交由警方的網絡安全及科技罪案調查科跟進調查，暫未有人被捕。
 
如在社交媒體平台上發現與罪案有關的資料，警方會主動聯絡該平台，以及時制止社交媒體平台被利用作為犯案的媒介及工具。

（二）根據商經局提供的資料，對於未經授權下利用深偽技術使用他人的身份標誌，須視乎個案的實際情況和證據決定能否根據不同範疇的法律追究，難以一概而論。如深偽內容涉及未經授權下使用版權作品、商標及／或作出失實陳述導致個人商譽受損，則可視乎個別個案的情況和證據，以侵犯版權、侵犯商標及／或普通法中的假冒侵權為由提起法律訴訟。例如就假冒而言，如某商戶在推銷和宣傳其產品或服務的過程中未經同意下利用深偽技術使用包含某知名人士的聲音、影像或肖像，而有關使用方式和程度構成失實陳述，使人誤以為該商戶的產品或服務獲得該知名人士的認可或特許，並導致或相當可能導致該知名人士的商譽受損，則可構成普通法中的假冒而被該知名人士追究侵權。
 
為加強市民的防騙意識，防範深偽片段，政制及內地事務局表示個人資料私隱專員公署已推出了一系列的防騙宣傳活動及短片，提醒公眾保障個人資料私隱的重要性。

（三）香港目前並沒有法例限制或規管社交媒體平台或其用戶使用個別技術（例如人工智能技術）製作其發布的資訊內容，但相關內容必須符合香港現行法律及條例，包括但不限於上文提及的法規。政府亦鼓勵社交媒體平台積極履行機構社會責任，設立社群及平台行為守則、服務條款、私隱政策及處置不當內容的措施，以規管用戶在相關平台上發放的資訊內容（包括準確性、真偽、知識產權及安全），並減低私隱及道德方面的風險。

（四）在選舉方面，政府會致力確保公共選舉在公平、公正、誠實和安全有序下順利進行。選舉事務處在選舉安排方面一直與警方及其他執法部門保持緊密聯繫，並設有既定機制搜集和分析情報及進行風險評估，有需要時更會採取適當措施消除風險隱患，同時亦會制訂各種預案，以應付任何突發情況。
 
此外，政制及內地事務局在來年選舉的選舉日前後，亦會聯同政府新聞處以及其他相關部門成立快速應對小組，密切監察留意選舉期間的各類型資訊，並迅速就各種虛假或不實資訊或評論作出有效駁斥或澄清，以確保選舉不受影響。

（轉載自香港特別行政區政府新聞公報）