立法會九題：打擊涉及深度偽造的詐騙罪案
以下是今日（六月二十六日）在立法會會議上譚岳衡議員的提問和保安局局長鄧炳強的書面答覆：
問題：
據報，一項研究發現，香港本年首季涉及深度偽造的詐騙事件數目按年增幅達10倍，為亞太地區增長最高的地區之一，而香港金融科技行業涉及的深度偽造身分欺詐率為亞太地區最高。另一方面，有市民擔心，近年有不法分子利用深度偽造技術製造仿真度頗高的面貌和聲音成功進行詐騙，令人防不勝防。就此，政府可否告知本會：
（一）就利用深度偽造技術進行詐騙的活動，過去三年，每年政府分別進行多少宗主動偵查及接獲多少宗舉報，並列出每宗個案涉及詐騙的類型及金額；該等個案的破案率為何；
（二）有否評估，政府為打擊涉及深度偽造虛假信息的詐騙案件而推出的措施的成效為何；及
（三）有何措施完善對深度偽造技術應用的監管，以及有何新措施加強打擊在互聯網及社交媒體傳播的虛假資訊？
答覆：
主席：
詐騙是嚴重罪行。深度偽造是指利用深度學習（深偽）（即人工智能的一種技術）進行影像合成以偽造影像。警方近年亦有留意到網上一些假冒政府官員或知名人士宣傳可疑投資產品的詐騙信息及視頻，利用深偽技術作為行騙的新手法。警方會持續透過加強執法、宣傳教育、情報分析、跨境合作，以及與可能受深偽詐騙影響的不同界別（如廣告供應商及網絡營運商等）合作，提高市民的警覺性，打擊各類型的詐騙案，包括各項針對深偽詐騙的措施。
就譚岳衡議員的提問，經諮詢創新科技及工業局，現答覆如下：
（一）有關涉及深偽的詐騙案的數字，有鑑於這種新行騙手法於近年冒起，警方自二○二三年就此類騙案作分項紀錄統計。至二○二四年五月三十一日，警方共接獲三宗與深偽技術相關的案件，分別於二○二三年八月、二○二四年一月及二○二四年五月發生；第一宗已成功破案，其餘兩宗仍在調查中。
首宗案件是警方根據情報主動偵破的案件。二○二三年八月，警方展開「解詐」行動，搗破一個本地詐騙集團，涉嫌在二○二二年九月至二○二三年七月期間盜用他人身分，利用人工智能換臉程式，於網上向財務公司申請貸款，涉款20萬港元，隨即於同年八月共拘捕九人，包括一名集團主腦，涉嫌干犯「串謀欺詐」罪，是首次偵破人工智能換臉案。
二○二四年一月底，警方接獲一宗利用深偽技術預先錄制影片進行視像會議的欺詐案。報案人收到假冒其英國總公司首席財務官的釣魚信息，聲稱要進行機密交易，邀請報案人進行多人視像會議，報案人最終按指示授權轉賬至五個本地銀行帳戶，涉及損失約二億港元。警方經調查後，相信騙徒先下載被偽冒職員的網上公開影片及聲音，再利用深偽技術製作預錄的視像會議。由於是預錄影片，報案人與對方其實並無對話互動。騙徒向報案人下達命令後藉詞掛線，再以即時通訊軟件繼續指示轉帳。警方的調查仍然進行中。
二○二四年五月二十日，跨國貿易公司職員收到偽冒為英國總公司首席財務官的WhatsApp信息，並進行近30分鐘的視像會議，期間「假上司」指示職員將近400萬港元轉款至一個本地戶口。警方調查相信疑犯以網上公開資料作素材，配合深偽技術將影片內容篡改，再於視像會議中播放，以誘騙受害人進行轉款。警方正進行調查。
另外，有關發現或接獲舉報網上深偽片段的數字，警方自二○二三年十一月一日起開始立項統計，至二○二四年五月三十一日，警方於網上發現及接獲舉報共21條假冒政府官員或知名人士的深偽片段，其中兩宗由主動偵查發現，19宗為市民舉報。21條片段當中，20條是於二○二三年十一月至二○二四年一月期間發現，餘下一條於二○二四年三月發現。應警方要求，相關網上或社交媒體平台已把該21條片段迅速下架，防止市民受騙。到目前為止，警方未有接獲市民直接因為這些相關深偽片段而受騙的報告。
（二）針對深偽技術等人工智能對網絡警政的各種挑戰，警方與國際刑警組織、不同地區的執法機關及人工智能業界有着緊密的情報聯繫，並緊貼世界上發生的新的犯罪手法和趨勢，包括深偽技術的應用。
就不同的科技罪案，警方在二○二二年十二月成立一個由刑事及保安處處長帶領，成員包括12位來自科技界的專家和領袖的「科技罪案警政顧問小組」，探討涉及人工智能（包括深偽技術）的罪案和騙案風險，以及提高公眾對人工智能潛在風險的認識。警方會繼續與相關界別的持份者加強合作，共同探討並制訂有效措施，以打擊相關罪案。
在強化專業能力方面，警方不時舉辦內部培訓，以提升同事對深偽技術及其衍生的網絡罪行的認識，並會適時更新有關設備，以提升打擊不同類型網絡罪行的能力。
宣傳教育方面，警方以不同渠道教育市民人工智能的原理及最新的犯案手法，避免大眾墮入陷阱。警方會不時舉行記者會，向市民講解騙徒常用伎倆，包括示範利用深偽技術進行視像會議。警方亦透過警隊Facebook及「守網者」網站發放與深偽技術相關的最新犯案情況及防騙建議。
事實上，騙徒利用人工智能深偽技術行騙的手法並非毫無破綻，正如警方在不同場合也呼籲市民要時刻保持防騙意識，提醒市民用不同方法去辨識片段的真偽，避免大眾墮入「深偽」的陷阱，例如：
1）市民可要求對方於鏡頭前做特定動作，如將頭部向上下左右轉動，再留意螢光幕的影像是否有異；
2）以對話內容試探對方真偽；
3）當親友於視頻錄音中提出匯款等要求，要提高警惕，應打電話核實；
4）並避免接聽陌生視像來電。如有懷疑，應善用「防騙視伏器」及「防騙視伏App」，或致電「防騙易熱線18222」查詢。
警方亦不時進行網上巡邏及執法行動，主動打擊各類網上罪案，如發現懷疑涉及詐騙包括利用深偽技術的網上廣告、短片或帖文，會迅速要求相關廣告供應商及網站營運商移除，減低市民接觸到該些片段的機會。事實上，上文提及的21條深偽片段均能迅速下架，防止市民墮入騙案。到目前為止，警方未有接獲市民直接因為這些相關深偽片段而受騙的報告。
我們絕不會掉以輕心，警方會繼續密切留意騙案的不同新手法，繼續透過上述不同渠道打擊包括利用深偽技術的騙案。
（三）我們留意到不同地區的人工智能發展速度和普及程度各有不同，而人工智能技術對不同行業和界別的影響亦不盡相同。不同地區和機構開始因應最新的發展研究不同措施，以應對人工智能所帶來的影響和挑戰，同時在促進科技創新及規範之間作出平衡。
就打擊在互聯網及社交媒體傳播的虛假資訊方面，互聯網的世界並不是一個無法可依的虛擬世界。根據香港現行法例，大部分在現實世界用以防止罪行的法例，均適用於網絡世界。現有法律框架下有若干條文可處理散播不實或不當資訊，例如《2021年刑事罪行（修訂）條例》就加入未經同意下發布或威脅發布私密影像的罪行，該罪行也適用經修改或移花接木（包括使用人工智能技術）的私密影像。
另外，法律改革委員會（法改會）在二○一九年成立小組委員會，就電腦網絡罪行展開研究。小組委員會首階段就依賴電腦網絡的罪行（例如非法取覽程式或數據等）於二○二二年十月完成了公眾諮詢工作。下一階段，小組委員會會研究借助電腦網絡的罪行，即通過使用電腦、電腦網絡或其他形式的資訊及通訊科技，使犯罪規模或範圍得以擴大的傳統罪行（例如設立仿冒詐騙網站等犯罪行為）。政府會密切留意法改會的研究進展及最終建議，並適時檢討法例。
（轉載自香港特別行政區政府新聞公報）
