在科技飛速發展的當下，AI(人工智能)給咱們的生活帶來了諸多便利，但一系列利用AI的新型犯罪，也給社會安全與穩定帶來了嚴峻挑戰。
本人在浙江省辦理的一起涉嫌詐騙案中，犯罪嫌疑人就是通過各種途徑收集大量個人信息，運用 AI 算法進行深度分析，把受害人的興趣愛好到消費習慣，及社交關系到財務狀況，都摸得一清二楚;再通過采集受害人多角度照片或短視頻之后，利用AI 變臉技術已從靜態圖像偽造發展為實時動態視頻合成實施詐騙。更嚴重的是，犯罪團伙甚至能實時替換視頻通話中的人臉，在對話過程中動態調整表情和動作，而現有技術對動態偽造視頻的識別率不足 80%，部分檢測工具在低分辨率或復雜光線環境下準確率驟降至 50% 以下，普通用戶難以察覺異常。
據公安部數據顯示，2025年一季度全國 AI換臉詐騙案環比再增45%，老年群體受騙占比達38%，成為主要目標，單筆最高損失達 620 萬元(上海某企業高管被騙案例)。香港荃灣 2025年4月破獲的詐騙中心，通過 AI 換臉假扮 "美女" 誘導受害人開設虛假電商平臺，每周騙款高達百萬元，涉及跨境犯罪網絡。當前，犯罪團伙通過爬取社交媒體、外賣地址等信息構建 "受害人畫像"，使詐騙成功率提升 2.3 倍，而盡管《人臉識別技術應用安全管理辦法》于 2025 年 6 月 1 日施行，但對 AI 生成內容的 "顯著標識" 標準尚未明確，平臺審核責任缺乏操作指引，技術提供者追責機制也不完善，防范形勢嚴峻。
為有效遏制 AI 變臉電信詐騙的蔓延，切實保障人民群眾財產安全，提出以下建議：
一、完善法律體系，壓實主體責任。參照歐盟《人工智能法》，在《反電信網絡詐騙法》中增設專門條款，明確 "為詐騙提供 AI 換臉工具者，除依法追究刑事責任外，可處違法所得 5-10 倍罰款，最高不超過 5000 萬元";規定技術平臺未履行 AI 生成內容審核義務的，由網信部門責令暫停相關業務直至整改達標。2025 年底前，由國家網信辦牽頭出臺《AI 生成內容標識管理細則》，強制要求對深度偽造的音視頻添加不可去除的水印標識，如在視頻角落標注 "合成內容" 電子標簽，從法律層面明確內容生產者的標識義務。
二、強化技術反制，筑牢安全防線。推動金融、政務、支付等重點領域強制部署高精度檢測技術，2025年12月底前實現 100% 覆蓋。推廣成熟檢測系統(準確率超 96%)，支持其與國家反詐中心數據互通，實時共享新型偽造特征庫。在數據安全管理方面，由國家發改委、工信部牽頭，2025 年底前在金融、醫療行業試點人臉數據 "區塊鏈存證 + 國密算法加密" 技術，確保數據采集、存儲、使用全流程可追溯、不可篡改。企業采集人臉信息時，須采用隱私計算技術，通過多方安全計算實現 "數據可用不可見"，違規泄露人臉數據的企業，除承擔民事賠償外，相關責任人依法追究刑事責任。
三、構建多維反詐宣傳體系，提升反詐能力。要通過宣傳提升群眾防范意識，提醒群眾保護個人生物信息，謹慎對待不明鏈接、郵件。針對老年人，在社區、老年大學開展“AI 反詐工作坊”;針對企業財務人員，聯合行業協會開展 “反詐模擬演練”，識別偽造高管指令的常見話術。利用短視頻平臺制作 “AI 詐騙拆解” 系列動畫，還原詐騙分子如何通過外賣信息、社交動態定制劇本，提示公眾避免在網絡暴露人臉、聲紋等敏感信息。推廣“國家反詐中心 APP”的“AI 預警”功能，實時攔截可疑視頻通話。構建起“全民參與、全域覆蓋”的防御網絡，讓AI犯罪無處遁形。
四、深化源頭治理，強化跨境打擊。外交部會同公安部與“一帶一路”國家建立 AI 犯罪情報共享平臺，建立 "48 小時跨境協查機制"，共享犯罪團伙的技術特征、資金流向和人員信息，聯合開展系列專項行動，實現對跨境詐騙團伙 "資金鏈 + 技術鏈 + 人員鏈" 的同步打擊，2025 年內力爭聯合偵破至少 20 起重大跨境 AI 詐騙案件。(文/湖南君杰律師事務所許小軍) |
