每經記者｜畢媛媛  杜蔚    每經編輯｜文多    

“雷軍回應‘7天假期被AI雷軍罵了8天’”“靳東建議AI換臉立法”??今年全國兩會期間，人工智能（AI）技術治理成為討論焦點之一，其中“AI換臉”引發的風險問題受到代表委員們熱議。

在這場身份保衛戰中，公眾人物、媒體首當其沖。“AI張文宏”深夜直播帶貨、“AI劉曉慶”分享雞湯、“AI古天樂”代言網游……AI換臉已淪為黑灰產業鏈的作案工具。日前，每日經濟新聞刊發《微信抖音都難防！花1280元，直播、視頻通話能實時換成劉亦菲、楊冪的臉，拍臉按鼻露齒及大幅遮擋都不會“掉臉”》廣受各界關注，平臺也開始思考：AI深度偽造導致傳統防偽手段失效后如何保護數億用戶。

3月10日，“小紅書”在北京舉辦首次“詐騙治理開放日”，公布了2024年平臺反詐治理成果：通過不斷完善全鏈路治理體系，平臺全年共處置涉詐違規賬號492萬個，主動攔截94.3%的詐騙行為，詐騙舉報量同比下降60%。

但是，在分享治理措施和經驗的同時，小紅書反詐治理負責人蒼連表示，詐騙治理是個長期過程，存在不少難點，需要更多互聯網平臺、企業以及用戶共同參與解決。其中，95%的詐騙行為被誘導至第三方平臺實施，形成監管斷點，這讓追蹤溯源難上加難。

中國犯罪學學會副會長兼信息犯罪防控專業委員會主任、同濟大學法學教授皮勇警示，伴隨AI時代到來，深度合成的影像越來越真實，犯罪人是誰？聲音來自誰？越來越難以分辨。“犯罪在變，我們的‘教材’卻沒有及時更新。”

皮勇介紹“打防結合、共同防治”的反詐模式 圖片來源：主辦方提供

詐騙渠道從傳統電信渠道向網絡全面轉移

“千萬不要覺得自己不會被騙。”蘇州市公安局金牌反詐講師朱鈺表示，詐騙分子盯上的是我們每一個人，不會區分人們的學歷、職業。

當下，AI技術迅猛發展，詐騙形式也以超乎想象的速度不斷升級。對于警方而言，傳統的事后打擊犯罪方式已陷入被動的局面。“犯罪分子在網上飛，在全世界飛，我們公安民警如果在地上追，根本沒有用。不僅成本投入巨大，人員消耗也大，還無法有效遏制。”朱鈺無奈地說道。

基于多年的從警經驗，朱鈺總結出當下詐騙的三大特點——

第一，從過去的廣撒網式詐騙轉變為精準詐騙。詐騙分子通過非法手段獲取公民個人信息，據此量身定制詐騙劇本，實施精準詐騙。

第二，詐騙手法從單一走向組合套路。詐騙手段不斷演變，從最初的、簡單的冒充熟人式、中獎式詐騙，發展到如今融合刷單返利、殺豬盤、虛假投資等多種形式的復合型詐騙，靈活性更強，讓人防不勝防。

第三，詐騙渠道從傳統電信渠道向網絡全面轉移。利用社交軟件、直播平臺、網絡游戲等新型網絡產物實施詐騙的案例日益增多，隱蔽性愈發突出，增加了識別和防范的難度。

除了詐騙手法更具迷惑性，目前網絡詐騙的危害也遠超以往。隨著互聯網的發展普及，公開數據顯示，網絡犯罪案件增長迅速，目前占全部犯罪案件的七成以上。

蒼連分享平臺治理策略和措施 圖片來源：主辦方提供

蒼連以站外導流難追蹤為例進一步介紹道，詐騙行為在平臺內通常偽裝成正常筆記（即博主發布的內容）和交流內容，不觸及詐騙核心環節的誘導轉賬或資金流轉。因此，其詐騙特征不明顯，平臺辨別存在困難。隨后，詐騙者會將用戶引導至第三方平臺實施進一步的詐騙活動，“這一比例高達95%，導致難以實現有效追蹤”。

一年近120種不法手段！AI時代如何構筑反詐防線

AI的應用場景愈發廣泛，也為詐騙分子提供了新的偽裝手段。

朱鈺直言，如今除了詐騙手法更具迷惑性，網絡詐騙的危害其實也遠超從前，因為產業鏈條盤根錯節，而且跨境跨國犯罪的趨勢明顯，打擊難度非常之大。

針對上述問題，公安機關也在不斷地調整打擊和防范的措施。在此情況下，警企合作正在加強。朱鈺介紹：“我們也希望短視頻平臺發現詐騙風險后，能夠及時同步警方來聯動，將這些信息最早最快地告訴我們，避免更多人民群眾的財產受損失。”

“這對治理的‘及時性’和‘對抗性’都提出了很大的考驗。”蒼連透露，過去一年，小紅書累計出現近120種詐騙方式，比2023年的96種增加了四分之一。詐騙話術演變也非常迅速，例如“導流到其他平臺”的話術變體，目前就有不下500種。

所幸，借助AI，小紅書建立了超過100個識別模型?！睹咳战洕侣劇酚浾咴诂F場了解到，疊加大模型理解能力，小紅書可對詐騙風險實現跨場景內容的理解與攔截。2024年，小紅書對詐騙行為的主動攔截率達到了94.3%，月均推送風險提醒3700萬次。蒼連表示：“平臺用戶對詐騙單日舉報量方面，2024年底比年初減少了60%，呈現顯著下降。”

圖片來源：主辦方提供

業內專家呼吁，社會各界共同參與反詐斗爭，形成全民反詐的強大合力。

“進入人工智能時代，我們的反詐犯罪防控又遇到了新的問題。深度合成的影像越來越真，犯罪人是誰？聲音來自誰？越來越難以分辨。”皮勇在活動現場表示，大眾要帶著懷疑的態度對待網絡空間。

皮勇認為：“犯罪在變，我們的‘教材’還沒有及時更新。未來，當人形機器人進入我們的生活，將對國家立法提出新的挑戰??需要進行人工智能化的升級，才具備治理‘未來已來’的智能化犯罪的能力。”