在A(yíng)I技術(shù)加速演進(jìn)的當下，金融安全領(lǐng)域面臨新挑戰。6月18日，《中國金融行業(yè)AI欺詐與技術(shù)對抗研究報告》發(fā)布。此次活動(dòng)由清華大學(xué)經(jīng)濟管理學(xué)院中國金融研究中心、四川省反詐中心、新網(wǎng)銀行、新華財經(jīng)聯(lián)合主辦，聚焦“AI反詐：從博弈到共治”主題，系統呈現AI金融欺詐的演變路徑及行業(yè)應對策略。

此次報告發(fā)布恰逢中央宣傳部、公安部于6月16日聯(lián)合啟動(dòng)“全民反詐在行動(dòng)”集中宣傳月。根據活動(dòng)安排，各地各部門(mén)在全國范圍內組織開(kāi)展防范電信網(wǎng)絡(luò )詐騙犯罪“進(jìn)社區、進(jìn)農村、進(jìn)家庭、進(jìn)學(xué)校、進(jìn)企業(yè)”的“五進(jìn)”活動(dòng)。此次在清華大學(xué)舉辦的“進(jìn)學(xué)?！被顒?dòng)進(jìn)一步加大反詐宣傳力度，提升群眾防騙意識，助力營(yíng)造全社會(huì )反詐濃厚氛圍。

當前，隨著(zhù)人工智能技術(shù)的爆發(fā)式發(fā)展，金融行業(yè)正經(jīng)歷數字化轉型浪潮。AI技術(shù)賦能了智能風(fēng)控、精準營(yíng)銷(xiāo)、自動(dòng)化服務(wù)等創(chuàng )新場(chǎng)景，但同時(shí)也存在一些黑灰產(chǎn)組織利用AI技術(shù)，催生出深度偽造、智能釣魚(yú)、自動(dòng)化欺詐等新型犯罪手段，技術(shù)博弈與對抗的復雜性仍在升級。

為此，清華大學(xué)經(jīng)濟管理學(xué)院中國金融研究中心、新網(wǎng)銀行、新華財經(jīng)組建課題組，共同編制《中國金融行業(yè)AI欺詐與技術(shù)對抗研究報告》，系統梳理了AI欺詐的技術(shù)演進(jìn)、攻防態(tài)勢及應對策略，旨在為行業(yè)提供科學(xué)指引，助力構建安全可信的金融數字生態(tài)。今年是“十四五”規劃收官之年，研究報告積極響應國家關(guān)于“統籌安全與發(fā)展”的核心要求，為金融行業(yè)應對AI時(shí)代的安全挑戰提供了參考解決方案。

全景透視AI欺詐攻防體系

此次報告圍繞 AI 欺詐的定義與特點(diǎn)、技術(shù)周期中的攻防演變史、人工智能時(shí)代金融安全攻防新態(tài)勢、智能防控典型案例分析以及應對當前挑戰的策略和建議節展開(kāi)深入探討，并從理論到實(shí)踐、從歷史到未來(lái)，構建了完整的分析框架。

課題組明確定義了“AI欺詐”的概念，指出其核心是不法分子利用機器學(xué)習、自然語(yǔ)言處理、多媒體技術(shù)及生成式人工智能等AI技術(shù)，通過(guò)生成虛假信息、模仿真實(shí)用戶(hù)行為、繞過(guò)安全驗證機制或自動(dòng)執行詐騙腳本等手段，突破過(guò)往欺詐手段的局限，從而實(shí)現更高程度的自動(dòng)化、智能化和精準化欺詐操作，并以非法牟取利益為目的，精心策劃實(shí)施的欺詐行為。

此外，課題組依據技術(shù)成熟度曲線(xiàn)、麥肯錫數字化轉型方法論以及IDC關(guān)于金融科技安全趨勢的研究成果，并結合中國金融實(shí)踐，將技術(shù)周期中的攻防演變劃分為手工化時(shí)代、信息化時(shí)代、互聯(lián)網(wǎng)時(shí)代、移動(dòng)互聯(lián)時(shí)代以及人工智能時(shí)代五個(gè)階段，并從技術(shù)特點(diǎn)、攻擊方式與防御機制等維度進(jìn)行深入剖析，揭示其在金融安全演進(jìn)中的歷史地位與現實(shí)意義。

陸瑤指出，隨著(zhù)AI技術(shù)發(fā)展，金融欺詐呈現智能化、自動(dòng)化特征。黑灰產(chǎn)利用AI生成虛假人臉、聲紋及偽造材料，并借助自動(dòng)化工具實(shí)施精準詐騙。報告提出金融機構需構建“技術(shù)-策略-機制”三位一體防御體系：技術(shù)上采用深度學(xué)習、多模態(tài)生物特征檢測及生成痕跡識別技術(shù)攔截偽造攻擊；策略上通過(guò)全生命周期風(fēng)控閉環(huán)降低風(fēng)險；機制上推動(dòng)跨機構數據共享與監管協(xié)同，強化行業(yè)聯(lián)防聯(lián)控。課題組特別強調，唯有技術(shù)革新與制度完善并重，方能實(shí)現金融安全與AI創(chuàng )新的平衡發(fā)展。

基于當前行業(yè)實(shí)踐中所應對挑戰的策略和建議，課題組圍繞“監管引領(lǐng)、機構主責、社會(huì )協(xié)同”的立體防御框架展開(kāi)，深入探討了建立AI威脅情報共享機制、儲備算力資源、構建認知對抗體系、培養復合型安全人才、提升全民數字素養、常態(tài)化攻防演練以及建設開(kāi)源情報社區等具體路徑，提煉出“技術(shù)-數據-人才”三位一體的發(fā)展策略，為有效防范和化解AI金融欺詐風(fēng)險提供戰略參考。

新網(wǎng)銀行反欺詐專(zhuān)家王萍表示，人工智能技術(shù)在金融領(lǐng)域的廣泛滲透，正在重塑欺詐風(fēng)險的本質(zhì)和邊界。AI驅動(dòng)的欺詐威脅呈現出前所未有的動(dòng)態(tài)性和復雜性，需要采取更具前瞻性、技術(shù)導向性的創(chuàng )新策略，構建與數字金融時(shí)代相匹配的安全屏障。

以“技術(shù)向善”理念構建防御體系

在發(fā)布會(huì )現場(chǎng)，陸瑤指出，深入研究金融行業(yè)的AI欺詐與技術(shù)對抗，具有重要的現實(shí)意義與理論價(jià)值，此次報告旨在為構建安全、可信、穩定的金融數字生態(tài)貢獻智慧與力量，使人工智能技術(shù)更好地服務(wù)于經(jīng)濟社會(huì )發(fā)展和人民群眾的美好生活需求。

陸瑤強調，技術(shù)對抗的核心是建立動(dòng)態(tài)防御能力，通過(guò)攻防演練、對抗樣本庫更新，形成動(dòng)態(tài)化、智能化、生態(tài)化的防御能力，同時(shí)構建多層次、多維度的機制對抗體系，整合內部資源與外部力量，打通信息壁壘，構筑起堅實(shí)的技術(shù)防線(xiàn)與制度保障。實(shí)現“以AI進(jìn)化對抗AI進(jìn)化”。技術(shù)革新不應成為欺詐工具，而應服務(wù)于社會(huì )福祉。金融機構需以“技術(shù)向善”理念構建防御體系，守住風(fēng)險防控底線(xiàn)。

對于構建防御體系的愿景目標，新網(wǎng)銀行反欺詐專(zhuān)家王萍認為，AI金融欺詐的防御還需要全社會(huì )的共同參與和協(xié)同響應。構建一個(gè)涵蓋公眾教育、產(chǎn)學(xué)研協(xié)作和開(kāi)放情報共享的社會(huì )化防御體系，是增強整個(gè)社會(huì )面對AI金融欺詐韌性的關(guān)鍵路徑。

古語(yǔ)有云“安而不忘危，存而不忘亡，治而不忘亂”，陸瑤呼吁行業(yè)保持警惕：AI技術(shù)的善用與濫用僅在一念之間。唯有以“智”治“智”，推動(dòng)防御體系從被動(dòng)響應轉向主動(dòng)進(jìn)化，才能讓技術(shù)真正成為守護金融安全的“無(wú)形長(cháng)城”。課題組認為，未來(lái)金融安全的核心在于平衡創(chuàng )新與風(fēng)險，通過(guò)技術(shù)迭代、制度優(yōu)化與社會(huì )協(xié)作的三維聯(lián)動(dòng)，實(shí)現AI技術(shù)與金融生態(tài)的良性共生。

面對AI驅動(dòng)下日益復雜的金融欺詐形態(tài)，《中國金融行業(yè)AI欺詐與技術(shù)對抗研究報告》為行業(yè)提供了一套系統性、前瞻性的安全應對邏輯，也為構建可信賴(lài)的數字金融生態(tài)注入了理論支撐。

未來(lái)，新網(wǎng)銀行將持續以科技創(chuàng )新為驅動(dòng)，推動(dòng)AI風(fēng)控模型進(jìn)化迭代，守牢金融安全底線(xiàn)，為打造“安全、高效、公正”的數字金融生態(tài)貢獻更大力量。