2025年3月28日，由DTinsight中國數(shù)智發(fā)展研究中心主辦，珠峰AI、TGO20組、DT千川匯作為智庫支持，以“探索未至之境”為主題的第二屆AI大模型企業(yè)落地應(yīng)用場景創(chuàng)新峰會主論壇在上海閉幕。騰訊云安全總經(jīng)理李濱受邀出席了主論壇，并進(jìn)行了題為《攻防對抗升級：大模型如何重構(gòu)網(wǎng)絡(luò)安全戰(zhàn)場》的主題演講。

騰訊云安全總經(jīng)理 李濱

“未來是AI對抗AI的時代，靠人工去對抗手中擁有大量科研工具的黑客，顯然是不現(xiàn)實的�！崩顬I表示，AI和大模型帶來了攻防雙方的全面升級，要應(yīng)對大模型伴生的安全問題，企業(yè)需要從組織架構(gòu)、技術(shù)儲備等各個方面調(diào)整策略，以應(yīng)對挑戰(zhàn)，“我們需要建立一個和AI共生的安全體系�！�

作為網(wǎng)絡(luò)安全領(lǐng)軍企業(yè)，騰訊安全也一直致力于推進(jìn)大模型前沿安全研究，完善大模型在基礎(chǔ)設(shè)施、應(yīng)用層面的各種安全治理機(jī)制，推出各種高性能產(chǎn)品幫助企業(yè)應(yīng)對AI時代的安全風(fēng)險，并聯(lián)合CSA云安全聯(lián)盟大中華區(qū)、OWASP中國等權(quán)威機(jī)構(gòu)推動大模型相關(guān)安全標(biāo)準(zhǔn)的落地。

大模型應(yīng)用加速 安全攻防全面升級

伴隨Deepseek帶來的深度推理的突破，企業(yè)應(yīng)用AI的熱情高漲，大模型正在加速滲透進(jìn)各行各業(yè)，為解決產(chǎn)業(yè)痛點(diǎn)帶來了全新的思路，但在安全從業(yè)者看來，這也意味著巨大的安全挑戰(zhàn)。

“人工智能技術(shù)的普遍應(yīng)用，實現(xiàn)了物理世界和數(shù)字世界的廣泛連接，也打破了傳統(tǒng)的數(shù)字安全的邊界�！崩顬I表示，傳統(tǒng)的數(shù)字安全普遍是在IT系統(tǒng)之內(nèi)，發(fā)生安全事故的后果主要是系統(tǒng)宕機(jī)、服務(wù)癱瘓，但是在AI時代，物理世界和數(shù)字世界高度融合，信息安全事故可能會蔓延到物理世界中，造成更大面積的影響。

此外，大模型還將帶來幾方面的安全挑戰(zhàn)，一是大模型賦能于攻擊側(cè)，李濱舉例，人工智能應(yīng)用于攻擊代碼和工具編寫等環(huán)節(jié)之后，攻擊者進(jìn)行漏洞利用的速度比2年之前提升了10倍以上，另外在一些常用的攻擊手段上，例如釣魚郵件、自動化代碼攻擊方面的效率也有巨大的飛躍；二是大模型本體的安全問題，模型本體的安全缺陷，以及部署和應(yīng)用過程中不當(dāng)?shù)陌踩渲茫加锌赡芤氚踩L(fēng)險，包括AI幻覺、違規(guī)內(nèi)容、虛假信息、偏見歧視、隱私泄露、大模型惡意濫用等。

但是，作為一把“雙刃劍”，大模型同時也賦能于防御側(cè)，帶來攻防雙方的動態(tài)平衡。例如，大模型極大地提升了安全管理和事件響應(yīng)處置的效率，例如過去5年以來互聯(lián)網(wǎng)上出現(xiàn)的安全事件中，約有20%都是由各類安全權(quán)限配不當(dāng)引起的，通過大模型的賦能，企業(yè)可以實現(xiàn)更優(yōu)化的安全策略管理；例如在告警分析上，企業(yè)的安全設(shè)備每天會產(chǎn)生海量告警，其中只有少數(shù)是真正的威脅，過去在這些告警分析上企業(yè)需要消耗大量人力，而大模型可以通過各類安全和專用的模型去對這類的數(shù)據(jù)進(jìn)行分析，快速發(fā)現(xiàn)已知和未知的安全風(fēng)險。

李濱認(rèn)為，大模型目前還處在初期時代，未來隨著大模型逐步釋放出更大的生產(chǎn)力，會應(yīng)用在越來越多的地方，我們也需要有相應(yīng)的策略去應(yīng)對安全問題和風(fēng)險，需要建立和AI共生的安全體系。

從技術(shù)到組織體系全面升級 構(gòu)建AI時代的動態(tài)安全生態(tài)

大模型深入企業(yè)業(yè)務(wù)流程，它的安全問題不只是某個局部的安全對抗，而涉及整個安全體系的升級。李濱認(rèn)為，需要從技術(shù)層、管理層、合規(guī)層和倫理層四個層面構(gòu)建AI時代的動態(tài)安全生態(tài)。

騰訊擁有自研大模型混元，并通過騰訊云向企業(yè)客戶提供大模型部署需要的基礎(chǔ)設(shè)施和云計算相關(guān)服務(wù)，同時騰訊也擁有面向C端用戶的大模型應(yīng)用“元寶”�？梢哉f，騰訊在大模型的應(yīng)用覆蓋了從底層技術(shù)研究、企業(yè)服務(wù)到終端應(yīng)用的全鏈路的解決方案。依托于騰訊在大模型上的“全局視角”，騰訊安全建立了一套系統(tǒng)性的框架，對整個人工智能以及大模型的安全進(jìn)行完備的風(fēng)險分析，通過業(yè)務(wù)流和技術(shù)棧兩個維度，來分析人工智能在本體安全、運(yùn)行環(huán)境和基礎(chǔ)設(shè)施，應(yīng)用環(huán)境中和應(yīng)用環(huán)境周邊發(fā)生的一些風(fēng)險缺陷。

在風(fēng)險控制框架之下，騰訊也建立了大模型相關(guān)整體安全治理架構(gòu)，從數(shù)據(jù)采集、模型訓(xùn)練、代理部署到業(yè)務(wù)應(yīng)用的全流程，均滿足監(jiān)管要求，為企業(yè)提供安全、可控、可靠的服務(wù)。

數(shù)據(jù)安全是企業(yè)應(yīng)用大模型服務(wù)的一個“痛點(diǎn)”，對數(shù)據(jù)安全的擔(dān)憂直接影響了企業(yè)決定采取哪個模型本體、哪種部署方式。為了幫助企業(yè)解決這個問題，騰訊云也推出了跨模型數(shù)據(jù)安全和隱私保護(hù)框架，該框架覆蓋了數(shù)據(jù)采集的合規(guī)性以及數(shù)據(jù)基礎(chǔ)的保護(hù)，數(shù)據(jù)的分類、分級評估和治理，數(shù)據(jù)在訓(xùn)練和推理過程中的安全保護(hù)機(jī)制，以及數(shù)據(jù)輸入輸出環(huán)節(jié)中的保障機(jī)制的建立，覆蓋了大模型從采集、部署、訓(xùn)練、推理的全流程鏈條。

李濱重點(diǎn)提出，在內(nèi)容輸入和輸出環(huán)節(jié)，由于樣本劫持、數(shù)據(jù)投毒或者模型本身的幻覺等原因，大模型可能會生成有風(fēng)險的內(nèi)容，而騰訊天御基于多年內(nèi)容安全的能力，能幫助企業(yè)進(jìn)行大模型應(yīng)對這一安全隱患。

在攻防對抗與情報方面，騰訊云建立了大模型安全Red Team對抗機(jī)制，以騰訊的安全專家能力為基礎(chǔ)，建立針對大模型的安全測試方法，主動發(fā)現(xiàn)大模型及生態(tài)存在的風(fēng)險，并依托這些安全研究成果，研發(fā)了專門針對大模型進(jìn)行安全保護(hù)的大模型安全態(tài)勢感知系統(tǒng)AI-SPM和大模型智能安全網(wǎng)關(guān)LLM-WAF，為企業(yè)大模型應(yīng)用進(jìn)行全生命周期保障護(hù)航。

此外，騰訊也積極參與大模型相關(guān)標(biāo)準(zhǔn)的制定工作。去月，世界數(shù)字技術(shù)院（WDTA）發(fā)布了一系列突破性成果，包括《生成式人工智能應(yīng)用安全測試標(biāo)準(zhǔn)》和《大語言模型安全測試方法》兩項國際標(biāo)準(zhǔn)，這是國際組織首次就大模型安全領(lǐng)域發(fā)布國際標(biāo)準(zhǔn)，騰訊也是這兩項標(biāo)準(zhǔn)的起草單位之一。騰訊云還積極和CSA云安全聯(lián)盟大中華區(qū)在人工智能方向合作研究大模型安全評估方法，并參與《大模型供應(yīng)鏈安全要求》標(biāo)準(zhǔn)審核工作。