網(wǎng)安標委2025年第一次“標準周” | 天融信李雪瑩：保障大模型應用安全應把握“快、新、全”三大原則
4月14至17日，全國網(wǎng)絡安全標準化技術委員會（以下簡稱“網(wǎng)安標委”）2025年第一次全體委員會議暨“標準周”活動在蘇州舉行。天融信科技集團董事長兼CEO李雪瑩博士受邀出席大會并發(fā)表《大模型應用安全風險與防護實踐》主題演講，建議加快立項研究大模型安全防護網(wǎng)關相關國家標準，更好地支撐大模型應用安全快速發(fā)展。
自DeepSeek開源發(fā)布以來，大模型應用已進入“快車道”，各行業(yè)接入大模型的速度加快，推動了生產(chǎn)力的變革，給人民生產(chǎn)生活帶來顛覆式的改變。伴隨新技術、新場景應用，大模型應用帶來的潛藏安全問題日益嚴峻，亟待各方協(xié)同應對，以實現(xiàn)人工智能安全、穩(wěn)健且可持續(xù)發(fā)展。
天融信科技集團董事長兼CEO 李雪瑩博士
在演講中，李雪瑩博士談到，Agent（自主決策型AI代理）和RAG（檢索增強生成）兩種大模型應用模式，雖在技術實現(xiàn)邏輯有所區(qū)別，但均面臨著一定的安全風險。結合天融信自身的研究與實踐，她從大模型應用的基礎設施層、服務層、用戶層、內(nèi)容層、監(jiān)管層五個層面深度剖析了相關風險與防護措施。其中，基礎設施面臨的站點風險屬于通用安全風險，在服務層的API調(diào)用風險、用戶層的交互行為風險、內(nèi)容層的模型濫用風險、監(jiān)管層的合規(guī)風險則為大模型應用特有的風險，層級邏輯上相互關聯(lián)。
安全是發(fā)展的前提，發(fā)展是安全的保障。李雪瑩博士結合近年來天融信在大模型應用安全防護方面的實踐，提煉出“快、新、全”三大原則，有效保障大模型應用安全。
快：部署直接有效的安全措施
當前大模型的應用正處于快速普及階段，需要以直接有效的措施，實現(xiàn)安全防護快速部署，解決大部分問題。
天融信大模型安全防護網(wǎng)關TopLMG是一款專注于為企業(yè)級大模型提供全方位應用安全防護的產(chǎn)品，可有效應對上述五個層面的安全風險，并且充分利用AI技術實現(xiàn)精準、高效防御。TopLMG有硬件形態(tài)、軟件形態(tài)、網(wǎng)元形態(tài)，可支持大模型在不同場景下的安全防護需求，全面符合TC260-003《生成式人工智能服務安全基本要求》和等保2.0三級增強要求等標準。
新：用安全大模型保護大模型安全
大模型的引入帶來了諸多新風險，需要以新措施加以應對，即通過安全大模型來保障大模型的安全性。
針對大模型應用系統(tǒng)本身，天融信通過集成智能體的安全產(chǎn)品和大模型安全防護網(wǎng)關構建基礎防護體系；針對接入互聯(lián)網(wǎng)的場景，本地安全防護手段可以訂閱云端服務來應對攻擊的變化，更復雜的問題可以利用云端部署的安全大模型進行分析，實現(xiàn)新型威脅和攻擊的有效應對；針對不能上云的場景，可以在本地部署天問大模型并與態(tài)勢感知系統(tǒng)聯(lián)動，提供智能化的安全防御。用戶可以通過瀏覽器、APP、小程序等隨時隨地監(jiān)控防護效果、配置防護策略。
此外，李雪瑩博士還提到，天融信自研的天問大模型在2024年已通過“生成式人工智能服務備案”和“境內(nèi)深度合成服務算法備案”雙備案。
全：以體系化安全保障大模型應用
大模型安全風險涉及面較廣，因此需要通過體系化的安全建設來保障大模型的整體應用安全。
互聯(lián)互通是網(wǎng)絡安全能力躍遷的必經(jīng)之路，李雪瑩博士提出大模型應用安全的體系化防護還需要廠商、產(chǎn)品之間的互聯(lián)互通。天融信大模型應用安全防護體系框架由一個中心、三大安全能力支撐和X類標準化防護組成。其中一個中心是指大模型安全運營中心，負責統(tǒng)籌協(xié)同各安全能力，支撐全網(wǎng)大模型安全運營工作；三大安全能力是指面向大模型應用安全的風險監(jiān)測能力、安全防護能力和響應處置能力；X類標準化防護是指提供網(wǎng)絡、系統(tǒng)、應用、數(shù)據(jù)、終端層面多種標準化技術防護手段，通過互聯(lián)互通協(xié)議，打通來自多家的防護產(chǎn)品，彼此聯(lián)動智能化支撐上層安全能力的有效落地，保障大模型應用安全。
作為全國網(wǎng)絡安全標準委員會委員，李雪瑩博士一直積極參加網(wǎng)安標委相關的工作。在演講最后，她結合政策、標準規(guī)劃以及產(chǎn)業(yè)層面的觀察，建議加快立項研究大模型安全防護網(wǎng)關相關國家標準，更好地支撐大模型應用安全快速發(fā)展。
“人工智能+”賦能各行各業(yè)蓬勃發(fā)展，成為推動經(jīng)濟高質量增長的重要力量。技術發(fā)展得越快，安全保障的需求就越迫切。未來，天融信將以“人工智能+”為錨點，持續(xù)打造AI+安全融合發(fā)展新范式，不斷推動AI技術在各行各業(yè)更廣泛、更深遠地應用，筑牢數(shù)字經(jīng)濟高質量發(fā)展安全底座。
相關閱讀
1、天融信李雪瑩博士：互聯(lián)互通是網(wǎng)絡安全能力躍遷的必經(jīng)之路！
