近日，天融信大模型安全網(wǎng)關(guān)系統(tǒng)（TopLMG）率先通過國(guó)家網(wǎng)絡(luò)與信息系統(tǒng)安全產(chǎn)品質(zhì)量檢驗(yàn)檢測(cè)中心（公安部第三研究所）測(cè)試，獲首張《大模型安全防護(hù)圍欄產(chǎn)品認(rèn)證（增強(qiáng)級(jí)）》證書。

證書可通過國(guó)家認(rèn)證認(rèn)可監(jiān)督管理委員會(huì)網(wǎng)站(http://cx.cnca.cn/)或認(rèn)證中心官網(wǎng)(http://www.trimps.net.cn/)進(jìn)行查詢。公安部第三研究所期望首張證書的頒發(fā)能推動(dòng)社會(huì)各界更加重視大模型安全，促進(jìn)大模型安全防護(hù)技術(shù)和相關(guān)產(chǎn)品的持續(xù)創(chuàng)新與優(yōu)化升級(jí)。

目前，以大模型等為代表的人工智能技術(shù)快速發(fā)展，正在深刻改變?nèi)藗兊纳a(chǎn)方式和經(jīng)濟(jì)形態(tài)，已成為影響人類未來發(fā)展的關(guān)鍵變量。2025年政府工作報(bào)告明確提出“持續(xù)推進(jìn)‘人工智能+’行動(dòng)，支持大模型廣泛應(yīng)用”。隨著大模型技術(shù)在各行業(yè)的深入應(yīng)用，其全生命周期安全風(fēng)險(xiǎn)呈現(xiàn)復(fù)雜化、隱蔽化特征，大模型惡意投毒、API接口暴力破解、訓(xùn)練數(shù)據(jù)批量泄露、提示詞注入攻擊等安全威脅，已成為產(chǎn)業(yè)發(fā)展的主要障礙。

天融信大模型安全網(wǎng)關(guān)系統(tǒng) TopLMG

天融信依托對(duì)大模型自身安全風(fēng)險(xiǎn)和應(yīng)用安全風(fēng)險(xiǎn)的深度研究，融合專項(xiàng)防護(hù)與通用安全技術(shù)，基于《OWASP Top 10 for LLMs》《生成式人工智能服務(wù)安全基本要求 TC260 - 003》等行業(yè)標(biāo)準(zhǔn)，提出針對(duì)大模型基礎(chǔ)設(shè)施層、服務(wù)層、用戶層、內(nèi)容層、監(jiān)管層的多層級(jí)安全防護(hù)體系，并自主研發(fā)天融信大模型安全網(wǎng)關(guān)系統(tǒng)（TopLMG），為企業(yè)級(jí)大模型服務(wù)構(gòu)建全方位的安全防護(hù)屏障。

● 基礎(chǔ)設(shè)施層（站點(diǎn)風(fēng)險(xiǎn)）

作為大型IT基礎(chǔ)設(shè)施，大模型服務(wù)的前端交互界面與傳統(tǒng)Web應(yīng)用面臨相似的安全威脅，如權(quán)限控制漏洞、認(rèn)證繞過等傳統(tǒng)設(shè)計(jì)風(fēng)險(xiǎn)，以及開源/商業(yè)組件漏洞（如SQL注入、命令注入）形成攻擊入口的供應(yīng)鏈風(fēng)險(xiǎn)。

天融信TopLMG采用了國(guó)內(nèi)領(lǐng)先的“規(guī)則匹配+行為分析”雙引擎檢測(cè)機(jī)制，通過內(nèi)置大量Web應(yīng)用相關(guān)的組件和漏洞特征規(guī)則庫(kù)，為大模型服務(wù)提供虛擬補(bǔ)丁功能，有效防護(hù)各類針對(duì)大模型暴露面的軟件漏洞攻擊，大大降低了大模型應(yīng)用系統(tǒng)遭受攻擊的風(fēng)險(xiǎn)。

● 服務(wù)層（API調(diào)用風(fēng)險(xiǎn)）

大模型對(duì)外開放的API接口作為連接外部應(yīng)用的核心通道，容易遭受攻擊。API攻擊利用未授權(quán)訪問或數(shù)據(jù)泄露漏洞，可針對(duì)大模型接口實(shí)施惡意操作。

天融信TopLMG內(nèi)置API引擎，通過實(shí)時(shí)監(jiān)控API接口，并對(duì)API接口進(jìn)行實(shí)時(shí)檢測(cè)和限速，動(dòng)態(tài)攔截暴力破解、參數(shù)篡改等惡意請(qǐng)求，形成從攻擊防御到內(nèi)容管控的全鏈路安全閉環(huán)。

● 用戶層（交互行為風(fēng)險(xiǎn)）

提示詞注入攻擊是大模型交互場(chǎng)景下的典型安全威脅。攻擊者通過構(gòu)造惡意指令（如越獄提示、語義混淆）繞過內(nèi)容過濾，誘導(dǎo)模型輸出違法信息或泄露敏感數(shù)據(jù)。

天融信TopLMG提示詞引擎通過上下文風(fēng)險(xiǎn)感知和意圖識(shí)別技術(shù)，對(duì)輸入提示詞進(jìn)行合規(guī)校驗(yàn)，阻斷非法內(nèi)容生成，實(shí)現(xiàn)對(duì)角色扮演與虛構(gòu)情景、反向誘導(dǎo)與逆向思維、基于令牌的越獄、代碼形式繞過、DAN、米斯特助手漏洞等提示詞注入攻擊的檢測(cè)防護(hù)。

● 內(nèi)容層（模型濫用風(fēng)險(xiǎn)）

大模型輸出內(nèi)容的質(zhì)量決定了其應(yīng)用價(jià)值和社會(huì)影響，攻擊者可利用大模型生成各類違規(guī)內(nèi)容（如虛假信息、深度偽造信息、惡意代碼），或?qū)⒂?xùn)練數(shù)據(jù)中隱含的隱私信息（如用戶身份、交易細(xì)節(jié)）以生成內(nèi)容形式間接暴露。

天融信TopLMG能夠?qū)γ舾袛?shù)據(jù)進(jìn)行實(shí)時(shí)過濾，有效抵御惡意用戶通過非法手段竊取大模型數(shù)據(jù)庫(kù)中的業(yè)務(wù)數(shù)據(jù)或敏感信息，保障數(shù)據(jù)安全。同時(shí)，系統(tǒng)能夠攔截用戶輸入的非法提示詞和惡意代碼，防止大模型輸出違法和不良信息，確保輸出內(nèi)容的準(zhǔn)確性、合規(guī)性和安全性。

● 監(jiān)管層（合規(guī)風(fēng)險(xiǎn)）

隨著大模型監(jiān)管趨嚴(yán)，相關(guān)政策法規(guī)不斷出臺(tái)，需確保大模型從訓(xùn)練到推理階段的全生命周期合規(guī)。

天融信TopLMG依托采集的海量?jī)r(jià)值觀數(shù)據(jù)，完成價(jià)值觀模型的訓(xùn)練構(gòu)建，防止模型輸出不符合國(guó)家法律法規(guī)、涉及政治敏感因素以及價(jià)值觀不正確等內(nèi)容，高效滿足監(jiān)管要求，全方位保障大模型交互內(nèi)容的合規(guī)性與安全性。

在網(wǎng)安標(biāo)委2025年第一次全體委員會(huì)議暨“標(biāo)準(zhǔn)周”活動(dòng)上，天融信科技集團(tuán)董事長(zhǎng)兼CEO李雪瑩博士結(jié)合近年來天融信在大模型應(yīng)用安全防護(hù)方面的實(shí)踐，提出把握“快、新、全”三大原則，有效保障大模型應(yīng)用安全。

在大模型安全防御方面，天融信已打造體系化的大模型系統(tǒng)安全防護(hù)解決方案，針對(duì)數(shù)據(jù)泄露、惡意注入等風(fēng)險(xiǎn)提供精準(zhǔn)防護(hù)，實(shí)現(xiàn)安全“識(shí)別–保護(hù)–檢測(cè)-響應(yīng)–恢復(fù)”的可持續(xù)迭代，助力實(shí)現(xiàn)覆蓋大模型全生命周期的體系化安全防護(hù)。

2025年，天融信開啟第四個(gè)“十年”，將全面擁抱新技術(shù)方向，融智躍遷，致力于成為中國(guó)領(lǐng)先的網(wǎng)絡(luò)安全與智算云解決方案提供商。未來，天融信將持續(xù)深化對(duì)大模型內(nèi)生與應(yīng)用安全風(fēng)險(xiǎn)的研究，為大模型產(chǎn)業(yè)化應(yīng)用提供全維度防護(hù)支撐，保障大模型技術(shù)賦能千行百業(yè)。

相關(guān)閱讀

1、天融信李雪瑩：保障大模型應(yīng)用安全應(yīng)把握“快、新、全”三大原則

2、天融信：DeepSeek行業(yè)應(yīng)用加速，大模型安全“短板”亟待補(bǔ)齊！

3、天融信智能防火墻筑基動(dòng)態(tài)防御，以AI創(chuàng)新守護(hù)網(wǎng)絡(luò)安全新時(shí)代

4、天融信通過中國(guó)信通院安全大模型能力評(píng)估