《信息安全研究》訪談天融信：國(guó)產(chǎn)應(yīng)用崛起背后的網(wǎng)絡(luò)安全保衛(wèi)戰(zhàn)
文章來(lái)源：《信息安全研究》
原標(biāo)題：訪談｜天融信：國(guó)產(chǎn)應(yīng)用崛起背后的網(wǎng)絡(luò)安全保衛(wèi)戰(zhàn)
編者按
春節(jié)前夕，DeepSeek-R1發(fā)布，用較低的成本達(dá)到了接近于美國(guó)開放人工智能研究中心（OpenAI）開發(fā)的GPT-01模型的性能，并迅速登頂中美兩區(qū)蘋果應(yīng)用市場(chǎng)免費(fèi)榜榜單，“人工智能的斯普特尼克時(shí)刻”的說(shuō)法不脛而走。然而，伴隨著用戶量的爆發(fā)式增長(zhǎng)，DeepSeek遭受了大規(guī)模網(wǎng)絡(luò)攻擊，這一情況引發(fā)了各界的高度關(guān)注，為此天融信安全專家針對(duì)國(guó)產(chǎn)軟件安全防護(hù)提出了針對(duì)性的建議。
以DDoS為基礎(chǔ)的綜合攻擊行為
針對(duì)DeepSeek的攻擊流量規(guī)模在全球DDoS事件中名列前茅。根據(jù)已公開的數(shù)據(jù)，DeepSeek的服務(wù)器集群曾遭受每秒超過(guò)2.3億次的DDoS惡意請(qǐng)求攻擊。天融信技術(shù)專家王媛媛分析指出，從技術(shù)手法來(lái)看，前期主要是DDoS攻擊，攻擊者運(yùn)用HTTP代理攻擊，通過(guò)大量代理服務(wù)器向DeepSeek發(fā)送請(qǐng)求，擾亂正常網(wǎng)絡(luò)通信。在攻擊過(guò)程中，還疑似出現(xiàn)數(shù)據(jù)泄露問(wèn)題，涵蓋用戶聊天記錄、API密鑰、后端操作細(xì)節(jié)等數(shù)據(jù)。與此同時(shí)，隨著人工智能技術(shù)的發(fā)展，AI攻擊的形式日益多樣化和復(fù)雜化。除傳統(tǒng)網(wǎng)絡(luò)攻擊方式外，攻擊者還利用AI獨(dú)特能力增強(qiáng)攻擊效果，提高攻擊的隱蔽性。
她認(rèn)為，大模型系統(tǒng)在業(yè)務(wù)運(yùn)營(yíng)中面臨大量安全風(fēng)險(xiǎn)，不僅源于技術(shù)本身的缺陷和不足，還可能因不當(dāng)使用、濫用甚至惡意利用而加劇。大模型系統(tǒng)在眾多應(yīng)用場(chǎng)景中處理大量敏感數(shù)據(jù)和個(gè)人信息，如用戶搜索記錄、社交媒體互動(dòng)或交易信息等。遭受攻擊可能導(dǎo)致數(shù)據(jù)被竊取，也可能造成服務(wù)中斷、用戶流失。
同時(shí)，大模型本身若存在缺陷或后門，也會(huì)成為攻擊者的目標(biāo)，帶來(lái)嚴(yán)重安全隱患。例如，針對(duì)模型的投毒攻擊可能操控模型輸出結(jié)果，產(chǎn)生不良影響或干擾正常業(yè)務(wù)運(yùn)行。此外，大模型生成的內(nèi)容可能引發(fā)虛假信息傳播、歧視偏見(jiàn)、隱私泄露、侵權(quán)、有害內(nèi)容等問(wèn)題，進(jìn)而威脅公民生命財(cái)產(chǎn)安全、國(guó)家安全、意識(shí)形態(tài)安全和倫理安全。
網(wǎng)絡(luò)安全重要性不容忽視
在競(jìng)爭(zhēng)壓力和成本壓縮的雙重影響下，我國(guó)國(guó)產(chǎn)化軟件企業(yè)在網(wǎng)絡(luò)安全運(yùn)營(yíng)方面普遍存在安全投入不足、安全開發(fā)管理流于形式、數(shù)據(jù)保護(hù)體系不健全以及網(wǎng)絡(luò)安全對(duì)抗意識(shí)不足等問(wèn)題，這些問(wèn)題已成為制約行業(yè)發(fā)展的共性挑戰(zhàn)。
對(duì)此，天融信解決方案專家張博認(rèn)為，大模型的安全防護(hù)，需從體系化角度出發(fā)，針對(duì)模型算法、數(shù)據(jù)、系統(tǒng)以及信息內(nèi)容安全等關(guān)鍵領(lǐng)域制定切實(shí)有效的防范措施。天融信基于在安全領(lǐng)域多年的研究，打造出體系化的大模型系統(tǒng)安全防護(hù)解決方案。該方案深度融合管理規(guī)范與技術(shù)手段，針對(duì)數(shù)據(jù)泄露、惡意注入等風(fēng)險(xiǎn)提供精準(zhǔn)防護(hù)，并實(shí)現(xiàn)安全“識(shí)別—保護(hù)—檢測(cè)—響應(yīng)—恢復(fù)”的可持續(xù)迭代，助力實(shí)現(xiàn)覆蓋大模型全生命周期的體系化安全防護(hù)。
建議國(guó)內(nèi)高科技企業(yè)自身建立對(duì)抗性安全運(yùn)營(yíng)體系，將產(chǎn)品與人員（專家）、手段、流程融合為聯(lián)動(dòng)整體，從事件驅(qū)動(dòng)、情報(bào)驅(qū)動(dòng)、對(duì)抗驅(qū)動(dòng)、狩獵驅(qū)動(dòng)四方面綜合考慮，運(yùn)用先進(jìn)的網(wǎng)絡(luò)安全監(jiān)測(cè)與防護(hù)技術(shù)，充分進(jìn)行攻擊面識(shí)別、網(wǎng)絡(luò)入侵和威脅檢測(cè)，以及安全防護(hù)策略升級(jí)。還可通過(guò)紅藍(lán)對(duì)抗檢測(cè)自身安全防護(hù)水平。此外，在網(wǎng)絡(luò)安全運(yùn)營(yíng)過(guò)程中，也可使用AI大模型應(yīng)對(duì)新型攻擊。
DeepSeek接入即能力
目前天融信發(fā)布的天問(wèn)大模型已完成與DeepSeek-R1的對(duì)接，接入DeepSeek后的天問(wèn)大模型在安全事件檢測(cè)精度和覆蓋面、威脅情報(bào)的融合以及生產(chǎn)能力等方面均得到提升。天問(wèn)大模型在多個(gè)應(yīng)用場(chǎng)景實(shí)現(xiàn)“質(zhì)變”，能夠提升事件檢測(cè)效率與精度、增強(qiáng)威脅情報(bào)生產(chǎn)與分析能力并提升安全運(yùn)營(yíng)的效率和響應(yīng)速度。張博還表示，未來(lái)，國(guó)產(chǎn)大模型可以重點(diǎn)考慮做好隱私保護(hù)與數(shù)據(jù)安全，開展大模型對(duì)抗能力或者說(shuō)模型魯棒性的研究。
相關(guān)閱讀
1、天融信正式接入DeepSeek！強(qiáng)化大模型網(wǎng)絡(luò)安全防護(hù)勢(shì)在必行
2、是標(biāo)桿，也是唯一！@網(wǎng)絡(luò)安全AI大模型企業(yè)案例
