天融信：DeepSeek接入潮，容器安全筑牢AI算力防線！
近期，以DeepSeek為代表的國產大模型部署數量呈指數級增長，企業(yè)爭相把它請進自家機房，希望借助大模型的力量提升業(yè)務競爭力。繁榮景象背后，企業(yè)也面臨著多模型、多環(huán)境、多場景下的安全大考。
容器技術是云計算和DevOps實踐的核心組件，已成為大模型部署與運行的重要支撐。其具備輕量級、可移植性和高效性，能助力大模型本地部署實現安全管理、快速部署、靈活擴展及高效交付。
訓練環(huán)境管理：大模型訓練需要復雜的軟件環(huán)境和強大的硬件資源（如GPU）支持。容器技術能有效管理訓練環(huán)境，支持任務單獨運行，借助編排工具還可動態(tài)分配GPU和CPU資源，避免模型訓練沖突，提升資源利用率。
推理服務部署：大模型推理服務要求高可用性和低延遲。容器技術將其打包成鏡像，可快速部署到生產環(huán)境，利用Kubernetes負載均衡，將請求分發(fā)至多個實例，提高服務可用性與性能。
持續(xù)集成與交付：大模型開發(fā)部署需頻繁迭代更新。容器技術將訓練和推理代碼打包成鏡像，實現自動化構建測試，提高開發(fā)效率。借助編排工具，還能無縫進行版本更新和回滾，保障開發(fā)部署順利。
多租戶環(huán)境支持：大模型平臺化服務中，多個用戶或團隊通常共享基礎設施。容器技術支持多租戶安全隔離，通過資源限制為各用戶或團隊分配獨立配額，讓大模型在獨立容器中運行，實現數據共享，避免數據泄露和環(huán)境沖突。
隨著容器技術的廣泛應用，為大模型部署提供了諸多便利，與此同時也帶來了新的安全挑戰(zhàn)。
鏡像潛藏的定時炸彈
大模型一般使用已經打包好的基礎容器鏡像進行部署，一旦使用了含漏洞或惡意代碼的容器鏡像，就如同埋下一顆定時炸彈。例如，在模型訓練時，攻擊者可以利用鏡像中的惡意代碼，獲取用戶私有數據，并進行非法售賣，這將給用戶帶來不可估計的損失。
運行漏洞的越獄危機
攻擊者可以利用容器運行時的漏洞，突破容器隔離，訪問主機系統(tǒng)或其他容器。例如，2019年發(fā)現的RunC漏洞（CVE-2019-5736）允許攻擊者從容器內逃逸到主機，導致用戶的GPU資源被惡意控制和使用，如用于挖礦等行為，給用戶的硬件投資帶來嚴重損失。
網絡通信的諜影迷霧
容器之間的網絡通信極有可能成為攻擊者的目標。一旦一個容器被入侵，攻擊者可能通過網絡橫向移動到其他容器或主機。如果容器之間的通信未加密，還可能被竊聽或篡改，嚴重威脅數據安全。
編排工具的隱秘后門
容器編排工具（如Kubernetes）的配置不當堪比后門大開。攻擊者可能通過未授權的API訪問控制整個容器集群。例如，開放的Kubernetes Dashboard若因錯誤暴露，可能被攻擊者利用獲取集群的控制權。
四大維度切入
應對大模型應用過程中容器風險
天融信容器安全檢測系統(tǒng)基于DevSecOps理念開發(fā)，以環(huán)境安全、鏡像安全、網絡安全、工作負載安全四大維度為切入點，覆蓋云原生應用從構建、分發(fā)到運行的各個階段，提供鏡像掃描、運行防護、零信任微隔離與合規(guī)基線檢查等功能，實現容器全生命周期的安全防護，幫助客戶解決AI大模型應用過程中容器逃逸攻擊、供應鏈攻擊等安全風險。
鏡像掃描：對本地鏡像、倉庫鏡像展開安全分析，及時發(fā)現鏡像中包含的軟件漏洞、惡意代碼、敏感信息等安全風險，有助于在早期深入發(fā)現軟件供應鏈和技術棧中潛在的安全風險，有效減少系統(tǒng)的攻擊面，提高攻擊門檻。
運行防護：通過監(jiān)控容器內部網絡、文件、進程、系統(tǒng)調用等數據分析，建立行為基線，持續(xù)監(jiān)測容器逃逸行為風險，覆蓋木馬病毒、挖礦病毒、提權、反彈shell等多種威脅場景。
零信任微隔離：通過流量分析自動生成容器業(yè)務之間的通信的關系，并且根據通信關系了解業(yè)務端口通信情況，自動生成微隔離策略，保障容器間通信安全。
合規(guī)基線檢查：內置容器、容器鏡像、主機、k8s多種類型的基線庫，對各類資產的配置進行合規(guī)性檢查并給出整改意見，降低容器環(huán)境安全風險。
隨著DeepSeek接入越來越多的平臺，API接口在大模型的訓練、推理和數據交換中頻繁使用也帶來了未授權訪問、數據泄露、濫用與攻擊等安全問題。天融信零信任API代理系統(tǒng)基于分布式微服務架構開發(fā)，采用流量控制、攻擊防御、訪問認證、數據防泄露等多頂核心技術，支持大模型API進行統(tǒng)一管理和安全防護，解決應用API接口對外提供服務過程中惡意訪問、敏感數據泄露，DDoS攻擊等安全問題。
此外，針對大模型系統(tǒng)安全防護，天融信已推出專用大模型安全評估產品與服務，全面支持DeepSeek、通義千問、Kimi、文心一言、豆包等主流大模型，并對防火墻、WAF、網絡防泄露等產品進行全面升級，為大模型安全運行提供堅實安全保障（點擊查看更多詳情）。
隨著DeepSeek等開源大模型的普及，大模型的安全需求將更加多元化和復雜化。云安全與大模型的深度融合將成為趨勢，共同構建安全可信的AI生態(tài)，為各行各業(yè)的數字化轉型保駕護航。天融信將持續(xù)創(chuàng)新，提供更加智能、全面的安全解決方案，助力大模型在安全邊界內釋放無限潛能。
相關閱讀
2、天融信：DeepSeek行業(yè)應用加速，大模型安全“短板”亟待補齊！
