近日，由杭州市委宣傳部、杭州市余杭區(qū)人民政府主辦，以“法治引領(lǐng)，數(shù)安護(hù)航”為主題的2023數(shù)字安全與法治論壇在浙江杭州成功舉辦。天融信科技集團(tuán)受邀出席本次論壇活動(dòng)，并在圓桌討論環(huán)節(jié)圍繞“人工智能治理挑戰(zhàn)與應(yīng)對(duì)”主題，共同為人工智能的安全治理提供建設(shè)性解決思路。此外，論壇為優(yōu)秀網(wǎng)信企業(yè)頒發(fā)了“2023年數(shù)據(jù)安全典型實(shí)踐案例”證書(shū)，天融信憑借《消費(fèi)金融數(shù)據(jù)安全治理案例》成功入選典型實(shí)踐案例。

在圓桌討論環(huán)節(jié)中，天融信科技集團(tuán)助理總裁張博表示，當(dāng)前生成式人工智能需要大量的數(shù)據(jù)來(lái)進(jìn)行訓(xùn)練，如何確保訓(xùn)練所用數(shù)據(jù)和生成內(nèi)容的安全、隱私和法律合規(guī)對(duì)于企業(yè)來(lái)講是一個(gè)重大挑戰(zhàn)。目前，已發(fā)現(xiàn)多種方式對(duì)人工智能模型進(jìn)行的攻擊，保障模型自身安全是人工智能應(yīng)用亟待解決的難題。發(fā)展和安全相輔相成、互為條件，人工智能安全治理同樣需要在發(fā)展中實(shí)踐探索。

天融信科技集團(tuán)助理總裁 張博

原始數(shù)據(jù)集分類分級(jí)，敏感數(shù)據(jù)脫敏

在AI數(shù)據(jù)訓(xùn)練方面應(yīng)關(guān)注解決數(shù)據(jù)泄露、數(shù)據(jù)投毒等問(wèn)題，對(duì)原始數(shù)據(jù)集進(jìn)行分類分級(jí)，對(duì)敏感數(shù)據(jù)進(jìn)行脫敏，對(duì)數(shù)據(jù)使用權(quán)限進(jìn)行控制。

加強(qiáng)自身安全檢測(cè)，提升AI應(yīng)用開(kāi)發(fā)安全

在AI應(yīng)用開(kāi)發(fā)方面應(yīng)關(guān)注解決系統(tǒng)自身可能存在的安全風(fēng)險(xiǎn)問(wèn)題，加強(qiáng)代碼安全性測(cè)試、軟硬件供應(yīng)鏈安全檢查、漏洞檢測(cè)等措施。

定期評(píng)估AI資產(chǎn)安全，構(gòu)建安全防護(hù)體系

在系統(tǒng)運(yùn)營(yíng)方面應(yīng)關(guān)注解決AI系統(tǒng)運(yùn)行安全問(wèn)題，除了參照相關(guān)安全標(biāo)準(zhǔn)構(gòu)建完備的安全防護(hù)體系外，應(yīng)結(jié)合資產(chǎn)掃描、風(fēng)險(xiǎn)評(píng)估等技術(shù)手段，對(duì)AI資產(chǎn)的安全狀況及安全防護(hù)效果進(jìn)行定期評(píng)估驗(yàn)證。

天融信持續(xù)探索智能化安全發(fā)展，目前已推出基于AI的樣本檢測(cè)、情報(bào)抽取與分析、自動(dòng)化網(wǎng)絡(luò)訪問(wèn)策略生成、AI安全知識(shí)生成、風(fēng)險(xiǎn)預(yù)測(cè)和決策行動(dòng)等一系列AI融合成果，使企業(yè)可以更快速地發(fā)現(xiàn)潛在的威脅，進(jìn)一步加速安全智能化進(jìn)程。

豐富實(shí)踐積累 持續(xù)高效創(chuàng)新

“2023年數(shù)據(jù)安全典型實(shí)踐案例”征集活動(dòng)由中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)發(fā)起，經(jīng)業(yè)內(nèi)專家評(píng)審，遴選出在技術(shù)創(chuàng)新、應(yīng)用創(chuàng)新、實(shí)用性效果方面表現(xiàn)突出，對(duì)產(chǎn)業(yè)發(fā)展以及技術(shù)更迭具有參考意義及較強(qiáng)示范價(jià)值的典型案例。《消費(fèi)金融數(shù)據(jù)安全治理案例》的成功入選，充分彰顯出天融信在數(shù)據(jù)安全領(lǐng)域充分的項(xiàng)目實(shí)踐積累以及數(shù)據(jù)安全產(chǎn)品的持續(xù)創(chuàng)新能力。

TOPSEC

作為國(guó)內(nèi)率先開(kāi)展人工智能研究的網(wǎng)絡(luò)安全企業(yè)，天融信憑借“天問(wèn)大模型”入選IDC網(wǎng)絡(luò)安全領(lǐng)域大模型代表廠商。目前，天融信發(fā)布了多個(gè)領(lǐng)域的AI融合創(chuàng)新產(chǎn)品，為企業(yè)構(gòu)筑穩(wěn)固的安全防護(hù)屏障。同時(shí)，面對(duì)生成式人工智能這把雙刃劍，天融信將高度重視并主動(dòng)應(yīng)對(duì)人工智能規(guī)?；瘧?yīng)用背景下的安全風(fēng)險(xiǎn)，共同推進(jìn)網(wǎng)絡(luò)空間人工智能安全治理。