來源：光明網

從AlphaGo戰(zhàn)勝人類棋手，到ChatGPT開啟的AI狂潮，在“子彈”飛過一段時間后，人工智能技術及產業(yè)不斷加速發(fā)展，引來了更多的關注。AI應用從消費、互聯(lián)網等領域，不斷延申到制造、電力等傳統(tǒng)行業(yè)。

2023世界人工智能大會上，工信部副部長徐曉蘭表示，我國人工智能核心產業(yè)規(guī)模達到5000億元，企業(yè)數量超過4300家，智能芯片、開發(fā)框架、通用大模型等創(chuàng)新成果不斷涌現(xiàn)。

但是，問題也隨之而來。

北京市人大代表、天融信科技集團董事長兼CEO李雪瑩介紹，“當今時代，人工智能被廣泛應用于通信、醫(yī)療、教育、交通、安防等各個領域，改變著人們的生產生活模式。但與此同時，人工智能帶來的安全隱患與道德爭議，也讓各界對AI技術更加重視，對其應用變得更加謹慎。”數據泄露、算法偏見、AI技術被濫用、安全隱患、法規(guī)不完善等問題亟待解決。

新技術的應用往往蘊藏新的安全風險、帶來新的安全挑戰(zhàn)。今年北京市兩會期間，李雪瑩代表與記者交流時談到，目前人工智能技術應用面臨多重風險，缺乏有效的安全評估和管理機制，同時數據安全問題成為制約人工智能產業(yè)發(fā)展的主要因素，健全人工智能創(chuàng)新發(fā)展的安全保障機制已十分必要。

根據《數字時代安全科技價值報告》顯示，人工智能安全風險可分為三類：第一是內生安全，由軟硬件系統(tǒng)組成的人工智能系統(tǒng)，也會存在技術本身的脆弱性和數據依賴性等缺陷；第二是衍生安全問題，即人工智能被利用或不恰當使用而可能引發(fā)其他領域的一些重大安全事故，如深度合成偽造聲音和視頻的電信詐騙；第三是人工智能系統(tǒng)面臨的外部入侵和攻擊。與此同時，人工智能模型訓練需要海量、高質量數據，數據質量、數據規(guī)模直接影響人工智能模型的準確性及可靠性。人工智能安全風險與網絡安全、信息安全風險交織疊加，人工智能應用的安全評估和管理已成為當前亟待解決的問題。

針對以上問題，李雪瑩代表提出三點建議：一是引入人工智能產品準入機制，制定人工智能應用安全風險評估與管理規(guī)范；二是鼓勵人工智能安全應用技術創(chuàng)新，打造人工智能數據安全最佳實踐；三是推動人工智能在網絡安全領域應用，以人工智能技術防范人工智能風險。