21世紀經濟報道記者柳寧馨 烏鎮報道
11月20日，以“擁抱以人為本、智能向善的數字未來——攜手構建網絡空間命運共同體”為主題的2024年世界互聯網大會烏鎮峰會在浙江烏鎮開幕。
今年是世界互聯網大會新十年的開始，AI成為重要方向，安全與發展是同等重要的命題。如何看待今年AI應用的迅速生長態勢？大模型本身技術發展現狀在安全領域的應用程度如何？圍繞這些問題，21世紀經濟報道記者采訪了安恒信息高級副總裁、研究院院長王欣。
王欣認為，一是AI垂直化趨勢明顯，AI技術正逐漸從通用型向更加專業化、垂直化的方向發展。
二是技術成熟度提升，AI在特定任務上的表現越來越接近甚至超過人類水平。這使得AI能夠在更多領域得到實際應用，從理論研究走向商業落地。
三是生態系統逐步完善，AI產業鏈上下游的合作日益緊密，形成了較為完整的生態系統。此外，用戶對AI產品的接受度也在不斷提高。政府和資本對AI技術的支持力度不斷加大，這為AI技術的研發和應用提供了良好的外部環境。
不過，隨著人工智能的迅猛發展，Deepfake等偽造技術正在延展至經濟、社會更廣泛領域。在王欣看來，當前人工智能技術快速發展的背景下，確保人工智能技術的正向應用，防止其被用于不正當目的，已成為整個行業乃至社會共同面臨的重大挑戰。面對這一問題，利用AI技術本身來對抗潛在的濫用成為了一種高效且必要的手段。
“從技術角度來看，通過深度學習構建的檢測模型能夠自動從海量數據中學習偽造內容的獨特特征，如圖像或視頻中的異常紋理、不自然的面部動作等。這不僅實現了高精度的偽造內容識別，而且隨著訓練數據量的增長，模型的性能將不斷提升。”王欣說。
王欣重點提出，對于復雜的偽造內容，引入多模態分析尤為重要。雖然偽造技術可能在某一特定模態（如視覺或聽覺）上達到高度逼真的效果，但在多模態一致性方面往往存在缺陷。
例如，在Deepfake視頻中，人物的表情與語音之間可能會出現微妙的不協調。多模態分析通過整合視覺、聽覺等多種信息源，有效提高了偽造內容檢測的準確率。
此外，鑒于偽造技術的不斷演進，檢測方法也需持續更新以保持有效性。采用自適應學習機制可以使檢測系統基于最新的偽造案例自動調整優化策略，從而確保對新型偽造技術的及時響應和高效對抗。這種動態防御策略對于維護網絡空間的安全與誠信至關重要。
大模型本身技術發展現狀在安全領域的應用程度如何？在王欣看來，大模型技術在數據安全中的應用和潛力是一個非常重要且具有廣闊前景的領域。例如，數據分類分級智能體借助 AI 對行業和業務特性的理解，將效率提升30倍；API 智能體基于對 API 接口用途的深入理解，提升了 API 資產純凈度、風險準確率和研判效率；DLP 智能體則憑借對文檔內容和敏感性的鑒別，實現大模型智能全自動識別，這些都彰顯了 AI 在數據安全領域的強大力量。
智能體的廣泛應用不僅提升了效率和智能化水平，還對數據安全、隱私保護和合規性提出了更高的要求。“這種服務方式和交付方式的變革，對網絡安全行業具有顛覆性的影響，促使我們必須更加注重高質量發展。這要求我們在技術創新的同時，加強安全管理，確保智能體的安全可靠。”王欣說。
本文鏈接：安恒信息王欣：AI走向垂直應用，大模型在數據安全領域前景廣闊http://m.sq15.cn/show-4-13719-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。