AI安全行業(yè)分析2024：AI安全風險陡增迅速成全球業(yè)界共識

• 陳觀秋 2024年1月19日 來源：北京商報 中新網 百度 1437 95
• 繁體

近年來，隨著數字化智能化的深入，新的技術不斷衍生出新的安全風險，數字安全風險進入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風險陡增迅速成為全球業(yè)界的一致共識，AI安全成為主流的安全關切，并逐漸形成了一個新的安全技術研究領域

人臉識別、語音識別、智能算法推送……當前，人工智能(AI)技術加速融入社會生活，2023年年初，ChatGPT更是以其豐富的知識與出色的自然語言交互能力，引起了現象級的關注。伴隨著智能產業(yè)的蓬勃發(fā)展，各式各樣的海量數據也在人們的生活中被大量收集、存儲和利用。數據安全和隱私保護問題由此成為人工智能系統(tǒng)在開發(fā)和應用中面臨的嚴峻挑戰(zhàn)。

AI安全風險陡增迅速成全球業(yè)界共識

近年來，隨著數字化智能化的深入，新的技術不斷衍生出新的安全風險，數字安全風險進入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風險陡增迅速成為全球業(yè)界的一致共識，AI安全成為主流的安全關切，并逐漸形成了一個新的安全技術研究領域。

隨著人工智能發(fā)展加速，由此引發(fā)的問題逐漸擺上臺面。

AI技術的應用給我們帶來了許多便利，但同時也引來了一系列的安全隱患。AI安全工作組的成立加強對AI技術安全的研究和防護，保障人們在使用AI技術時的安全和隱私。

2023年6月，歐洲議會通過了《AI法案》授權草案，草案內容包括用于監(jiān)督人工智能基礎模型的分級管理辦法。

2023年10月，由中國全國信息安全標準化技術委員會組織，面向社會公開征求《生成式人工智能服務安全基本要求》意見。同月，日本首相岸田文雄在日本京都發(fā)表演講，公布面向生成式人工智能的監(jiān)管計劃。

2023年11月，英國全球第一屆人工智能安全峰會在英國召開，與會各國討論了當下全球人工智能治理的問題。中國科技部副部長吳朝暉率團參會并在峰會開幕式上發(fā)表講話，并在會后聯合發(fā)布《宣言》，該《宣言》成為“第一份關于有必要監(jiān)管AI發(fā)展的全球聲明”。

斯坦福大學發(fā)布的《2023年人工智能指數報告》中提到，對127個國家的立法記錄調研的結果顯示，包含“人工智能”的法案被通過成為法律的數量，從2016年的僅1個增長到2022年的37個。該報告對自2016年以來81個國家的人工智能法律法規(guī)記錄的分析也同樣表明，全球立法程序中提及人工智能的次數增加了近6.5倍。

據中研產業(yè)研究院《2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告》分析：

事實上，為了應對AI安全風險，我國從業(yè)機構已經開始探索安全科技以加強AI技術的潛在風險研判和防范。例如，2023年9月，螞蟻集團推出了“蟻天鑒”大模型安全一體化方案，其中包括大模型安全檢測平臺“蟻鑒2.0”和大模型風險防御平臺“天鑒”，為大規(guī)模AI模型的安全保障帶來了全新的突破。

談及安全科技在防范AI風險方面的實際價值，螞蟻集團副總裁、大安全事業(yè)群總裁趙聞飆指出，安全科技具有“壓艙石”與“助燃劑”的兩重價值?！皦号撌敝傅氖鞘刈〖夹g的安全底線，防御外部風險隱患，讓技術“難作惡”，支撐數字社會穩(wěn)步運行;“助燃劑”則體現在提高技術的安全上限，降低技術運行的成本，讓產業(yè)煥發(fā)新機，讓更多人受益。

呂鵬認為，人工智能和安全科技將是未來有且只有的兩項通用技術，人工智能作為最具顛覆性和戰(zhàn)略性的核心關鍵技術，能夠幫助各行各業(yè)在數字化的基礎上進一步實現智能化，成為未來的“發(fā)動機”;而安全科技將作為“方向盤”，始終將各種新興科技控制在向善的道路。

我國安全科技市場處于爆發(fā)式增長階段

近年來，我國安全科技市場處于爆發(fā)式增長階段，涌現出了一大批新的安全技術，包括了區(qū)塊鏈、隱私計算、對抗智能、量子計算等前沿技術。根據2023年7月IPRdaily發(fā)布的《安全科技專利報告》顯示，中國是全球安全科技發(fā)明專利最大布局國家，專利申請數為第二名美國的2.23倍;安全科技專利申請數前十名的申請主體中，中國企業(yè)占七席，螞蟻集團、華為公司、騰訊集團位居前三。

1月18日，中國社會科學院大學數字中國研究院聯合螞蟻集團在京對外發(fā)布《數字時代安全科技價值報告》。

中國社會科學院大學數字中國研究院執(zhí)行院長呂鵬在發(fā)布報告時表示，數字化安全風險進入了快迭代、高智能、全覆蓋的新格局。尤其2022年底AI大模型橫空出世，大大推進了深度智能時代的到來，對安全局面的影響也是顛覆性的。在這樣的大背景下，提高社會對于安全科技的認知、重視與參與，非常有必要，這也是報告的核心議題。

報告提出，未來，安全科技將成為社會的“公共品”，是技術向善的關鍵保障，盡早對它進行投入，將有助于掌握新興技術發(fā)展與產業(yè)迭代的主動權。

報告對中國AI安全行業(yè)的內外部環(huán)境、行業(yè)發(fā)展現狀、產業(yè)鏈發(fā)展狀況、市場供需、競爭格局、標桿企業(yè)、發(fā)展趨勢、機會風險、發(fā)展策略與投資建議等進行了分析，并重點分析了我國AI安全行業(yè)將面臨的機遇與挑戰(zhàn)。

想要了解更多AI安全行業(yè)詳情分析，可以點擊查看中研普華研究報告《2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告》。

• 相關深度報告REPORTS

  

  2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告

  隨著AI安全行業(yè)競爭的不斷加劇，大型企業(yè)間并購整合與資本運作日趨頻繁，國內外優(yōu)秀的AI安全企業(yè)愈來愈重視對行業(yè)市場的分析研究，特別是對當前市場環(huán)境和客戶需求趨勢變化的深入研究，以期提前...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡