生成式人工智能技術(shù)監(jiān)管政策 2023年人工智能安全問題分析

• 黃江 2023年8月8日 來源：東方財富 927 58
• 繁體

生成式人工智能技術(shù)快速發(fā)展，應(yīng)用場景不斷拓展，產(chǎn)業(yè)生態(tài)不斷完善，在給經(jīng)濟(jì)社會發(fā)展帶來新機(jī)遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題。

工信部公布的數(shù)據(jù)顯示，中國人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元，企業(yè)數(shù)量超過4300家，創(chuàng)新成果不斷涌現(xiàn)。業(yè)內(nèi)人士認(rèn)為，一批行業(yè)龍頭和獨角獸企業(yè)的快速發(fā)展，帶動中國人工智能產(chǎn)業(yè)集群加速成長。

生成式人工智能技術(shù)監(jiān)管政策

今年以來，生成式人工智能技術(shù)快速發(fā)展，應(yīng)用場景不斷拓展，產(chǎn)業(yè)生態(tài)不斷完善，在給經(jīng)濟(jì)社會發(fā)展帶來新機(jī)遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題。

近期，國家層面密集出臺針對人工智能的監(jiān)管政策，4月28日，中共中央政治局會議提出，要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險;7月13日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、國家廣電總局公布《生成式人工智能服務(wù)管理暫行辦法》，提出采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。

地方層面也先后出臺了促進(jìn)人工智能規(guī)范發(fā)展的相關(guān)政策，北京市提出，探索對人工智能產(chǎn)業(yè)實行包容審慎監(jiān)管，持續(xù)推動監(jiān)管政策和監(jiān)管流程創(chuàng)新，做好安全評估，推進(jìn)算法備案，引導(dǎo)創(chuàng)新主體樹立安全意識，建立安全防范機(jī)制;深圳市提出，建立健全公開透明的人工智能監(jiān)管體系，依法依規(guī)、包容審慎開展監(jiān)管，圍繞網(wǎng)絡(luò)安全、數(shù)據(jù)安全、科技倫理、就業(yè)促進(jìn)等領(lǐng)域建立風(fēng)險防范和應(yīng)對機(jī)制，防范和打擊違法行為，引導(dǎo)人工智能相關(guān)企業(yè)和組織健康發(fā)展。

2023年人工智能安全問題分析

人工智能是一把雙刃劍早已成為全球共識。斯坦福大學(xué)發(fā)布的《2023年人工智能指數(shù)報告》提到，對127個國家的立法記錄調(diào)研的結(jié)果顯示，包含“人工智能”的法案被通過成為法律的數(shù)量，從2016年的僅1個增長到2022年的37個。

“要強(qiáng)化人工智能安全治理工作，從數(shù)據(jù)安全、網(wǎng)絡(luò)安全、算法安全、算力安全等多方面入手，實現(xiàn)人工智能對經(jīng)濟(jì)的良性促進(jìn)作用，發(fā)展負(fù)責(zé)任的人工智能產(chǎn)業(yè)?！北本┙煌ù髮W(xué)中國高端制造業(yè)研究中心執(zhí)行主任朱明皓表示。

實際上，發(fā)展大模型不只是在數(shù)據(jù)、算力、算法這三大要素的基礎(chǔ)上進(jìn)行，在不斷優(yōu)化訓(xùn)練的過程中，安全問題也不可忽視。在360集團(tuán)創(chuàng)始人周鴻祎看來，人工智能大模型仿佛一把雙刃劍，如今大模型的安全問題已經(jīng)超越了內(nèi)容安全。

目前大模型發(fā)展還處于快速變化和不斷創(chuàng)新階段，要更好地抓住大模型發(fā)展機(jī)遇，真正發(fā)揮出大模型的優(yōu)勢，除了加強(qiáng)監(jiān)管、防范技術(shù)風(fēng)險以外，也要加強(qiáng)創(chuàng)新，在更多的業(yè)務(wù)場景中加快落地。

根據(jù)中研普華研究院《2023-2028年AI安全行業(yè)市場深度分析及發(fā)展策略研究報告》顯示：

早在2017年，國務(wù)院就印發(fā)《新一代人工智能發(fā)展規(guī)劃》，提出“結(jié)合各地區(qū)基礎(chǔ)和優(yōu)勢，按人工智能應(yīng)用領(lǐng)域分門別類進(jìn)行相關(guān)產(chǎn)業(yè)布局”，鼓勵地方圍繞人工智能產(chǎn)業(yè)鏈和創(chuàng)新鏈，打造人工智能產(chǎn)業(yè)集群和創(chuàng)新高地。

不少地方順應(yīng)人工智能發(fā)展勢頭，規(guī)劃布局本地人工智能特色產(chǎn)業(yè)集群。2022年9月，《重慶市發(fā)展汽車軟件與人工智能技術(shù)應(yīng)用行動計劃(2022—2025年)》發(fā)布，提出做大做強(qiáng)汽車軟件與人工智能產(chǎn)業(yè)集群。今年6月，《北京市機(jī)器人產(chǎn)業(yè)創(chuàng)新發(fā)展行動方案(2023—2025年)》發(fā)布，提出到2025年培育100種高技術(shù)高附加值機(jī)器人產(chǎn)品、100種具有全國推廣價值的應(yīng)用場景，打造國內(nèi)領(lǐng)先、國際先進(jìn)的機(jī)器人產(chǎn)業(yè)集群。

《中國新一代人工智能科技產(chǎn)業(yè)發(fā)展 2023》指出，中國人工智能產(chǎn)業(yè)集群主要分布在京津冀、長江三角洲、珠江三角洲和川渝地區(qū)的重點城市。通過外部創(chuàng)新資源的引入和內(nèi)部創(chuàng)新資源的激活，西部地區(qū)的西安、中部地區(qū)的武漢和長沙以及東北地區(qū)的沈陽、大連、哈爾濱等出現(xiàn)人工智能產(chǎn)業(yè)集群雛形。

人臉識別技術(shù)應(yīng)用管理最新規(guī)定

為規(guī)范人臉識別技術(shù)應(yīng)用，保護(hù)個人信息權(quán)益及其他人身和財產(chǎn)權(quán)益，維護(hù)社會秩序和公共安全，8月8日，國家網(wǎng)信辦發(fā)布《人臉識別技術(shù)應(yīng)用安全管理規(guī)定(試行)(征求意見稿)》(下稱《規(guī)定》)，向社會公開征求意見。

目前，人臉識別技術(shù)已經(jīng)被廣泛運(yùn)用于身份認(rèn)證、移動支付、手機(jī)解鎖、出入門禁等諸多方面?！度四樧R別安全白皮書》數(shù)據(jù)顯示，人臉識別應(yīng)用最多是安防占54%，其次是金融占16%。此后分別是娛樂10%、醫(yī)療7%、電商零售6%、出行3%、政務(wù)2%、其他2%。但也要注意到，人臉識別技術(shù)在給個人身份認(rèn)證提供便利的同時，也存在信息泄露和個人身份被盜用的風(fēng)險。

《規(guī)定》明確，只有在具有特定的目的和充分的必要性，并采取嚴(yán)格保護(hù)措施的情形下，方可使用人臉識別技術(shù)處理人臉信息。同時，除法律、行政法規(guī)規(guī)定不需要取得個人同意的情況外，使用人臉識別技術(shù)處理人臉信息應(yīng)當(dāng)取得個人的單獨同意或者依法取得書面同意。

在人臉識別技術(shù)應(yīng)用場所方面，《規(guī)定》要求，旅館客房、公共浴室、更衣室、衛(wèi)生間及其他可能侵害他人隱私的場所不得安裝圖像采集、個人身份識別設(shè)備。賓館、銀行、車站、機(jī)場、體育場館、展覽館、博物館、美術(shù)館、圖書館等經(jīng)營場所，除法律、行政法規(guī)規(guī)定應(yīng)當(dāng)使用人臉識別技術(shù)驗證個人身份的，不得以辦理業(yè)務(wù)、提升服務(wù)質(zhì)量等為由強(qiáng)制、誤導(dǎo)、欺詐、脅迫個人接受人臉識別技術(shù)驗證個人身份。

同時，在公共場所安裝圖像采集、個人身份識別設(shè)備的建設(shè)、使用、運(yùn)行維護(hù)單位，對獲取的個人圖像、身份識別信息負(fù)有保密義務(wù)，不得非法泄露或者對外提供。

隨著人工智能、大數(shù)據(jù)的發(fā)展，人臉識別技術(shù)成為熱門的AI技術(shù)。如今，從案件偵破、交通安檢、課堂監(jiān)控到金融支付、社區(qū)門禁、手機(jī)解鎖，人臉識別技術(shù)不斷拓展其應(yīng)用場景。但超出普通人認(rèn)知的是，人臉具有唯一性的生物識別信息，是敏感個人信息，它裸露在無處不在的攝像頭下，極易獲得。

根據(jù)國家市場監(jiān)督管理總局發(fā)布的《個人信息安全規(guī)范》明確規(guī)定，人臉信息屬于生物識別信息，也屬于個人敏感信息，收集個人信息時應(yīng)獲得個人信息主體的授權(quán)同意?！睹穹ǖ洹返谝磺Я闳鍡l明確規(guī)定，處理個人信息，應(yīng)征得該自然人或者其監(jiān)護(hù)人同意。顯而易見，大部分情況下人們的“臉面”堂而皇之地被出賣了。

數(shù)字經(jīng)濟(jì)時代，只有尊重個人自由，強(qiáng)化個人信息保護(hù)，依法進(jìn)行數(shù)字社會、智慧城市建設(shè)，方為人間正道。在面臨數(shù)字化對個人信息安全的挑戰(zhàn)時，管理部門應(yīng)全面審視數(shù)字化發(fā)展的法治問題，推動建立健全相關(guān)法律法規(guī)，加強(qiáng)個人隱私保護(hù)力度。公民也得處處留心，提高維權(quán)意識。如此才能保住“臉面”，更好地享有現(xiàn)代智慧生活。

《2023-2028年AI安全行業(yè)市場深度分析及發(fā)展策略研究報告》由中研普華研究院撰寫，本報告對該行業(yè)的供需狀況、發(fā)展現(xiàn)狀、行業(yè)發(fā)展變化等進(jìn)行了分析，重點分析了行業(yè)的發(fā)展現(xiàn)狀、如何面對行業(yè)的發(fā)展挑戰(zhàn)、行業(yè)的發(fā)展建議、行業(yè)競爭力，以及行業(yè)的投資分析和趨勢預(yù)測等等。報告還綜合了行業(yè)的整體發(fā)展動態(tài)，對行業(yè)在產(chǎn)品方面提供了參考建議和具體解決辦法。

• 相關(guān)深度報告REPORTS

  

  2023-2028年AI安全行業(yè)市場深度分析及發(fā)展策略研究報告

  AI安全行業(yè)研究報告主要分析了AI安全行業(yè)的市場規(guī)模、AI安全市場供需求狀況、AI安全市場競爭狀況和AI安全主要企業(yè)經(jīng)營情況、AI安全市場主要企業(yè)的市場占有率，同時對AI安全行業(yè)的未來發(fā)展做出科...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡