事關(guān)生成式人工智能服務(wù) 國(guó)家網(wǎng)信辦出手 數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展政策規(guī)范

• 李波 2023年4月12日 來源：中研普華集團(tuán)、央視財(cái)經(jīng)、中研網(wǎng) 965 60
• 繁體

據(jù)國(guó)家互聯(lián)網(wǎng)信息辦公室官網(wǎng)消息，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡(jiǎn)稱《征求意見稿》)，其中提出生成式人工智能產(chǎn)品提供服

據(jù)國(guó)家互聯(lián)網(wǎng)信息辦公室官網(wǎng)消息，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》等法律法規(guī)，國(guó)家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡(jiǎn)稱《征求意見稿》)，其中提出生成式人工智能產(chǎn)品提供服務(wù)前需申報(bào)安全評(píng)估。

生成式人工智能，是指基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)?！墩髑笠庖姼濉芬螅蒙墒饺斯ぶ悄墚a(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

《征求意見稿》指出，國(guó)家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國(guó)際合作，鼓勵(lì)優(yōu)先采用安全可信的軟件、工具、計(jì)算和數(shù)據(jù)資源。

提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗，符合以下五方面要求。

一是：利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會(huì)主義核心價(jià)值觀，不得含有顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度，煽動(dòng)分裂國(guó)家、破壞國(guó)家統(tǒng)一，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會(huì)秩序的內(nèi)容。

二是：在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取措施防止出現(xiàn)種族、民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)等歧視。

三是：尊重知識(shí)產(chǎn)權(quán)、商業(yè)道德，不得利用算法、數(shù)據(jù)、平臺(tái)等優(yōu)勢(shì)實(shí)施不公平競(jìng)爭(zhēng)。

四是：利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實(shí)準(zhǔn)確，采取措施防止生成虛假信息。

五是：尊重他人合法利益，防止傷害他人身心健康，損害肖像權(quán)、名譽(yù)權(quán)和個(gè)人隱私，侵犯知識(shí)產(chǎn)權(quán)。禁止非法獲取、披露、利用個(gè)人信息和隱私、商業(yè)秘密。

此外，《征求意見稿》提出， 提供者在提供服務(wù)過程中，對(duì)用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像，不得向他人提供用戶輸入信息。法律法規(guī)另有規(guī)定的，從其規(guī)定。

提供者不得根據(jù)用戶的種族、國(guó)別、性別等進(jìn)行帶有歧視性的內(nèi)容生成。

目前，各大科技巨頭陸續(xù)推出相關(guān)數(shù)據(jù)大模型，產(chǎn)品涵蓋語言、礦業(yè)、制造、電商、搜索引擎等多個(gè)領(lǐng)域。有機(jī)構(gòu)指出，隨著各類大模型逐步落地，對(duì)應(yīng)的數(shù)據(jù)需求有望持續(xù)增長(zhǎng)，擁有數(shù)據(jù)的相關(guān)公司有望受益。

此外，國(guó)家網(wǎng)信辦近日也發(fā)布了《生成式人工智能服務(wù)管理辦法(征求意見稿)》，數(shù)據(jù)要素生態(tài)得到進(jìn)一步完善。受消息提振，數(shù)據(jù)要素、數(shù)據(jù)確權(quán)等相關(guān)數(shù)據(jù)產(chǎn)業(yè)鏈個(gè)股今日大幅走強(qiáng)。

生成式人工智能服務(wù)管理辦法發(fā)布 我國(guó)數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展政策規(guī)范

隨著AI在各行業(yè)滲透率不斷提升，各國(guó)均加快對(duì)相關(guān)領(lǐng)域的政策規(guī)范，目前，各類大模型不斷涌現(xiàn)，其所使用數(shù)據(jù)的安全性和合法性也成為監(jiān)管的關(guān)鍵要點(diǎn)。

近年來，我國(guó)數(shù)據(jù)安全相關(guān)政策也陸續(xù)落地，今年年初，工業(yè)和信息化部、國(guó)家網(wǎng)信辦、國(guó)家發(fā)展改革委等十六個(gè)部門聯(lián)合發(fā)布《關(guān)于促進(jìn)數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》，文件中明確，到2025年，數(shù)據(jù)安全產(chǎn)業(yè)基礎(chǔ)能力和綜合實(shí)力明顯增強(qiáng)。

國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布《生成式人工智能服務(wù)管理辦法(征求意見稿)》(以下簡(jiǎn)稱“《征求意見稿》”)對(duì)生成式人工智能服務(wù)提供者及其產(chǎn)品提出了多項(xiàng)規(guī)制。

一天前，中國(guó)支付清算協(xié)會(huì)發(fā)布《關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議》(以下簡(jiǎn)稱“《倡議》”)，倡議相關(guān)單位不上傳關(guān)鍵敏感信息，包括國(guó)家及金融行業(yè)涉密文件及數(shù)據(jù)、公司非公開的材料及數(shù)據(jù)、客戶資料、支付清算基礎(chǔ)設(shè)施或系統(tǒng)的核心代碼等。

此前，全球范圍內(nèi)發(fā)生了多起因使用ChatGPT導(dǎo)致的數(shù)據(jù)泄露事件。意大利、加拿大等國(guó)監(jiān)管機(jī)構(gòu)先后宣布將關(guān)注ChatGPT及其背后公司OpenAI帶來的數(shù)據(jù)安全風(fēng)險(xiǎn)，并將開啟監(jiān)管調(diào)查。

對(duì)于近期生成式人工智能引發(fā)的數(shù)據(jù)安全問題，受訪專家建議，應(yīng)關(guān)注人工智能領(lǐng)域的新興監(jiān)管工具;同時(shí)，可以考慮將代表性人工智能公司納入治理體系，同監(jiān)管機(jī)關(guān)合作開發(fā)與技術(shù)發(fā)展和市場(chǎng)競(jìng)爭(zhēng)相適應(yīng)的監(jiān)管框架。

根據(jù)中研普華研究院《2023-2028年中國(guó)數(shù)據(jù)安全服務(wù)市場(chǎng)深度分析及發(fā)展趨勢(shì)預(yù)測(cè)報(bào)告》顯示：

數(shù)據(jù)安全是數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)的基石之一。

數(shù)據(jù)安全產(chǎn)業(yè)鏈主要包括上游安全芯片等軟硬件供應(yīng)商，中游防火墻、VPN、商用密碼、數(shù)據(jù)要素等產(chǎn)品與解決方案提供商，下游應(yīng)用則涵蓋政府、國(guó)防、電信、金融、能源等關(guān)鍵領(lǐng)域。

我國(guó)十分重視數(shù)字技術(shù)發(fā)展，同時(shí)也關(guān)注人工智能發(fā)展過程中的風(fēng)險(xiǎn)和問題。2023年1月份，工業(yè)和信息化部等十六部門聯(lián)合印發(fā)《關(guān)于促進(jìn)數(shù)據(jù)安全產(chǎn)業(yè)發(fā)展的指導(dǎo)意見》提出，提升產(chǎn)業(yè)創(chuàng)新能力，加強(qiáng)核心技術(shù)攻關(guān)。

到2025年，我國(guó)數(shù)據(jù)安全產(chǎn)業(yè)規(guī)模超過1500億元，年復(fù)合增長(zhǎng)率超過30%，將建成5個(gè)省部級(jí)及以上數(shù)據(jù)安全重點(diǎn)實(shí)驗(yàn)室，培育若干具有國(guó)際競(jìng)爭(zhēng)力的龍頭骨干企業(yè)、單項(xiàng)冠軍企業(yè)和專精特新“小巨人”企業(yè)。

從網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法、個(gè)人信息保護(hù)法相繼實(shí)施，到去年《中共中央 國(guó)務(wù)院關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》(以下簡(jiǎn)稱“數(shù)據(jù)二十條”)出臺(tái)，近年來，我國(guó)數(shù)據(jù)信息保護(hù)的制度“籬笆”不斷扎牢，充分回應(yīng)了廣大群眾的共同關(guān)切。

中國(guó)電子技術(shù)標(biāo)準(zhǔn)化研究院黨委書記、副院長(zhǎng)，中國(guó)網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟(CCIA)秘書長(zhǎng)楊建軍表示，國(guó)家、社會(huì)、企業(yè)在數(shù)據(jù)安全與更新保護(hù)方面做了大量工作，法律法規(guī)、政策文件、標(biāo)準(zhǔn)規(guī)范逐年增加完善。

但同時(shí)，隨著社會(huì)、技術(shù)、產(chǎn)業(yè)及新興技術(shù)應(yīng)用的發(fā)展，數(shù)據(jù)安全問題也正在不斷演進(jìn)，需要更創(chuàng)新的治理模式和方法。

針對(duì)如何解決“數(shù)據(jù)看不見、風(fēng)險(xiǎn)搞不清、監(jiān)管欠細(xì)化”等問題，北京理工大學(xué)法學(xué)院教授洪延青強(qiáng)調(diào)，要從動(dòng)態(tài)的角度去理解數(shù)據(jù)安全的概念。

“動(dòng)態(tài)就是隨著情況的變化，很多原本沒有問題的事情也會(huì)發(fā)生問題?！彼赋觯荒芎?jiǎn)單地把數(shù)據(jù)安全理解成數(shù)據(jù)的保密性、完整性、可用性，應(yīng)該形成包括合規(guī)在內(nèi)的“大安全”概念，在“數(shù)據(jù)二十條”的背景下，從動(dòng)態(tài)的角度實(shí)現(xiàn)“關(guān)系型安全治理”，即在管理規(guī)則基礎(chǔ)上，用技術(shù)支撐管理規(guī)則落地，保障管理規(guī)則可視、可控、可干預(yù)。

“落實(shí)數(shù)據(jù)安全和個(gè)人信息保護(hù)，各個(gè)主體行動(dòng)缺一不可?！敝袊?guó)科學(xué)院信息工程研究所工程師李敏表示，從相繼實(shí)施的國(guó)家法律層面可以看出，維護(hù)數(shù)據(jù)安全和個(gè)人信息保護(hù)需要政府、企業(yè)、相關(guān)行業(yè)組織共同參與，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

多位行業(yè)從業(yè)者還指出，目前互聯(lián)網(wǎng)企業(yè)正面臨一個(gè)數(shù)據(jù)安全風(fēng)險(xiǎn)事件頻發(fā)的大環(huán)境，數(shù)據(jù)泄露、個(gè)人信息違規(guī)使用與違規(guī)收集事件頻繁發(fā)生。這從另一方面要求相關(guān)企業(yè)從產(chǎn)品自身設(shè)計(jì)上加強(qiáng)用戶權(quán)益保障，積極參與行業(yè)標(biāo)準(zhǔn)建設(shè)，積極推動(dòng)合規(guī)要求落地。

《2023-2028年中國(guó)數(shù)據(jù)安全服務(wù)市場(chǎng)深度分析及發(fā)展趨勢(shì)預(yù)測(cè)報(bào)告》由中研普華研究院撰寫，本報(bào)告對(duì)該行業(yè)的供需狀況、發(fā)展現(xiàn)狀、行業(yè)發(fā)展變化等進(jìn)行了分析，重點(diǎn)分析了行業(yè)的發(fā)展現(xiàn)狀、如何面對(duì)行業(yè)的發(fā)展挑戰(zhàn)、行業(yè)的發(fā)展建議、行業(yè)競(jìng)爭(zhēng)力，以及行業(yè)的投資分析和趨勢(shì)預(yù)測(cè)等等。報(bào)告還綜合了行業(yè)的整體發(fā)展動(dòng)態(tài)，對(duì)行業(yè)在產(chǎn)品方面提供了參考建議和具體解決辦法。

• 相關(guān)深度報(bào)告REPORTS

  

  2023-2028年中國(guó)數(shù)據(jù)安全服務(wù)市場(chǎng)深度分析及發(fā)展趨勢(shì)預(yù)測(cè)報(bào)告

  隨著數(shù)據(jù)安全服務(wù)行業(yè)競(jìng)爭(zhēng)的不斷加劇，大型企業(yè)間并購(gòu)整合與資本運(yùn)作日趨頻繁，國(guó)內(nèi)外優(yōu)秀的數(shù)據(jù)安全服務(wù)企業(yè)愈來愈重視對(duì)行業(yè)市場(chǎng)的分析研究，特別是對(duì)當(dāng)前市場(chǎng)環(huán)境和客戶需求趨勢(shì)變化的深入研...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡