周鴻祎：人工智能可以被污染 也叫“數(shù)據(jù)投毒”

• 2018年11月9日 YangJinZhu來(lái)源：DONEWS 691 40
• 繁體

• 

  在機(jī)遇與挑戰(zhàn)中把握IT咨詢行業(yè)趨勢(shì)，才能從中取勢(shì)得到更好的發(fā)展！

  IT咨詢也可稱為信息化咨詢，它是對(duì)企業(yè)進(jìn)行一次全方位的系統(tǒng)改造，主要涉及企業(yè)管理模式設(shè)計(jì)、業(yè)務(wù)流程重組、信息化解決方案設(shè)計(jì)與管理軟件系統(tǒng)的實(shí)施應(yīng)用。隨著國(guó)內(nèi)經(jīng)濟(jì)的發(fā)展，IT咨詢市場(chǎng)發(fā)展...

“人工智能在給我們帶來(lái)賦能的同時(shí)，自身的安全問(wèn)題被忽視了，當(dāng)前人工智能本質(zhì)上是數(shù)據(jù)智能，要防止數(shù)據(jù)投毒?！?1月8日，周鴻祎在烏鎮(zhèn)互聯(lián)網(wǎng)大會(huì)上重申了對(duì)未來(lái)網(wǎng)絡(luò)安全的謹(jǐn)慎態(tài)度。

“人工智能在給我們帶來(lái)賦能的同時(shí)，自身的安全問(wèn)題被忽視了，當(dāng)前人工智能本質(zhì)上是數(shù)據(jù)智能，要防止數(shù)據(jù)投毒?！?1月8日，周鴻祎在烏鎮(zhèn)互聯(lián)網(wǎng)大會(huì)上重申了對(duì)未來(lái)網(wǎng)絡(luò)安全的謹(jǐn)慎態(tài)度。

人工智能在此次大會(huì)上依然是熱詞，有專家預(yù)測(cè)稱，2030年之前全球會(huì)有萬(wàn)億計(jì)的智能設(shè)備連到互聯(lián)網(wǎng)上。隨著人工智能技術(shù)的發(fā)展，軟件定義一切，萬(wàn)物皆要互聯(lián)，網(wǎng)絡(luò)安全也將產(chǎn)生巨大的威脅。

周鴻祎表示，人工智能是大數(shù)據(jù)訓(xùn)練出來(lái)的，訓(xùn)練的數(shù)據(jù)可以被污染，也叫“數(shù)據(jù)投毒”。比如，通過(guò)給智能汽車輸入“污染”過(guò)的訓(xùn)練樣本，就可以把“禁止通行”的交通標(biāo)志牌識(shí)別為“可以通行”，從而造成交通事故和人員傷亡。與此同時(shí)，人工智能識(shí)別數(shù)據(jù)的傳感器也可以被干擾。同樣是智能汽車，用激光筆對(duì)著無(wú)人駕駛車的激光雷達(dá)晃一晃，車就可能瞬間停下來(lái)，被后車追尾。另外，周鴻祎還表示，人工智能內(nèi)部復(fù)雜的計(jì)算邏輯和決策過(guò)程還不透明，可以被欺騙或繞過(guò)，通過(guò)這種方式，家里的智能音響甚至可以變成竊聽器。

未來(lái)的世界是一個(gè)被軟件吞噬，充滿漏洞的世界，沒(méi)有固若金湯的防線。對(duì)網(wǎng)絡(luò)安全而言，同樣需要借助人工智能、大數(shù)據(jù)和云計(jì)算這些新技術(shù)的力量。在昨天的領(lǐng)先成果發(fā)布會(huì)上，360推出的“安全大腦”獲得世界互聯(lián)網(wǎng)領(lǐng)先科技成果獎(jiǎng)。360“安全大腦”就是借助人工智能技術(shù)，依靠大數(shù)據(jù)偵測(cè)，從浩如煙海的數(shù)據(jù)中尋找蛛絲馬跡，識(shí)別異常的訪問(wèn)和行為，然后進(jìn)行溯源，最后交給安全專家進(jìn)行決策。

另外，周鴻祎進(jìn)一步解釋說(shuō)，習(xí)主席提出沒(méi)有網(wǎng)絡(luò)安全就沒(méi)有國(guó)家安全，未來(lái)的軍事網(wǎng)絡(luò)、工業(yè)網(wǎng)絡(luò)，國(guó)防工業(yè)、政府網(wǎng)絡(luò)和個(gè)人網(wǎng)絡(luò)的安全實(shí)際是一個(gè)整體。這要求我們要用國(guó)家級(jí)的視野看待網(wǎng)絡(luò)安全，每個(gè)國(guó)家都要建自己國(guó)家級(jí)的網(wǎng)絡(luò)安全大數(shù)據(jù)系統(tǒng)，擁有國(guó)家級(jí)的視野，國(guó)家級(jí)的數(shù)據(jù)，最后才能真正抵御國(guó)家級(jí)的攻擊。

我們推出的360安全大腦嚴(yán)格來(lái)說(shuō)，并不是市場(chǎng)行為，而是國(guó)家行為。我們?cè)敢獍炎约旱慕?jīng)驗(yàn)、數(shù)據(jù)、技術(shù)、能力開放出來(lái)，與安全公司一起合作，把安全大腦本身的核心技術(shù)和大數(shù)據(jù)打造好，成為很多安全公司背后的賦能者，在國(guó)內(nèi)真正把一個(gè)大的生態(tài)做起來(lái)，大家合作把安全大腦打造成國(guó)之重器。

在此次大會(huì)上，沈南鵬也發(fā)表了相同的觀點(diǎn)。他介紹，中國(guó)的風(fēng)險(xiǎn)投資過(guò)去20年投的最多是電子商務(wù)，但過(guò)去45年，美國(guó)紅杉投資最多的是安全領(lǐng)域。他還建議需要把更多的資源和產(chǎn)業(yè)重心放在安全領(lǐng)域中，未來(lái)的智能產(chǎn)品越來(lái)越豐富和復(fù)雜的時(shí)候，相應(yīng)的安全產(chǎn)品也要能夠跟上去。

延伸閱讀

推薦閱讀

猜您喜歡