谷歌發(fā)布AI開發(fā)和使用指南 禁止制造可能危害人類的應(yīng)用

• 2018年6月8日 ZhouXun來源：網(wǎng)易科技 518 28
• 繁體

• 

  2018-2023年人工智能汽車領(lǐng)域研究與投資前景調(diào)研報(bào)告

  智能汽車與一般所說的自動駕駛有所不同，它指的是利用多種傳感器和智能公路技術(shù)實(shí)現(xiàn)的汽車自動駕駛。智能汽車首先有一套導(dǎo)航信息資料庫，存有全國高速公路、普通公路、城市道路以及各種服務(wù)設(shè)施...

谷歌今天發(fā)布了人工智能(AI)開發(fā)和使用指南，其中包括禁止制造自動武器和大多數(shù)可能危害人類的AI應(yīng)用。AI指南發(fā)布幾天前，谷歌宣布不再與美國國防部續(xù)簽分析無人機(jī)視頻的合同。

6月8日消息，據(jù)VentureBeat報(bào)道，谷歌今天發(fā)布了人工智能(AI)開發(fā)和使用指南，其中包括禁止制造自動武器和大多數(shù)可能危害人類的AI應(yīng)用。AI指南發(fā)布幾天前，谷歌宣布不再與美國國防部續(xù)簽分析無人機(jī)視頻的合同。

谷歌將自己定位為“AI優(yōu)先”科技公司、流行開源框架(如Kaggle和TensorFlow)的所有者以及知名研究人員的雇主，它也是AI領(lǐng)域最有影響力的公司之一。谷歌首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)：“我們想要澄清的是，雖然我們不開發(fā)用于武器的AI，但我們將繼續(xù)在其他領(lǐng)域與政府和軍方合作，包括網(wǎng)絡(luò)安全、培訓(xùn)、軍事招募、退伍軍人醫(yī)療、搜索和救援等?！?/p>

在博文中，皮查伊闡述了開發(fā)和使用AI時應(yīng)考慮的原則，以及谷歌不會追求的AI應(yīng)用類別。除了禁止設(shè)計(jì)自主武器之外，該公司還將尋求避免研發(fā)可能傷害或以傷害人類為主要目的的AI，以及“反國際公認(rèn)規(guī)范的收集或使用信息進(jìn)行監(jiān)視的技術(shù)”。皮查伊表示，谷歌公司研發(fā)的AI應(yīng)該堅(jiān)持科學(xué)卓越的標(biāo)準(zhǔn)，對人類負(fù)責(zé)，測試后確認(rèn)安全，以及避免強(qiáng)化偏見。

此前，Google AI主管杰夫·迪安(Jeff Dean)和3000多名員工簽署了一份請?jiān)笗卮俟雀璩兄Z絕不制造自動武器。據(jù)報(bào)道，約有12名員工因谷歌公司參與國防部的AI項(xiàng)目Project Maven而辭職。該請?jiān)笗卮俟雀柰顺鲈擁?xiàng)目，在谷歌“正努力維護(hù)公眾的信任”之際，不這么做可能“無可挽回地?fù)p害谷歌的品牌和其爭奪人才的能力”。

意識到潛在的爭議后，早在去年秋天，Google Cloud首席科學(xué)家李飛飛博士就敦促公司“不惜一切代價”避免提及AI，因?yàn)楫?dāng)公眾提及Project Maven時，稱其為“AI武器化”，這可能最敏感的AI話題之一。

皮查伊堅(jiān)持谷歌將繼續(xù)與軍方合作，這可能是一個信號，表明谷歌仍計(jì)劃爭奪聯(lián)合企業(yè)防御基礎(chǔ)設(shè)施(JEDI)合同。這是一項(xiàng)與美國軍方簽訂的為期10年、價值100億美元的云協(xié)議，亞馬遜(Amazon)和谷歌等大型科技公司都非常關(guān)注。

一份內(nèi)部備忘錄還透露，谷歌的國防銷售團(tuán)隊(duì)成員認(rèn)為，參Project Maven與一份價值數(shù)十億美元的政府合同直接相關(guān)。據(jù)報(bào)道，谷歌認(rèn)為其與五角大樓簽署的合同每年可帶來高達(dá)2.5億美元的收入，盡管員工們最初被告知合同價值僅為900萬美元。

三月份有消息稱谷歌參與了Project Maven。其他公司，如IBM，也被邀請參與該項(xiàng)目。上周，五角大樓宣布了擴(kuò)展Project Maven的計(jì)劃，并開設(shè)了聯(lián)合人工智能中心。谷歌并不是唯一一家因?yàn)閰⑴c研發(fā)自主武器而受到員工反對的企業(yè)。今年4月份，超過50名韓國研究人員抵制KAIST人工智能武器實(shí)驗(yàn)室成立。

皮查伊博客全文：

AI的核心是學(xué)習(xí)和適應(yīng)計(jì)算機(jī)編程，它不能解決所有問題，但它改善我們生活的潛力是深遠(yuǎn)的。在谷歌，我們使用AI讓產(chǎn)品變得更有用——從更容易撰寫的無垃圾郵件到可與你自然交談的數(shù)字助理，再到讓你盡情享受的照片應(yīng)用。

在我們的產(chǎn)品之外，我們正在使用AI幫助人們解決緊迫問題。兩名高中生正在研發(fā)AI傳感器來預(yù)測火災(zāi)的風(fēng)險(xiǎn)，農(nóng)民們正在用AI來監(jiān)控他們的牲畜健康狀況，醫(yī)生們開始使用AI來幫助診斷癌癥和預(yù)防失明。這些明顯的好處就是為何谷歌在AI研發(fā)上投入大量資金，并通過我們的工具和開源代碼使AI技術(shù)獲得廣泛應(yīng)用的原因。

我們認(rèn)識到，如此強(qiáng)大的技術(shù)對其如何被使用也提出了同樣巨大的挑戰(zhàn)。在未來幾年，AI的開發(fā)和使用方式將對社會產(chǎn)生重大影響。作為AI領(lǐng)域的領(lǐng)導(dǎo)者，我們有責(zé)任把這一切做好。所以今天，我們宣布七大原則來指導(dǎo)我們的工作。這些都不是理論概念，它們是具體的標(biāo)準(zhǔn)，將積極地指導(dǎo)我們的研究和產(chǎn)品開發(fā)，并將影響我們的業(yè)務(wù)決策。

我們承認(rèn)這一領(lǐng)域處于動態(tài)和不斷發(fā)展?fàn)顟B(tài)中，我們將以謙遜的態(tài)度對待我們的工作，致力于內(nèi)部和外部接觸，并愿意隨時間的推移而調(diào)整我們的方法。

延伸閱讀

推薦閱讀

猜您喜歡