多位科技大佬聯(lián)名承諾：不發(fā)展致命性人工智能武器系統(tǒng)

• 2018年7月19日 FanTianQing來源：鳳凰資訊 327 14
• 繁體

• 

  2018-2023年中國金融IT技術(shù)應(yīng)用行業(yè)深度研究與投資發(fā)展前景預(yù)測(cè)報(bào)告

  金融IT技術(shù)應(yīng)用研究報(bào)告對(duì)金融IT技術(shù)應(yīng)用行業(yè)研究的內(nèi)容和方法進(jìn)行全面的闡述和論證，對(duì)研究過程中所獲取的金融IT技術(shù)應(yīng)用資料進(jìn)行全面系統(tǒng)的整理和分析，通過圖表、統(tǒng)計(jì)結(jié)果及文獻(xiàn)資料，或以縱...

特斯拉創(chuàng)始人埃隆·馬斯克領(lǐng)銜的美國科技圈大佬們簽署了一份協(xié)議，承諾不會(huì)發(fā)展致命的人工智能武器系統(tǒng)。

多位科技大佬聯(lián)名承諾，不發(fā)展致命性人工智能武器系統(tǒng)。

特斯拉創(chuàng)始人埃隆·馬斯克領(lǐng)銜的美國科技圈大佬們簽署了一份協(xié)議，承諾不會(huì)發(fā)展致命的人工智能武器系統(tǒng)。7月18日，外媒報(bào)道稱，這是全球研究者和企業(yè)家非官方聯(lián)盟的最新舉措，反對(duì)人工智能技術(shù)的不當(dāng)擴(kuò)張。

協(xié)議警告，使用人工智能的武器系統(tǒng)“無需人工干預(yù)就能選定目標(biāo)”，這造成了道德上和實(shí)操上的威脅。協(xié)議的簽署方認(rèn)為，從道德上來說，取走一條人命的決定，“絕不應(yīng)該委托給機(jī)器”，從實(shí)操方面來看，這種武器的擴(kuò)散將“危害每個(gè)國家和個(gè)體的穩(wěn)定”。

該協(xié)議于當(dāng)天在瑞典斯德哥爾摩舉行的2018國際人工智能聯(lián)合會(huì)議（International Joint Conference on Artificial Intelligence）上發(fā)布，由生命未來研究所（Future of Life Institute，F(xiàn)LI）起草。

生命未來研究所是一個(gè)研究與推廣機(jī)構(gòu)，致力于降低人類面臨的風(fēng)險(xiǎn)，尤其是人工智能技術(shù)開發(fā)過程中的可能出現(xiàn)的風(fēng)險(xiǎn)。該研究所此前已經(jīng)發(fā)布了一些文件，號(hào)召聯(lián)合國對(duì)致命自主武器（lethal autonomous weapons，LAWS）設(shè)立新規(guī)。此次協(xié)議的簽署，也是相關(guān)人員首次承諾不會(huì)參與開發(fā)此類技術(shù)。

除了 SpaceX和特斯拉CEO埃隆·馬斯克，簽署協(xié)議的知名科技界人士還包括，創(chuàng)造了阿爾法狗的谷歌系人工智能公司Deepmind的三位聯(lián)合創(chuàng)始人Shane Legg，Mustafa Suleyman和Demis Hassabis；通訊軟件Skype創(chuàng)始人Jaan Tallinn，以及其他世界最權(quán)威和前沿的人工智能研究者。

據(jù)報(bào)道，少數(shù)公司的技術(shù)，以及如何向政府機(jī)構(gòu)和執(zhí)法團(tuán)體提供這些技術(shù)，面臨強(qiáng)烈爭(zhēng)議，于是這項(xiàng)協(xié)議應(yīng)運(yùn)而生。谷歌就曾向美國軍方提供人工智能科技，幫助他們?cè)跓o人機(jī)影像中標(biāo)記需要額外人工檢查的內(nèi)容。類似地，亞馬遜由于向執(zhí)法機(jī)關(guān)分享其面部識(shí)別技術(shù)而招致批評(píng)，微軟也因向美國移民和海關(guān)執(zhí)法局（Immigration and Customs Enforcement，ICE）提供相關(guān)服務(wù)而遭到抗議。

在遭受猛烈抨擊之后，谷歌推出了新準(zhǔn)則，作為公司研發(fā)人工智能技術(shù)的道德指導(dǎo)。準(zhǔn)則中稱，不會(huì)將人工智能設(shè)計(jì)或應(yīng)用于武器、監(jiān)視或“其目的違反了廣為接受的國際法和人權(quán)準(zhǔn)則”的技術(shù)。微軟也發(fā)布聲明稱，其與美國移民和海關(guān)執(zhí)法局的合作僅限于電子郵件、日歷、消息和文檔管理，不包括任何面部識(shí)別技術(shù)。微軟也在號(hào)召美國國會(huì)對(duì)面部識(shí)別技術(shù)進(jìn)行監(jiān)管。

2015年，馬斯克為生命未來研究所的一個(gè)研究項(xiàng)目捐助了1000萬美元，該項(xiàng)目專注于確保人工智能會(huì)有益于人類。2017年，馬斯克，Deepmind的Hassabis和Suleyman也在生命未來研究所遞交給聯(lián)合國的信件上簽名，尋求對(duì)自主武器系統(tǒng)的立法。

延伸閱讀

推薦閱讀

猜您喜歡