谷歌發(fā)布AI開發(fā)和使用指南 禁止制造可能危害人類的應用

• 2018年6月8日 ZhouXun來源：網易科技 518 28
• 繁體

• 

  2018-2023年人工智能汽車領域研究與投資前景調研報告

  智能汽車與一般所說的自動駕駛有所不同，它指的是利用多種傳感器和智能公路技術實現(xiàn)的汽車自動駕駛。智能汽車首先有一套導航信息資料庫，存有全國高速公路、普通公路、城市道路以及各種服務設施...

谷歌今天發(fā)布了人工智能(AI)開發(fā)和使用指南，其中包括禁止制造自動武器和大多數(shù)可能危害人類的AI應用。AI指南發(fā)布幾天前，谷歌宣布不再與美國國防部續(xù)簽分析無人機視頻的合同。

AI應用目標

我們將根據(jù)以下目標評估AI應用程序，我們認為AI應該：

1.有利于社會

新技術的廣泛應用日益影響到整個社會。AI的進步將在醫(yī)療、安全、能源、交通、制造和娛樂等廣泛領域產生革命性影響。在我們考慮AI技術的潛在開發(fā)和應用時，我們將考慮廣泛的社會和經濟因素，并將在我們認為總體收益大大超過可預見的風險和不利因素的情況下進行。AI也大幅增強了我們理解內容意義的能力。我們將努力利用AI隨時提供高質量和準確的信息，同時繼續(xù)尊重我們所在國家的文化、社會和法律規(guī)范。我們將繼續(xù)深入地評估：何時使我們的技術在非商業(yè)基礎中可用。

2.避免產生或加強不公平的偏見

AI算法和數(shù)據(jù)集可以反映、增強或減少不公平的偏差。我們認識到區(qū)分公平與不公平偏見并不總是簡單的，在不同的文化和社會中，公平的定義也存在差異。我們將設法避免AI對人類造成不公正的影響，特別是那些與敏感特征有關的影響，如種族、種族、性別、國籍、收入、性取向、能力、政治或宗教信仰。

3.構建并測試AI安全性

我們將繼續(xù)制定和實施強有力的安全措施，以避免AI造成意外傷害及其后果。我們將設計保持謹慎的AI系統(tǒng)，并根據(jù)AI安全研究的最佳實踐進行開發(fā)。在適當?shù)那闆r下，我們將在受限環(huán)境中測試AI技術，并在部署后監(jiān)視它們的操作。

4.對人類負責

我們將設計AI系統(tǒng)，它可為反饋、相關解釋和申訴提供適當?shù)臋C會。我們的AI技術將受到適當?shù)娜祟愔笇Ш涂刂啤?/p>

5.符合隱私設計原則

我們將把我們的隱私原則納入AI技術的開發(fā)和使用中。我們將給予通知和同意的機會，鼓勵具有隱私保護的架構，并提供適當?shù)耐该鞫群蛯?shù)據(jù)使用的控制。

6.堅持科學卓越的標準

技術創(chuàng)新根植于科學方法，并需要開放性探究、保持智力嚴謹、誠信和協(xié)作。AI工具有可能在生物學、化學、醫(yī)學和環(huán)境科學等關鍵領域開啟新的科學研究和知識領域。在我們推動AI發(fā)展的過程中，我們渴望達到高水平的科學成就。我們將與一系列利益相關者共同努力，在這一領域推進先進的思想，并采用科學嚴謹?shù)姆椒āＮ覀儗⒁载撠熑蔚姆绞椒窒鞟I知識，出版教育材料、最佳實踐和研究，使更多的人能夠開發(fā)有用的AI應用程序。

7.開發(fā)符合上述原則的AI用例

許多技術都有多種用途。我們將努力限制潛在有害或濫用的AI技術。隨著我們開發(fā)和部署AI技術，我們將根據(jù)以下因素評估可能的用途：

1)主要目的和用途：技術和應用的主要目的和可能用途，包括解決方案與有害使用的關系或適應性?

2)性質和獨特性：我們是否提供獨特的或更普遍的技術?

3)規(guī)模：該技術的使用是否會產生重大影響

4)谷歌參與的性質：我們是否提供通用工具，為客戶集成工具，還是開發(fā)自定義解決方案

谷歌不會追求的AI應用

除了上述目標，我們不會在以下應用領域設計或部署AI：

1)造成或可能造成總體傷害的技術。在有重大風險的領域，我們只會在我們認為好處遠遠大于風險的部分進行，并將納入適當?shù)陌踩拗?

2)武器或其他技術，其主要目的或實施造成或直接導致人類受到傷害;

3)收集或使用信息進行監(jiān)視的技術，它們違反國際公認規(guī)范;

4)其目的違反普遍接受的國際法和人權原則的AI技術。

我們要澄清的是，雖然我們沒有開發(fā)用于武器的AI，但我們將繼續(xù)在其他許多領域與政府和軍方合作，其中包括網絡安全、培訓、軍事招募、退伍軍人醫(yī)療、搜索和救援。這些合作非常重要，我們將積極尋找更多的方法來加強這些組織的關鍵工作，并確保服務人員和平民的安全。

AI遠景

雖然這是我們選擇與AI打交道的方式，但我們明白，在這場對話中，需要更多其他聲音加入。隨著AI技術的發(fā)展，我們將與一系列利益相關方合作，在這一領域推廣更先進的思想，采用科學嚴謹、多學科的方法。我們將繼續(xù)分享我們在改進AI技術和實踐方面的經驗。

我們相信這些原則是我們公司和AI未來發(fā)展的正確基礎。這種做法與2004年“創(chuàng)始人的信”(Founders’ Letter)中提出的價值觀相一致。當時我們曾明確表示，我們打算從長遠的角度出發(fā)，即使這意味著要做出短期的權衡。

延伸閱讀

推薦閱讀

猜您喜歡