人工智能決不能用于殺人！馬斯克與2400多名學者抗議AI武器

高層速讀

關(guān)鍵信息：本周，在瑞典2018年國際人工智能聯(lián)合會上，未來生命研究所所長、Skype和DeepMind創(chuàng)始人、馬斯克以及來2400多名學者簽署了預防AI武器化的禁令，他們警告稱不應該把人的生命交給機器，在各國將AI武器加入軍備競賽之前削減其發(fā)展。

關(guān)鍵數(shù)據(jù)：此次簽署包括90個國家160家公司的2400名公司高管、研究人員和學者，規(guī)模不斷增加。

關(guān)鍵意義：能夠自動殺人的AI武器和生化武器一樣令人不安和恐懼，應以同樣的方式處理。

本周，在瑞典首都斯德哥爾摩舉行的2018年國際人工智能聯(lián)合會議（IACJI）上，SpaceX和特斯拉的CEO埃隆·馬斯克、Skype創(chuàng)始人賈安·塔林、谷歌旗下DeepMind的三名創(chuàng)始人、以及未來生命研究所所長馬克斯·特格馬克在內(nèi)的知名人工智能思想領(lǐng)袖，都對AI自動武器提出了抗議。

他們與來自90個國家的2,400名公司高管、研究人員和學者簽署了一封公開信，承諾不會“參與或支持AI自動化武器的開發(fā)、制造、貿(mào)易或使用”，他們警告稱，不應該把人的生命交給機器。

他們寫道：“數(shù)千名人工智能研究人員一致認為，這些武器可能會對每個國家和個人造成危險的破壞，尤其是在與監(jiān)視和數(shù)據(jù)有關(guān)的情況下，自動化AI武器可能成為暴力和壓迫的工具?！?/p>

這90個國家的學者還呼吁各國政府先發(fā)制人，禁止AI武器研發(fā)及進入軍備競賽。特格馬克（Tegmark）在一份聲明中說：“很高興看到人工智能的領(lǐng)導者們從語言轉(zhuǎn)向行動，實施了一項政客們迄今都未能實施的政策。人工智能有巨大的潛力改變世界，但我們需要對它們的濫用進行預防。能夠自動殺人的AI武器和生化武器一樣令人不安和恐懼，應該以同樣的方式處理。”

活動發(fā)起人、未來生命研究所所長Tegmark

以下廣大學者和公眾是為禁止AI武器化所爭取的最新努力成果：

• 2018年4月，一群來自人工智能和機器人技術(shù)影響中心的研究人員和工程師發(fā)表了一封公開信，呼吁抵制韓國先進科學技術(shù)研究所（KAIST），指責該研究所與國防承包商韓華關(guān)于軍事系統(tǒng)的合作。

• 2017年11月，超過300名加拿大和澳大利亞的科學家給總理賈斯廷特魯多和Malcom Turnbell寫信，敦促禁止使用自動化武器。

• 2015年，馬斯克、霍金和數(shù)百名科技領(lǐng)袖簽署了未來生命研究所的論文，支持立法管理自動化AI武器。

但到目前為止，他們的請求被置若罔聞。

• 在過去的一年里，印度、智利、以色列和俄羅斯等國一直在追求自動化的坦克、飛機、偵察機器人、艦載導彈系統(tǒng)和武器化的無人機。

• 在美國，包括國防部和國土安全部在內(nèi)的聯(lián)邦機構(gòu)都在尋求用機器學習來實現(xiàn)現(xiàn)代化的計劃。

但在員工和公眾的壓力下，谷歌在今年6月發(fā)布了一套指導性的人工智能原則，并取消了備受爭議的與五角大樓的“Maven”無人機合同；與此同時，微軟停止了與移民和海關(guān)執(zhí)法部門的合作，并成立了Aether內(nèi)部顧問小組，來批判性地審視公司對人工智能的使用；在前幾天的一篇文章中，微軟總裁史密斯呼吁國會立法，規(guī)范面部識別在美國的使用問題。

但還有很多工作要做。

最近一份由美國國家情報總監(jiān)辦公室委托撰寫的關(guān)于人工智能和戰(zhàn)爭的報告得出結(jié)論說，由于人工智能有可能大規(guī)模擴大軍事力量，各國幾乎會不可避免地會建立自動化AI武器系統(tǒng)，以增強軍備競賽。

這就是為什么馬斯克等人說，在為時過晚之前通過監(jiān)管來削減這些武器是至關(guān)重要的。

去年，馬斯克與來自26個國家的116名機器學習專家埃寫道：“一旦發(fā)展起來，致命的AI武器將允許武裝沖突將以前所未有的規(guī)模進行，比人類所能想象到的還要快?！?/p>

“這些武器可能是恐怖主義的武器，可能是獨裁者和恐怖分子用來對付無辜民眾的武器，還有可能被黑客攻擊（系統(tǒng)），以不受公眾歡迎的方式行事?！?/p>

生成海報

免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。