是否有可能讓人工智能變得更加透明?

是否有可能讓人工智能變得更加透明?

為了使人工智能在道德上更加合理和實用，增強深度神經(jīng)網(wǎng)絡(luò)的可解釋性是至關(guān)重要的。

人工智能工作的透明度可能會讓那些將該技術(shù)融入日常運營的組織感到頭疼。那么，該如何做才能消除對可解釋人工智能需求的擔(dān)憂呢?

人工智能在任何行業(yè)的深遠(yuǎn)優(yōu)勢都是眾所周知的。我們意識到這項技術(shù)是如何幫助世界各地成千上萬的企業(yè)加快他其運營速度，并使之更有想象力地使用員工。此外，人工智能的長期成本和數(shù)據(jù)安全效益也被一些技術(shù)專欄作家和博主無數(shù)地記錄下來。不過，人工智能確實存在相當(dāng)多的問題。其中一個問題是，這項技術(shù)的決策有時令人懷疑。但更重要的是，更大的問題是，當(dāng)人工智能驅(qū)動的系統(tǒng)出現(xiàn)令人尷尬或災(zāi)難性的錯誤時，都會略微缺乏可解釋性。

人類每天都會犯錯誤。然而，我們清楚地知道錯誤是如何產(chǎn)生的。可以采取一系列明確的糾正措施，以避免今后重蹈覆轍。然而，AI的一些錯誤是無法解釋的，因為數(shù)據(jù)專家不知道算法是如何在操作過程中得出特定結(jié)論的。因此，對于計劃將該技術(shù)應(yīng)用到日常工作中的組織和已經(jīng)將其納入其中的組織來說，可解釋的人工智能應(yīng)該是首要優(yōu)先考慮的問題。

讓人工智能變得可解釋的原因

關(guān)于人工智能的一個常見謬誤是，它完全不會犯錯。神經(jīng)網(wǎng)絡(luò)，尤其是在其早期階段，可能會出錯。同時，這些網(wǎng)絡(luò)以非透明的方式執(zhí)行其命令。如前所述，人工智能模型到達(dá)特定結(jié)論的路徑在操作過程中的任何時刻都不明確。因此，即使是經(jīng)驗豐富的數(shù)據(jù)專家，也幾乎不可能解釋這樣的錯誤。

人工智能的透明度問題在醫(yī)療保健行業(yè)尤為突出。試想一下這個例子:一家醫(yī)院有一個神經(jīng)網(wǎng)絡(luò)或一個黑盒子AI模型，用于診斷病人的腦部疾病。該智能系統(tǒng)經(jīng)過訓(xùn)練，可以從過去的記錄和患者現(xiàn)有的醫(yī)療文件中查找數(shù)據(jù)模式。使用預(yù)測分析，如果模型預(yù)測對象在未來容易患上與大腦相關(guān)的疾病，那么預(yù)測背后的原因通常不是百分之百清楚。對于私人和公共機構(gòu)來說，以下是讓人工智能工作更加透明的4個主要原因:

1、問責(zé)

如前所述，利益相關(guān)者需要知道AI模型決策過程背后的內(nèi)部運作和推理邏輯，尤其是對于意外的建議和決定。一個可解釋的人工智能系統(tǒng)可以確保算法在未來做出公平和道德的建議和決定。這可以提高組織內(nèi)部人工智能神經(jīng)網(wǎng)絡(luò)的合規(guī)性和信任度。

2、更大的控制權(quán)

可解釋的人工智能通?？梢苑乐构ぷ鞑僮髦邪l(fā)生系統(tǒng)錯誤。關(guān)于人工智能模型現(xiàn)有弱點的更多知識可用于消除它們。因此，組織可以更好地控制AI系統(tǒng)提供的輸出。

3、改進(jìn)

眾所周知，人工智能模型和系統(tǒng)需要不時地進(jìn)行持續(xù)改進(jìn)?？山忉尩娜斯ぶ悄芩惴▽⒃诙ㄆ诘南到y(tǒng)更新過程中變得更加智能。

4、新發(fā)現(xiàn)

新的信息線索將使人類能夠發(fā)現(xiàn)當(dāng)前時代重大問題的解決方案，如治療HIV AIDS的藥物或療法、處理注意力缺陷障礙的方法。更重要的是，這些發(fā)現(xiàn)將有確鑿的證據(jù)和普遍核查的理由作為支持。

在人工智能驅(qū)動的系統(tǒng)中，透明度可以以人類可以理解的自然語言的分析語句的形式顯示，突出顯示用于制定輸出決策的數(shù)據(jù)的可視化、顯示支持給定決策的點的案例，或突出顯示系統(tǒng)拒絕其他決策的原因的語句。

近年來，可解釋人工智能領(lǐng)域得到了發(fā)展和擴展。最重要的是，如果這種趨勢在未來繼續(xù)下去，那么企業(yè)將能夠使用可解釋的人工智能來提高其產(chǎn)出，同時了解每個由人工智能支持的關(guān)鍵決策背后的基本原理。

雖然這些是人工智能需要更加透明的原因，但仍有一些障礙阻止了同樣的事情發(fā)生。其中一些障礙包括:

人工智能責(zé)任悖論

眾所周知，可解釋的人工智能可以提高人工智能系統(tǒng)的公平性、信任度和合法性等方面。然而，一些組織可能不太熱衷于增加其智能系統(tǒng)的責(zé)任感，因為可解釋的人工智能可能會帶來一系列問題。其中一些問題是:

除此之外，許多人認(rèn)為，在人工智能系統(tǒng)中揭露和披露機密決策數(shù)據(jù)會使組織容易受到訴訟或監(jiān)管行動的影響。

為了不受這種“透明度悖論”的影響，企業(yè)必須考慮與可解釋人工智能相關(guān)的風(fēng)險與其明顯的好處。企業(yè)必須有效地管理這些風(fēng)險，同時確保由可解釋的人工智能系統(tǒng)生成的信息不會被淡化。

此外，企業(yè)必須明白兩件事:首先，讓人工智能透明化的相關(guān)成本不應(yīng)阻止其整合此類系統(tǒng)。企業(yè)必須制定風(fēng)險管理計劃，以適應(yīng)可解釋的模型，使其提供的關(guān)鍵信息保持機密。其次，企業(yè)必須改進(jìn)其網(wǎng)絡(luò)安全框架，以檢測和消除可能導(dǎo)致數(shù)據(jù)泄露的漏洞和網(wǎng)絡(luò)威脅。

人工智能的黑匣子問題

深度學(xué)習(xí)是人工智能不可或缺的一部分。深度學(xué)習(xí)模型和神經(jīng)網(wǎng)絡(luò)通常以無監(jiān)督的方式進(jìn)行訓(xùn)練。深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)是人工智能的關(guān)鍵組成部分，涉及圖像識別和處理、高級語音識別、自然語言處理和系統(tǒng)翻譯。不幸的是，雖然與常規(guī)機器學(xué)習(xí)模型相比，這種AI組件可以處理更復(fù)雜的任務(wù)，但深度學(xué)習(xí)也會在日常操作和任務(wù)中引入黑匣子問題。

正如所知，神經(jīng)網(wǎng)絡(luò)可以復(fù)制人腦的工作。人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)是模仿真實的神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是由幾層相互連接的節(jié)點和其他“隱藏”層創(chuàng)建的。雖然這些神經(jīng)節(jié)點執(zhí)行基本的邏輯和數(shù)學(xué)運算來得出結(jié)論，但也足夠智能和直觀，可以處理歷史數(shù)據(jù)并從中生成結(jié)果。真正復(fù)雜的操作涉及多個神經(jīng)層和數(shù)十億個數(shù)學(xué)變量。因此，從這些系統(tǒng)生成的輸出幾乎沒有機會得到組織中的AI專家的全面驗證和確認(rèn)。

Deloitte和Google等組織正在致力于創(chuàng)建工具和數(shù)字應(yīng)用程序，這些工具和應(yīng)用程序可以沖破黑匣子，揭示用于做出關(guān)鍵人工智能決策的數(shù)據(jù)，以提高智能系統(tǒng)的透明度。

為了讓人工智能更負(fù)責(zé)任，組織必須重新設(shè)想其現(xiàn)有的人工智能治理策略。以下是改善治理可以減少基于透明度的人工智能問題的一些關(guān)鍵領(lǐng)域。

系統(tǒng)設(shè)計

在初始階段，組織可以在構(gòu)建AI系統(tǒng)和訓(xùn)練神經(jīng)網(wǎng)絡(luò)時優(yōu)先考慮信任和透明度。密切關(guān)注人工智能服務(wù)提供商和供應(yīng)商如何設(shè)計人工智能網(wǎng)絡(luò)，可以提醒組織中的關(guān)鍵決策者有關(guān)AI模型的能力和準(zhǔn)確性的早期問題。通過這種方式，在系統(tǒng)設(shè)計階段有一個實際操作的方法可以揭示一些AI基于透明度的問題，供組織觀察。

合規(guī)

隨著世界各地的人工智能法規(guī)在人工智能責(zé)任方面變得越來越嚴(yán)格，組織可以從使其AI模型和系統(tǒng)符合這些規(guī)范和標(biāo)準(zhǔn)中真正受益。組織必須推動其人工智能供應(yīng)商創(chuàng)建可解釋的人工智能系統(tǒng)。為了消除人工智能算法中的偏見，企業(yè)可以接觸基于云的服務(wù)提供商，而不是聘請昂貴的數(shù)據(jù)專家和團(tuán)隊。組織必須通過明確指示云服務(wù)提供商在其工作場所安裝和實施AI系統(tǒng)期間勾選所有與合規(guī)相關(guān)的方框，來減輕合規(guī)負(fù)擔(dān)。除了這些要點之外，組織還可以在其AI治理計劃中包括隱私和數(shù)據(jù)安全等方面的要點。

自世紀(jì)之交以來，我們?nèi)〉昧艘恍┳盍钊苏痼@的技術(shù)進(jìn)步，其中包括人工智能和深度學(xué)習(xí)。幸運的是，盡管100%可解釋的人工智能還不存在，但人工智能驅(qū)動的透明系統(tǒng)的概念并不是一個無法實現(xiàn)的夢想。這取決于實施這些系統(tǒng)的組織如何改善其人工智能治理，并為實現(xiàn)這一目標(biāo)承擔(dān)風(fēng)險。

----------------------------

近期，由千家網(wǎng)主辦的2022年第23屆中國國際建筑智能化峰會將正式拉開帷幕，本屆峰會主題為“數(shù)智賦能，碳索新未來”，屆時將攜手全球知名建筑智能化品牌及專家，共同分享AI、云計算、大數(shù)據(jù)、IoT、智慧城市、智能家居、智慧安防等熱點話題與最新技術(shù)應(yīng)用，并探討如何打造“更低碳、更安全、更穩(wěn)定、更開放”的行業(yè)生態(tài)，助力“雙碳”目標(biāo)的實現(xiàn)。

歡迎建筑智能化行業(yè)同仁報名參會，分享交流！

報名方式

上海站（11月23日）：https://www.huodongxing.com/event/3638582473900

北京站（11月25日）：https://www.huodongxing.com/event/4638577546900

廣州站（12月08日）：https://www.huodongxing.com/event/2638587914600

成都站（12月20日）：https://www.huodongxing.com/event/5657854318600

西安站（12月22日）：https://www.huodongxing.com/event/4638585444400

更多2022年峰會信息，詳見峰會官網(wǎng)：http://summit.qianjia.com/

生成海報

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請進(jìn)一步核實，并對任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個人認(rèn)為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。