我們面臨的法律和倫理挑戰(zhàn)可能在20年內(nèi)就會發(fā)生。因為屆時，機器人與人類能力相當?！仄骄€創(chuàng)始人兼CEO余凱
今天的AI已經(jīng)走出來實驗室、象牙塔，快速滲透到人類社會生活中的，我們在享受技術(shù)進步的便利時，潛在的威脅也隨之而來——法律盲區(qū)、倫理挑戰(zhàn)、監(jiān)管的空白地帶……如何在發(fā)揮AI價值的同時，規(guī)避其帶來的風險？
AI開啟“立法”新紀元
最近的兩會上，AI立法成了熱門話題。在十三屆全國人大二次會議4日舉行的新聞發(fā)布會上，大會發(fā)言人張業(yè)遂表示，全國人大常委會已將一些與人工智能密切相關(guān)的立法項目，如數(shù)字安全法、個人信息保護法和修改科學技術(shù)進步法等，列入本屆五年的立法規(guī)劃。同時把人工智能方面立法列入抓緊研究項目，圍繞相關(guān)法律問題進行深入的調(diào)查論證。科技圈的大佬如百度董事長李彥宏、中國移動通信集團有限公司黨組書記、董事長楊杰等，和學術(shù)屆的專家，紛紛建言獻策，共同探討AI立法的實踐。
盡管世界的各國政府對人工智能的重視程度有過之無不及，不過，有關(guān)AI立法和道德準則的制定，僅有少數(shù)國家作出明確的規(guī)定，如德國的“道路交通法第八修正案”。目前，中國的人工智能實力已經(jīng)走在世界前列，而配套的法律法規(guī)，也理應(yīng)不甘人后。
AI是個新事物，覆蓋的領(lǐng)域廣，牽涉的利益也是方方面面，所以在立法上也就需要更多的探索與討論。作為AI行業(yè)的踐行者——AI企業(yè)是如何看待以及探索AI立法呢？動點科技采訪了人工智能獨角獸地平線和數(shù)坤科技。
自動駕駛的“新法”制定需多方共同參與
“技術(shù)層面其實沒有難題，難點在于企業(yè)的價值觀?！钡仄骄€創(chuàng)始人兼CEO余凱認為AI的發(fā)展中：我們面臨很大的挑戰(zhàn)是人與人、人與客觀世界的關(guān)系，以及要怎么定位人和機器之間的關(guān)系。余凱是技術(shù)發(fā)展的樂觀派，他預(yù)測，我們面臨的法律和倫理挑戰(zhàn)可能在20年里就會發(fā)生。因為屆時，機器人與人類能力相當。那到時，人類應(yīng)該如何處理這種關(guān)系？
以備受關(guān)注的自動駕駛為例，曾有人提出“無人駕駛汽車在危險情況下是否可以不計后果地保護自己的主人？”，余凱認為這并不是一個單純的技術(shù)問題，而是一個永恒的倫理問題。“無人駕駛技術(shù)只是手段，機器智能不應(yīng)該凌駕于人類倫理之上?！彼J為，其背后的決策邏輯涉及到法律和倫理問題，需要相關(guān)的政府機構(gòu)、學術(shù)專家、企業(yè)的共同參與制定相關(guān)的規(guī)定。
此外，自動駕駛還涉及一個富有爭議性的話題，即：事故發(fā)生后的定責問題。余凱認為這是技術(shù)發(fā)展到一定程度后必然會衍生出的法律問題，也是一個系統(tǒng)性的社會工程。其需要制定一套明確、清晰的機制來明確責任劃分?！八砸晟频亟鉀Q這個問題需要技術(shù)專家和法律專家共同來制定更加細節(jié)的法律細則。從具體操作流程來上來說，未來原則上應(yīng)該也是技術(shù)協(xié)助執(zhí)法部門定責，保險公司賠付?！彼f。
顯然，針對自動駕駛領(lǐng)域的相關(guān)法律規(guī)則制定，需要多方參與，每一個細節(jié)都必不可少。
為新技術(shù)制定新法規(guī)，需謹慎使用現(xiàn)有政策工具
醫(yī)療行業(yè)是一個與倫理道德密不可分的領(lǐng)域。有的技術(shù)理想主義者發(fā)表了機器人代替醫(yī)生的觀點，引起了極大的爭議?！澳壳搬t(yī)療AI的定位是輔助醫(yī)生，而非替代醫(yī)生直接面對患者?！睌?shù)坤科技的創(chuàng)始人馬春娥認為決策者依舊是醫(yī)生，而技術(shù)則是工具。其實，這樣清晰的定位可以減少很多麻煩的倫理道德問題。
對于AI醫(yī)療來說，面臨的最明顯的法律法規(guī)問題則是審批問題?！搬t(yī)療AI產(chǎn)品涉及到醫(yī)CFDA三類證，目前國家相關(guān)部門正在制定針對AI的審批標準?！瘪R春娥表示，對于新一代的醫(yī)療AI產(chǎn)品，在之前的產(chǎn)品分類、審批、發(fā)證等流程和標準上沒有先例可循?！霸谠u審數(shù)據(jù)庫建設(shè)和監(jiān)管方面，仍在摸索階段，但大方向已清晰。此外，醫(yī)療AI產(chǎn)品的性能、算法模型、應(yīng)用界面等都在快速更新，傳統(tǒng)增項或者升級審批無法滿足行業(yè)發(fā)展需求?！彼a充解釋道。
那么，對于復(fù)雜嚴謹?shù)尼t(yī)療行業(yè)，AI在立法探索有哪些關(guān)鍵因素呢？首先，她認為，從以往經(jīng)驗來看，對于新技術(shù)，制定新法律法規(guī)，最好是評估現(xiàn)有政策工具，謹慎使用。“因為新的法律法規(guī)和稅收政策可能會阻礙AI的推廣和使用。”她解釋道，由于AI技術(shù)的應(yīng)用領(lǐng)域跨度很大，過度管理可能會無意間減少市場主體（尤其是創(chuàng)業(yè)公司和小型企業(yè)）創(chuàng)造和提供的技術(shù)的數(shù)量?！罢咧贫ㄕ咝枰蜆I(yè)內(nèi)及時溝通，制定有利于AI技術(shù)長遠發(fā)展的法律法規(guī)?！彼f。企業(yè)是AI醫(yī)療產(chǎn)品的研發(fā)者和推廣者，本身最清楚面臨法律和倫理風險。而建立一套完善行業(yè)規(guī)范，也需要行業(yè)協(xié)會、行業(yè)企業(yè)共同努力。
具體到產(chǎn)品審批方面，她認為，由于可能造成傷害大小的不一致，AI醫(yī)療產(chǎn)品的分級監(jiān)管也非常重要。如美國將能夠提供明確診斷結(jié)果的AI輔助診斷產(chǎn)品視為具有最高風險等級的醫(yī)療器械進行監(jiān)管，除需進行一般監(jiān)管外，還需進行上市前審批（PMA）。對于低風險的AI醫(yī)療產(chǎn)品，美國FDA采取“數(shù)字醫(yī)療軟件預(yù)認證計劃”。經(jīng)過預(yù)認證的開發(fā)主體即有資格直接銷售自己的低風險醫(yī)療AI產(chǎn)品，而無需經(jīng)過FDA的額外審查和一系列入市審查。
AI作為一個新技術(shù)，我們花了很多時間實踐、試錯?，F(xiàn)在是時候集中各家智慧與經(jīng)驗，總結(jié)其規(guī)律。就如百度董事長李彥宏在在全國政協(xié)十三屆二次會議第三次全體會議發(fā)言時的建議一樣：由政府主管部門牽頭，組織跨學科領(lǐng)域的行業(yè)專家、人工智能企業(yè)代表、行業(yè)用戶和公眾等相關(guān)方，開展人工智能倫理的研究和頂層設(shè)計，制定人工智能倫理的指引性文件。每個AI業(yè)內(nèi)人都需要有這樣的責任感。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關(guān)資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關(guān)資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權(quán)或存在不實內(nèi)容時，應(yīng)及時向本網(wǎng)站提出書面權(quán)利通知或不實情況說明，并提供身份證明、權(quán)屬證明及詳細侵權(quán)或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關(guān)文章源頭核實，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。 ）
