人臉識(shí)別潛入課堂，AI過(guò)度“入侵”如何承受隱私之重？

技術(shù)并不是惡的化身，只是對(duì)人性惡的又一次考驗(yàn)。

一直以來(lái)，關(guān)于AI技術(shù)和AI倫理的爭(zhēng)辯從未停止，這也是不斷有“技術(shù)向善”訴求表達(dá)出來(lái)的社會(huì)現(xiàn)實(shí)背景。

或許《黑鏡》的編劇怎么也沒(méi)想到，故事中的“戲言”終于一語(yǔ)成讖。

在第四季第二集中，為了更好監(jiān)護(hù)自己的女兒，一位母親給她的眼睛植入了芯片控制器，自己可以透過(guò)一個(gè)類似iPad的硬件查看其身體的各項(xiàng)生命體征，也可以轉(zhuǎn)播它的視覺(jué)信號(hào)。

換句話說(shuō)，她的母親可以通過(guò)iPad監(jiān)控她的女兒。

冰冷的機(jī)器給人定性

抵御AI“入侵”迫在眉睫

如今，這種場(chǎng)景沒(méi)有出現(xiàn)在親子之間，而是真實(shí)出現(xiàn)在了課堂之上。

近日，一組課堂上學(xué)生課堂行為分析的視頻截圖在微博引發(fā)熱議，這張圖片再次刺激了用戶對(duì)于在AI技術(shù)籠罩下，保護(hù)個(gè)人隱私倍感無(wú)力的神經(jīng)。

照片中，攝像頭通過(guò)計(jì)算機(jī)視覺(jué)算法獲取兩名學(xué)生的課堂表現(xiàn)，并以標(biāo)簽的形式計(jì)算出“聽(tīng)講、閱讀、舉手，趴桌子、玩手機(jī)、睡覺(jué)”等動(dòng)作次數(shù)，截圖顯示該技術(shù)方案來(lái)自曠視科技。

趴桌子2次、玩手機(jī)2次、睡覺(jué)1次、聽(tīng)講0次、閱讀0次、舉手0次、笑了0次、厭惡表情出現(xiàn)了10次……

最后機(jī)器可能得出一個(gè)綜合結(jié)論：她這是個(gè)有問(wèn)題的孩子。

用機(jī)器去給人定性，AI是否已經(jīng)過(guò)度入侵人們的生活了？是否已經(jīng)成為當(dāng)今社會(huì)新的枷鎖？

事實(shí)上，隨著AI技術(shù)獲取門檻的降低和智慧課堂概念的興起，包括好未來(lái)、新東方等諸多教育企業(yè)都將AI技術(shù)應(yīng)用在對(duì)學(xué)生表情、肢體動(dòng)作的識(shí)別中，來(lái)了解學(xué)生對(duì)學(xué)習(xí)專注的情況。

這類應(yīng)用的設(shè)計(jì)之初，只是為了幫助老師了解課堂授課反饋情況、幫助學(xué)生提高學(xué)習(xí)效率。但同時(shí)，學(xué)生個(gè)人信息數(shù)據(jù)被大量獲取和存儲(chǔ)，也引發(fā)用戶對(duì)隱私安全的擔(dān)憂。

可以看到，AI發(fā)展至今在人權(quán)和隱私權(quán)等權(quán)利的保護(hù)方面仍然缺乏清晰邊界，同時(shí)缺乏相關(guān)法律法規(guī)對(duì)AI應(yīng)用更為明確的規(guī)范。

如今，AI“入侵”中國(guó)教育體系已經(jīng)到了令人擔(dān)憂的地步，貴州省仁懷市第十一中學(xué)的學(xué)生們現(xiàn)在都穿上了“智能校服”。

這套智能校服能精準(zhǔn)、及時(shí)記錄學(xué)生的出勤和活動(dòng)。只要身著這套校服，學(xué)生進(jìn)出校門的準(zhǔn)確時(shí)間，就會(huì)自動(dòng)發(fā)送給學(xué)校老師和家長(zhǎng)。如果未經(jīng)許可出校門，也會(huì)激活自動(dòng)語(yǔ)音報(bào)警器。

而且校服還會(huì)配合校門口的智能攝像頭一起使用，假如學(xué)生互換校服，警報(bào)也會(huì)響起?？傊?，人臉、校服和攝像頭，三合一確保學(xué)生身份。

與這一應(yīng)用類似，之前亞馬遜被曝光構(gòu)建了一套AI系統(tǒng)，可以追蹤每一名物流倉(cāng)儲(chǔ)部門員工的工作效率，統(tǒng)計(jì)每一名員工的“摸魚”時(shí)間，然后自動(dòng)生成解雇的指令。

亞馬遜曾經(jīng)用AI來(lái)決定招人與否，不過(guò)最終因?yàn)榉磳?duì)的聲浪而廢止，但現(xiàn)在亞馬遜用AI來(lái)決定該不該解雇一個(gè)員工。而更令人震驚的是，亞馬遜的系統(tǒng)還能管理和限制員工離開崗位的時(shí)間。

換句話說(shuō)，亞馬遜的員工是去是留，全由一個(gè)沒(méi)有感情、冰冷的自動(dòng)化程序全權(quán)操控。

特斯拉CEO馬斯克之前的“AI威脅論”今天看來(lái)并非危言聳聽(tīng)，但其可怕之處并非來(lái)自于AI本身，更多的則來(lái)自于人類對(duì)于AI的態(tài)度。

隱私保護(hù)長(zhǎng)路漫漫

AI面前需保持克制與敬畏之心

人工智能這個(gè)人類一手締造的尤物，就如同《機(jī)械姬》中的美女，如此強(qiáng)烈地誘惑者人類，但當(dāng)美女撕下面皮露出鋼鐵的內(nèi)部時(shí)，她又是那么的可怖。

人類本應(yīng)該讓技術(shù)服務(wù)于人類，如今卻將這套固化標(biāo)準(zhǔn)用在了自己身上，到底是技術(shù)解放了人類，還是技術(shù)奴役了人類？

在AI面前，我們更多的需要保持克制以及對(duì)技術(shù)的敬畏之心。在這方面，國(guó)外正在出現(xiàn)一股抵御AI的風(fēng)潮。

與國(guó)內(nèi)對(duì)人臉識(shí)別大部分的正向宣傳相反，由于人臉識(shí)別技術(shù)在有色人種、民族、兒童老人等維度的準(zhǔn)確率方面存在巨大差異，人臉識(shí)別技術(shù)應(yīng)用在國(guó)外的推廣略顯艱難。

作為國(guó)外反人臉識(shí)別風(fēng)潮中最有名的攻擊對(duì)象，曾被美國(guó)警方使用的亞馬遜計(jì)算機(jī)視覺(jué)平臺(tái) Rekognition，被自家股東在今年年初開始持續(xù)施壓，他們強(qiáng)制要求亞馬遜停止向執(zhí)法部門出售人臉識(shí)別軟件。

而這股風(fēng)潮也在今年8月初吹到了英國(guó)，有房地產(chǎn)商在倫敦國(guó)王十字區(qū)安裝了人臉識(shí)別硬件后遭到強(qiáng)烈反對(duì)，因?yàn)楹笳邔?duì)此毫不知情。

在美國(guó)，這項(xiàng)技術(shù)正面臨著來(lái)自立法者越來(lái)越大的阻力。加利福尼亞州參議院正在考慮立法禁止在警用隨身攝像機(jī)中使用人臉識(shí)別軟件，而舊金山監(jiān)事會(huì)也已經(jīng)開始禁止執(zhí)法部門使用這項(xiàng)技術(shù)。

因此，包括亞馬遜、谷歌等在內(nèi)的技術(shù)公司雖然很不情愿，認(rèn)為“新技術(shù)不應(yīng)該因?yàn)榭赡鼙粸E用而遭到禁止和譴責(zé)”，但卻達(dá)成了一個(gè)共識(shí)：

制定相關(guān)合乎道德的指導(dǎo)方針，要跑在真正能使用這項(xiàng)技術(shù)之前。

一個(gè)明確的監(jiān)管框架不僅能確保人臉識(shí)別只用于完成合法的任務(wù)，也能夠幫助消費(fèi)者理解這項(xiàng)技術(shù)的好處。讓人臉識(shí)別“走上正路”，一邊是法律的強(qiáng)勢(shì)介入，而另一邊則是來(lái)自民間個(gè)人的智慧。

如何保護(hù)隱私？這個(gè)問(wèn)題存在很長(zhǎng)時(shí)間，但似乎無(wú)解。因?yàn)樗幍沫h(huán)境不同，以及每個(gè)人對(duì)隱私的定義也不同，導(dǎo)致我們不能做過(guò)多解讀。

援引美國(guó)獨(dú)立研究員Stephanie Hare的話來(lái)解釋，人臉識(shí)別系統(tǒng)的最大問(wèn)題之一是涉及到生物特征數(shù)據(jù)，也就是人體信息，這無(wú)疑與人們的隱私有關(guān)。

但這次曠視引發(fā)的討論中，有小部分人對(duì)這種做法是否真的侵犯了隱私提出了質(zhì)疑。

比如，既然家長(zhǎng)可以把學(xué)生的情況反映給家長(zhǎng)，為什么機(jī)器不能匯集更豐富的信息給家長(zhǎng)？未成年人到底有沒(méi)有獨(dú)立于成年人的隱私權(quán)？一系列道德與倫理問(wèn)題接踵而來(lái)。

從本質(zhì)來(lái)看，這些質(zhì)疑聲恰恰凸顯出隨著技術(shù)發(fā)展，法律一定要強(qiáng)勢(shì)介入的必要性。

但是每次涉及到隱私問(wèn)題，我們的擔(dān)憂都會(huì)在一次集中爆發(fā)后，又迅速銷聲匿跡。

隨著換臉軟件Zao的使用熱度過(guò)去，對(duì)AI教室監(jiān)控產(chǎn)品的討伐聲結(jié)束，大概對(duì)隱私被侵犯的控訴仍然會(huì)不了了之。

回到這個(gè)問(wèn)題上，當(dāng)學(xué)生們即便同意自己的身體信息被收集和分析，那么參與方有沒(méi)有征求過(guò)這些機(jī)器直接作用方的意見(jiàn)呢？孩子們會(huì)不會(huì)在這樣隱形的壓力下學(xué)會(huì)裝模作樣，學(xué)會(huì)接受把這套機(jī)器用在下一代身上？

在一切還尚未有明確答案之前，我們更應(yīng)該讓隱私保護(hù)問(wèn)題引起更多人的重視并推動(dòng)相關(guān)法律的確立。

對(duì)于如何看待用AI技術(shù)監(jiān)視學(xué)生上課這一行為，我們認(rèn)為，這不是產(chǎn)品經(jīng)理或者程序員的問(wèn)題，不是一家公司的問(wèn)題，更不是一個(gè)技術(shù)問(wèn)題。

這是整個(gè)社會(huì)的價(jià)值觀的問(wèn)題，是我們?cè)趺纯创陨頇?quán)益的問(wèn)題。

微信公眾賬號(hào)：科技云報(bào)道

來(lái)源：科技云報(bào)道

生成海報(bào)

免責(zé)聲明：此文內(nèi)容為第三方自媒體作者發(fā)布的觀察或評(píng)論性文章，所有文字和圖片版權(quán)歸作者所有，且僅代表作者個(gè)人觀點(diǎn)，與極客網(wǎng)無(wú)關(guān)。文章僅供讀者參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。投訴郵箱：editor@fromgeek.com。

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開相關(guān)鏈接。