云知聲黃偉：物聯(lián)網(wǎng)環(huán)境下的AI芯片大挑戰(zhàn)

11月9日至10日，科技智庫(kù)「甲子光年」在北京舉行2019「甲子引力」大會(huì)。其中，在11月9日下午舉行的“數(shù)字智能”專(zhuān)場(chǎng)上，云知聲創(chuàng)始人、CEO黃偉以“底層崛起：邊緣計(jì)算 AI芯片”為主題展開(kāi)了分享。

黃偉談到，算法在過(guò)去很多時(shí)候理論上很美，但若沒(méi)有算力支撐的話(huà)，很難達(dá)到非常好的效果。這也是為何今天人工智能很熱的時(shí)候，突然發(fā)現(xiàn)芯片也很熱，因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)需要更多的數(shù)據(jù)和算法，也需要更強(qiáng)的算力。 芯片是一個(gè)比較漫長(zhǎng)的周期，從研發(fā)到流片、設(shè)計(jì)，周期以年為計(jì)，里面任何一個(gè)判斷失誤都會(huì)導(dǎo)致比較大的損失。黃偉提到，做芯片更多還是考量在今天這個(gè)時(shí)代，芯片能夠滿(mǎn)足用戶(hù)哪些需求，以此出發(fā)點(diǎn)倒推在芯片設(shè)計(jì)的時(shí)候要考慮哪些要素。

演講要點(diǎn)如下：

1、很多算法理論上很美，但需要算力來(lái)支撐。

2、5G普及之后，對(duì)邊緣計(jì)算能力要求越來(lái)越高。

3、在物聯(lián)網(wǎng)環(huán)境下做AI芯片面臨很多挑戰(zhàn)，重要的是考量芯片能滿(mǎn)足用戶(hù)哪些需求。

現(xiàn)場(chǎng)演講實(shí)錄：

很多算法理論上很美，但需要算力來(lái)支撐

很高興今天來(lái)參加這個(gè)活動(dòng)，我今天的題目是《底層崛起：邊緣計(jì)算AI芯片》。先介紹一下AI芯片的背景，這個(gè)圖很多人在很多場(chǎng)合都看到過(guò)，人工智能的幾次高潮與低谷。我想從我個(gè)人的經(jīng)歷介紹下，因?yàn)槲易约阂菜闶菑?a href="http://www.intimacywithspirit.com/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能整個(gè)低谷到漸漸起來(lái)這一過(guò)程的親歷者。

云知聲今天是做聲技術(shù)的，比如說(shuō)語(yǔ)音識(shí)別、自然語(yǔ)言理解等，其實(shí)我碩士論文是做圖像，那是在上世紀(jì)末，1998、1999年，當(dāng)時(shí)我的導(dǎo)師給我分配的研究課題是來(lái)給一些醫(yī)學(xué)圖片切片編輯成可交互、旋轉(zhuǎn)、可渲染的3D model。那時(shí)候主頻只有100兆，做三維的動(dòng)作困難是很大的。我做完可以出去玩，兩三個(gè)小時(shí)回來(lái)那個(gè)機(jī)器掛了，那個(gè)時(shí)候很痛苦。當(dāng)時(shí)博士階段就換了一個(gè)方向，做語(yǔ)音識(shí)別。 我的博士論文開(kāi)題也是用神經(jīng)網(wǎng)絡(luò)來(lái)做語(yǔ)音識(shí)別。那個(gè)年代很多人會(huì)覺(jué)得“神經(jīng)網(wǎng)絡(luò)”是騙子，我自己也深深以為神經(jīng)網(wǎng)絡(luò)是騙子，因?yàn)樾Ч懿?。如果?xùn)練集和測(cè)試集環(huán)境比較一致的話(huà)效果還可以，如果換個(gè)集合效果就一塌糊涂。 當(dāng)時(shí)又轉(zhuǎn)了一個(gè)方向，因?yàn)橛龅揭粋€(gè)另外問(wèn)題。當(dāng)時(shí)理論非常完美，但測(cè)算了一下，基本跑一個(gè)模型需要兩周時(shí)間。那個(gè)數(shù)據(jù)集有兩千人，意味著這個(gè)跑一遍要四千多周。算了算不行，博士從開(kāi)題到畢業(yè)只有兩年時(shí)間，做這個(gè)可能畢不了業(yè)。所以我就想辦法結(jié)合統(tǒng)計(jì)模型，解決了數(shù)據(jù)的篩選，把幾十萬(wàn)的數(shù)據(jù)變成幾十、幾百的數(shù)據(jù)。 這個(gè)例子講什么呢，就是這種算法在過(guò)去很多時(shí)候理論上很美，但沒(méi)有算力來(lái)支撐的話(huà)，很難達(dá)到非常好的效果。其實(shí)在某個(gè)特定歷史時(shí)期，計(jì)算能力本身就對(duì)算法做了設(shè)定，甚至對(duì)理論了做一個(gè)設(shè)定。所以這就是為什么今天人工智能很熱的時(shí)候，突然發(fā)現(xiàn)芯片也很熱了，我認(rèn)為這是一個(gè)合理的過(guò)程。因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)需要更多的數(shù)據(jù)，更多更復(fù)雜的算法，當(dāng)然需要更強(qiáng)的算力。

5G普及之后，對(duì)邊緣計(jì)算能力要求越來(lái)越高

過(guò)去還聽(tīng)到一種聲音說(shuō)，5G時(shí)代我們可以把更多數(shù)據(jù)都上升到云端，組合到一起去做。這是否能解決問(wèn)題呢?當(dāng)然不是。天下之勢(shì)，分久必合，合久必分，沒(méi)有互聯(lián)網(wǎng)之前其實(shí)我們都是邊緣計(jì)算，有了互聯(lián)網(wǎng)之后我們開(kāi)始把數(shù)據(jù)在云端進(jìn)行處理，所以我們看到有一段時(shí)間云計(jì)算特別火。到一定階段之后之后，我們又進(jìn)入另一時(shí)期，就是端云結(jié)合，我們既需要云端的集中處理，可能也需要一些邊緣側(cè)的分布式處理。這個(gè)時(shí)代背景下，最近幾年我們國(guó)內(nèi)其實(shí)涌現(xiàn)了一些非常優(yōu)秀的AI芯片公司，包括今天到場(chǎng)嘉賓，像地平線(xiàn)、寒武紀(jì)還有很多都是在各自領(lǐng)域里努力做一些工作，使得對(duì)中國(guó)的發(fā)展能起到有益的幫助。 講到AI芯片戰(zhàn)略意義，其實(shí)講大道理沒(méi)用，就以一個(gè)例子來(lái)講，比如說(shuō)我們知道今天的車(chē)不再只是一個(gè)交通工具，它的能力開(kāi)始延展，我們也會(huì)在汽車(chē)?yán)锩嫱ㄟ^(guò)聯(lián)網(wǎng)獲得很多的服務(wù)，包括在線(xiàn)導(dǎo)航、在線(xiàn)歌曲，在線(xiàn)實(shí)施優(yōu)化以及自動(dòng)駕駛，我們還會(huì)把不同車(chē)的信息在云端進(jìn)行處理，其實(shí)這就意味著車(chē)也會(huì)成為一個(gè)IoT的T之一。

我們是不是可以直接把這個(gè)東西就放在里面，直接通過(guò)5G來(lái)做，現(xiàn)實(shí)其實(shí)不是這樣的。即便今天5G普及了，我們也很難保證在任何的路況、在任何地區(qū)5G信號(hào)都可以實(shí)時(shí)、毫秒級(jí)處理。

第二個(gè)是說(shuō)我直接把這個(gè)算法跑到汽車(chē)應(yīng)用上行不行，答案可能也是不行。舉例說(shuō)，假設(shè)你今天買(mǎi)了輛車(chē)，你會(huì)發(fā)現(xiàn)這個(gè)車(chē)的電腦設(shè)計(jì)其實(shí)很一般，因?yàn)檫@些元力件都是五年前、八年前定型的，它的主頻處理器運(yùn)行并不特別高，假如說(shuō)在處理速度不是很高的芯片上面，我們又跑了一個(gè)非常消耗計(jì)算資源的AI的應(yīng)用，又是什么后果呢?以我們做的語(yǔ)音交互為例，當(dāng)我開(kāi)車(chē)的時(shí)候說(shuō)一句話(huà)，跟汽車(chē)通過(guò)語(yǔ)音進(jìn)行交互，就可能會(huì)導(dǎo)致這個(gè)汽車(chē)的主控芯片的CPU被阻塞，從而可能導(dǎo)致非常嚴(yán)重的交通事故。這就需要我們?cè)诓粍?dòng)主控芯片的情況下，是否有一個(gè)專(zhuān)用芯片來(lái)處理人和汽車(chē)的之間的對(duì)話(huà)，它來(lái)處理汽車(chē)一些娛樂(lè)性等等。隨著5G隨著普及之后，其實(shí)我們對(duì)邊緣計(jì)算能力要求越來(lái)越高。

物聯(lián)網(wǎng)AI芯片面臨的挑戰(zhàn)

在物聯(lián)網(wǎng)環(huán)境下，我們做AI芯片面臨很多挑戰(zhàn)。過(guò)去傳統(tǒng)芯片經(jīng)過(guò)初步競(jìng)爭(zhēng)之后剩下一些巨頭，這些巨頭充分競(jìng)爭(zhēng)的結(jié)果是每個(gè)巨頭按照自己的研發(fā)計(jì)劃交出一個(gè)產(chǎn)品，下游廠(chǎng)商沒(méi)有選擇權(quán)。我們會(huì)看到有段時(shí)間手機(jī)廠(chǎng)商發(fā)布會(huì)說(shuō)我們采用了驍龍700、800芯片，用戶(hù)也不知道驍龍700、800到底是什么，只是覺(jué)得它快。在物聯(lián)網(wǎng)環(huán)境下我們做芯片面臨的問(wèn)題，首先就是這個(gè)芯片的任務(wù)是什么。其次在人工智能時(shí)代我們面臨很多現(xiàn)實(shí)問(wèn)題，例如在A(yíng)I設(shè)計(jì)上怎樣才能低功耗，聯(lián)網(wǎng)之后設(shè)備的安全性怎么保證，這都是AI芯片需要解決的問(wèn)題。

未來(lái)是什么在決定著物聯(lián)網(wǎng)AI芯片的設(shè)計(jì)，實(shí)際上還是那幾個(gè)問(wèn)題，首先要面向場(chǎng)景和任務(wù)，這個(gè)AI芯片一定是端云結(jié)合，在設(shè)備端要給用戶(hù)提供多?；幚砟芰?。第二個(gè)要構(gòu)筑一個(gè)最矮墻，提升CPU的效率，使得算力非常強(qiáng)，舉個(gè)例子就好比說(shuō)回轉(zhuǎn)壽司，一個(gè)大哥飯量非常好，吃得非常快，但你轉(zhuǎn)的太慢的話(huà)他也吃不飽。

簡(jiǎn)單總結(jié)一下，過(guò)去幾年我們?cè)谛酒矫娴囊恍v程，可能因?yàn)楹茉绯赃^(guò)算力不足以支撐算法的虧，所以很早意識(shí)到算力的重要性，除了自己搭建算力平臺(tái)之外，我們也很早就意識(shí)到了芯片研發(fā)的重要性，2015年我們開(kāi)始組建團(tuán)隊(duì)做這個(gè)事情。 云知聲這幾年，從研發(fā)、流片到量產(chǎn)和發(fā)布，今年初我們也發(fā)布了自己的第一代產(chǎn)品。去年是語(yǔ)音芯片，今年開(kāi)始推出我們的多模態(tài)芯片。這個(gè)有幾個(gè)特點(diǎn)，一是算力比較強(qiáng)，可以達(dá)到4個(gè)T;第二是支持多個(gè)NPU組網(wǎng);第三是可重復(fù)計(jì)算，芯片即使流片之后，后續(xù)如果算法升級(jí)，這個(gè)芯片也可以支持算法去不斷進(jìn)行升級(jí)。當(dāng)然除了語(yǔ)音之外，其實(shí)還包括圖像，可以在芯片端實(shí)現(xiàn)聲音、圖象、信號(hào)等多模態(tài)的處理能力。上個(gè)月我們剛剛流片一個(gè)DSP芯片，比較快的話(huà)應(yīng)該年底會(huì)回來(lái)。

其實(shí)我們可以看到，云知聲并不是追求軍備競(jìng)賽，多少算力，我們更多還是考量在今天這個(gè)時(shí)代，芯片能夠滿(mǎn)足用戶(hù)哪些需求，從這個(gè)出發(fā)點(diǎn)倒推，我們?cè)谛酒O(shè)計(jì)的時(shí)候把哪些要素考慮進(jìn)來(lái)。

當(dāng)然，芯片是一個(gè)比較漫長(zhǎng)的周期，從研發(fā)到流片，到設(shè)計(jì)，到量產(chǎn)，這個(gè)周期是以年為計(jì)的，這里面任何一個(gè)判斷失誤都會(huì)導(dǎo)致芯片出來(lái)時(shí)造成比較大的損失。我們?yōu)槭裁匆鲂酒褪菫榱艘?guī)模量產(chǎn)，但一旦出現(xiàn)失誤，就會(huì)造成很大的損失。 在落地方面，我覺(jué)得在今天的環(huán)境下，很多團(tuán)隊(duì)面臨的不僅僅是技術(shù)問(wèn)題。我們都知道今天可能資本是寒冬，也知道今天的國(guó)內(nèi)環(huán)境是科技戰(zhàn)的環(huán)境，科技是需要燒錢(qián)的，但資本沒(méi)有錢(qián)。在這種背景下，創(chuàng)業(yè)企業(yè)怎么把科創(chuàng)演進(jìn)規(guī)劃跟市場(chǎng)比較好的結(jié)合在一起，這可能是每一個(gè)創(chuàng)業(yè)公司需要面臨的問(wèn)題。 大概這些，謝謝大家。

生成海報(bào)

免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。