云知聲黃偉:物聯(lián)網(wǎng)環(huán)境下的AI芯片大挑戰(zhàn)

云知聲黃偉:物聯(lián)網(wǎng)環(huán)境下的AI芯片大挑戰(zhàn)

11月9日至10日,科技智庫(kù)「甲子光年」在北京舉行2019「甲子引力」大會(huì)。其中,在11月9日下午舉行的“數(shù)字智能”專(zhuān)場(chǎng)上,云知聲創(chuàng)始人、CEO黃偉以“底層崛起:邊緣計(jì)算 AI芯片”為主題展開(kāi)了分享。

黃偉談到,算法在過(guò)去很多時(shí)候理論上很美,但若沒(méi)有算力支撐的話(huà),很難達(dá)到非常好的效果。這也是為何今天人工智能很熱的時(shí)候,突然發(fā)現(xiàn)芯片也很熱,因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)需要更多的數(shù)據(jù)和算法,也需要更強(qiáng)的算力。 芯片是一個(gè)比較漫長(zhǎng)的周期,從研發(fā)到流片、設(shè)計(jì),周期以年為計(jì),里面任何一個(gè)判斷失誤都會(huì)導(dǎo)致比較大的損失。黃偉提到,做芯片更多還是考量在今天這個(gè)時(shí)代,芯片能夠滿(mǎn)足用戶(hù)哪些需求,以此出發(fā)點(diǎn)倒推在芯片設(shè)計(jì)的時(shí)候要考慮哪些要素。

演講要點(diǎn)如下:

1、很多算法理論上很美,但需要算力來(lái)支撐。

2、5G普及之后,對(duì)邊緣計(jì)算能力要求越來(lái)越高。

3、在物聯(lián)網(wǎng)環(huán)境下做AI芯片面臨很多挑戰(zhàn),重要的是考量芯片能滿(mǎn)足用戶(hù)哪些需求。

現(xiàn)場(chǎng)演講實(shí)錄

很多算法理論上很美,但需要算力來(lái)支撐

很高興今天來(lái)參加這個(gè)活動(dòng),我今天的題目是《底層崛起:邊緣計(jì)算AI芯片》。先介紹一下AI芯片的背景,這個(gè)圖很多人在很多場(chǎng)合都看到過(guò),人工智能的幾次高潮與低谷。我想從我個(gè)人的經(jīng)歷介紹下,因?yàn)槲易约阂菜闶菑?a href="http://www.intimacywithspirit.com/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD_1.html" target="_blank" class="keylink">人工智能整個(gè)低谷到漸漸起來(lái)這一過(guò)程的親歷者。

云知聲黃偉:物聯(lián)網(wǎng)環(huán)境下的AI芯片大挑戰(zhàn)

云知聲今天是做聲技術(shù)的,比如說(shuō)語(yǔ)音識(shí)別、自然語(yǔ)言理解等,其實(shí)我碩士論文是做圖像,那是在上世紀(jì)末,1998、1999年,當(dāng)時(shí)我的導(dǎo)師給我分配的研究課題是來(lái)給一些醫(yī)學(xué)圖片切片編輯成可交互、旋轉(zhuǎn)、可渲染的3D model。那時(shí)候主頻只有100兆,做三維的動(dòng)作困難是很大的。我做完可以出去玩,兩三個(gè)小時(shí)回來(lái)那個(gè)機(jī)器掛了,那個(gè)時(shí)候很痛苦。當(dāng)時(shí)博士階段就換了一個(gè)方向,做語(yǔ)音識(shí)別。 我的博士論文開(kāi)題也是用神經(jīng)網(wǎng)絡(luò)來(lái)做語(yǔ)音識(shí)別。那個(gè)年代很多人會(huì)覺(jué)得“神經(jīng)網(wǎng)絡(luò)”是騙子,我自己也深深以為神經(jīng)網(wǎng)絡(luò)是騙子,因?yàn)樾Ч懿?。如果?xùn)練集和測(cè)試集環(huán)境比較一致的話(huà)效果還可以,如果換個(gè)集合效果就一塌糊涂。 當(dāng)時(shí)又轉(zhuǎn)了一個(gè)方向,因?yàn)橛龅揭粋€(gè)另外問(wèn)題。當(dāng)時(shí)理論非常完美,但測(cè)算了一下,基本跑一個(gè)模型需要兩周時(shí)間。那個(gè)數(shù)據(jù)集有兩千人,意味著這個(gè)跑一遍要四千多周。算了算不行,博士從開(kāi)題到畢業(yè)只有兩年時(shí)間,做這個(gè)可能畢不了業(yè)。所以我就想辦法結(jié)合統(tǒng)計(jì)模型,解決了數(shù)據(jù)的篩選,把幾十萬(wàn)的數(shù)據(jù)變成幾十、幾百的數(shù)據(jù)。 這個(gè)例子講什么呢,就是這種算法在過(guò)去很多時(shí)候理論上很美,但沒(méi)有算力來(lái)支撐的話(huà),很難達(dá)到非常好的效果。其實(shí)在某個(gè)特定歷史時(shí)期,計(jì)算能力本身就對(duì)算法做了設(shè)定,甚至對(duì)理論了做一個(gè)設(shè)定。所以這就是為什么今天人工智能很熱的時(shí)候,突然發(fā)現(xiàn)芯片也很熱了,我認(rèn)為這是一個(gè)合理的過(guò)程。因?yàn)樯疃壬窠?jīng)網(wǎng)絡(luò)需要更多的數(shù)據(jù),更多更復(fù)雜的算法,當(dāng)然需要更強(qiáng)的算力。

5G普及之后,對(duì)邊緣計(jì)算能力要求越來(lái)越高

過(guò)去還聽(tīng)到一種聲音說(shuō),5G時(shí)代我們可以把更多數(shù)據(jù)都上升到云端,組合到一起去做。這是否能解決問(wèn)題呢?當(dāng)然不是。天下之勢(shì),分久必合,合久必分,沒(méi)有互聯(lián)網(wǎng)之前其實(shí)我們都是邊緣計(jì)算,有了互聯(lián)網(wǎng)之后我們開(kāi)始把數(shù)據(jù)在云端進(jìn)行處理,所以我們看到有一段時(shí)間云計(jì)算特別火。到一定階段之后之后,我們又進(jìn)入另一時(shí)期,就是端云結(jié)合,我們既需要云端的集中處理,可能也需要一些邊緣側(cè)的分布式處理。這個(gè)時(shí)代背景下,最近幾年我們國(guó)內(nèi)其實(shí)涌現(xiàn)了一些非常優(yōu)秀的AI芯片公司,包括今天到場(chǎng)嘉賓,像地平線(xiàn)、寒武紀(jì)還有很多都是在各自領(lǐng)域里努力做一些工作,使得對(duì)中國(guó)的發(fā)展能起到有益的幫助。 講到AI芯片戰(zhàn)略意義,其實(shí)講大道理沒(méi)用,就以一個(gè)例子來(lái)講,比如說(shuō)我們知道今天的車(chē)不再只是一個(gè)交通工具,它的能力開(kāi)始延展,我們也會(huì)在汽車(chē)?yán)锩嫱ㄟ^(guò)聯(lián)網(wǎng)獲得很多的服務(wù),包括在線(xiàn)導(dǎo)航、在線(xiàn)歌曲,在線(xiàn)實(shí)施優(yōu)化以及自動(dòng)駕駛,我們還會(huì)把不同車(chē)的信息在云端進(jìn)行處理,其實(shí)這就意味著車(chē)也會(huì)成為一個(gè)IoT的T之一。

我們是不是可以直接把這個(gè)東西就放在里面,直接通過(guò)5G來(lái)做,現(xiàn)實(shí)其實(shí)不是這樣的。即便今天5G普及了,我們也很難保證在任何的路況、在任何地區(qū)5G信號(hào)都可以實(shí)時(shí)、毫秒級(jí)處理。

第二個(gè)是說(shuō)我直接把這個(gè)算法跑到汽車(chē)應(yīng)用上行不行,答案可能也是不行。舉例說(shuō),假設(shè)你今天買(mǎi)了輛車(chē),你會(huì)發(fā)現(xiàn)這個(gè)車(chē)的電腦設(shè)計(jì)其實(shí)很一般,因?yàn)檫@些元力件都是五年前、八年前定型的,它的主頻處理器運(yùn)行并不特別高,假如說(shuō)在處理速度不是很高的芯片上面,我們又跑了一個(gè)非常消耗計(jì)算資源的AI的應(yīng)用,又是什么后果呢?以我們做的語(yǔ)音交互為例,當(dāng)我開(kāi)車(chē)的時(shí)候說(shuō)一句話(huà),跟汽車(chē)通過(guò)語(yǔ)音進(jìn)行交互,就可能會(huì)導(dǎo)致這個(gè)汽車(chē)的主控芯片的CPU被阻塞,從而可能導(dǎo)致非常嚴(yán)重的交通事故。這就需要我們?cè)诓粍?dòng)主控芯片的情況下,是否有一個(gè)專(zhuān)用芯片來(lái)處理人和汽車(chē)的之間的對(duì)話(huà),它來(lái)處理汽車(chē)一些娛樂(lè)性等等。隨著5G隨著普及之后,其實(shí)我們對(duì)邊緣計(jì)算能力要求越來(lái)越高。

物聯(lián)網(wǎng)AI芯片面臨的挑戰(zhàn)

在物聯(lián)網(wǎng)環(huán)境下,我們做AI芯片面臨很多挑戰(zhàn)。過(guò)去傳統(tǒng)芯片經(jīng)過(guò)初步競(jìng)爭(zhēng)之后剩下一些巨頭,這些巨頭充分競(jìng)爭(zhēng)的結(jié)果是每個(gè)巨頭按照自己的研發(fā)計(jì)劃交出一個(gè)產(chǎn)品,下游廠(chǎng)商沒(méi)有選擇權(quán)。我們會(huì)看到有段時(shí)間手機(jī)廠(chǎng)商發(fā)布會(huì)說(shuō)我們采用了驍龍700、800芯片,用戶(hù)也不知道驍龍700、800到底是什么,只是覺(jué)得它快。在物聯(lián)網(wǎng)環(huán)境下我們做芯片面臨的問(wèn)題,首先就是這個(gè)芯片的任務(wù)是什么。其次在人工智能時(shí)代我們面臨很多現(xiàn)實(shí)問(wèn)題,例如在A(yíng)I設(shè)計(jì)上怎樣才能低功耗,聯(lián)網(wǎng)之后設(shè)備的安全性怎么保證,這都是AI芯片需要解決的問(wèn)題。

云知聲黃偉:物聯(lián)網(wǎng)環(huán)境下的AI芯片大挑戰(zhàn)

未來(lái)是什么在決定著物聯(lián)網(wǎng)AI芯片的設(shè)計(jì),實(shí)際上還是那幾個(gè)問(wèn)題,首先要面向場(chǎng)景和任務(wù),這個(gè)AI芯片一定是端云結(jié)合,在設(shè)備端要給用戶(hù)提供多?;幚砟芰?。第二個(gè)要構(gòu)筑一個(gè)最矮墻,提升CPU的效率,使得算力非常強(qiáng),舉個(gè)例子就好比說(shuō)回轉(zhuǎn)壽司,一個(gè)大哥飯量非常好,吃得非常快,但你轉(zhuǎn)的太慢的話(huà)他也吃不飽。

簡(jiǎn)單總結(jié)一下,過(guò)去幾年我們?cè)谛酒矫娴囊恍v程,可能因?yàn)楹茉绯赃^(guò)算力不足以支撐算法的虧,所以很早意識(shí)到算力的重要性,除了自己搭建算力平臺(tái)之外,我們也很早就意識(shí)到了芯片研發(fā)的重要性,2015年我們開(kāi)始組建團(tuán)隊(duì)做這個(gè)事情。 云知聲這幾年,從研發(fā)、流片到量產(chǎn)和發(fā)布,今年初我們也發(fā)布了自己的第一代產(chǎn)品。去年是語(yǔ)音芯片,今年開(kāi)始推出我們的多模態(tài)芯片。這個(gè)有幾個(gè)特點(diǎn),一是算力比較強(qiáng),可以達(dá)到4個(gè)T;第二是支持多個(gè)NPU組網(wǎng);第三是可重復(fù)計(jì)算,芯片即使流片之后,后續(xù)如果算法升級(jí),這個(gè)芯片也可以支持算法去不斷進(jìn)行升級(jí)。當(dāng)然除了語(yǔ)音之外,其實(shí)還包括圖像,可以在芯片端實(shí)現(xiàn)聲音、圖象、信號(hào)等多模態(tài)的處理能力。上個(gè)月我們剛剛流片一個(gè)DSP芯片,比較快的話(huà)應(yīng)該年底會(huì)回來(lái)。

云知聲黃偉:物聯(lián)網(wǎng)環(huán)境下的AI芯片大挑戰(zhàn)

其實(shí)我們可以看到,云知聲并不是追求軍備競(jìng)賽,多少算力,我們更多還是考量在今天這個(gè)時(shí)代,芯片能夠滿(mǎn)足用戶(hù)哪些需求,從這個(gè)出發(fā)點(diǎn)倒推,我們?cè)谛酒O(shè)計(jì)的時(shí)候把哪些要素考慮進(jìn)來(lái)。

當(dāng)然,芯片是一個(gè)比較漫長(zhǎng)的周期,從研發(fā)到流片,到設(shè)計(jì),到量產(chǎn),這個(gè)周期是以年為計(jì)的,這里面任何一個(gè)判斷失誤都會(huì)導(dǎo)致芯片出來(lái)時(shí)造成比較大的損失。我們?yōu)槭裁匆鲂酒褪菫榱艘?guī)模量產(chǎn),但一旦出現(xiàn)失誤,就會(huì)造成很大的損失。 在落地方面,我覺(jué)得在今天的環(huán)境下,很多團(tuán)隊(duì)面臨的不僅僅是技術(shù)問(wèn)題。我們都知道今天可能資本是寒冬,也知道今天的國(guó)內(nèi)環(huán)境是科技戰(zhàn)的環(huán)境,科技是需要燒錢(qián)的,但資本沒(méi)有錢(qián)。在這種背景下,創(chuàng)業(yè)企業(yè)怎么把科創(chuàng)演進(jìn)規(guī)劃跟市場(chǎng)比較好的結(jié)合在一起,這可能是每一個(gè)創(chuàng)業(yè)公司需要面臨的問(wèn)題。 大概這些,謝謝大家。

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2019-11-22
云知聲黃偉:物聯(lián)網(wǎng)環(huán)境下的AI芯片大挑戰(zhàn)
11月9日至10日,科技智庫(kù)「甲子光年」在北京舉行2019「甲子引力」大會(huì)。

長(zhǎng)按掃碼 閱讀全文