2023年堪稱人工智能大模型大爆發(fā)的一年,用百花齊放來形容也不為過。在這一年里,人工智能發(fā)展迅猛,速度超過以往任何歷史時期。眾多高質量大模型紛紛亮相,涵蓋多個行業(yè)領域,應用場景也在不斷拓展。
寒武紀擁有領先的芯片設計能力,能提供云邊端一體、軟硬件協(xié)同、訓練推理融合、具備統(tǒng)一生態(tài)的系列化智能芯片產(chǎn)品和平臺化基礎系統(tǒng)軟件。面對大模型為人工智能帶來的新機遇,寒武紀主動出擊,積極把握。
2023年,寒武紀持續(xù)進行大模型的優(yōu)化和適配工作,先后開發(fā)了BangTransformer大模型分布式推理加速引擎,CNDeepspeed/Megatron-LM大模型分布式訓練加速引擎,大模型推理與訓練性能預估工具、分析工具以及精度分析工具等大模型相關軟件棧,同時基于思元370等系列產(chǎn)品,與LLaMa系列、BLOOM系列、GLM系列、Stable Diffusion、T5,以及國內(nèi)的百川、千象等大模型進行了廣泛的適配和驗證,性能優(yōu)異,并可支持自然語言處理、視覺、多模態(tài)等多種場景的大模型應用。
2024年上半年,憑借人工智能芯片產(chǎn)品的核心優(yōu)勢,寒武紀持續(xù)深化與互聯(lián)網(wǎng)、大模型等前沿領域頭部企業(yè)的技術合作,以卓越的產(chǎn)品適配能力和開放合作的務實態(tài)度,積極助力人工智能的實際應用落地,獲得了客戶的認可。
在這一時期,寒武紀新一代智能處理器微架構和指令集正在研發(fā)中。新一代智能處理器微架構及指令集將對自然語言處理大模型、視頻圖像生成大模型以及推薦系統(tǒng)大模型的訓練推理等場景進行重點優(yōu)化,將在編程靈活性、易用性、性能、功耗、面積等方面提升產(chǎn)品競爭力。同時,寒武紀對基礎軟件系統(tǒng)平臺也進行了優(yōu)化和迭代。訓練軟件平臺方面,寒武紀大力推進了大模型業(yè)務的適配和優(yōu)化。推理軟件平臺方面,寒武紀在AIGC業(yè)務適配、開源生態(tài)建設及易用性等方面都取得了一定進展。
長期以來,寒武紀秉承開放、合作、共享的理念,積極參與開源社區(qū)的建設,在多個重要開源項目中貢獻代碼,如PyTorch、TensorFlow、Huggingface、Transformers、vLLM、Deepspeed等大模型訓練推理應用中的核心組件。
人工智能正在深刻地改變著人類的生產(chǎn)生活,寒武紀站在時代的風口浪尖,將繼續(xù)秉承持續(xù)創(chuàng)新、攻堅克難的精神,攜手員工及合作伙伴,不斷提升產(chǎn)品競爭力及營收業(yè)績,同時為行業(yè)和社會的繁榮發(fā)展貢獻力量。
(免責聲明:本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性,但不保證有關資料的準確性及可靠性,讀者在使用前請進一步核實,并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏,概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時,應及時向本網(wǎng)站提出書面權利通知或不實情況說明,并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后,將會依法盡快聯(lián)系相關文章源頭核實,溝通刪除相關內(nèi)容或斷開相關鏈接。 )