微軟助力深度學習：Copilot+PC本地運行7B和14B模型，DeepSeek引領新潮流
隨著科技的飛速發(fā)展，深度學習已成為人工智能領域的關鍵驅動力。微軟在推動這一領域的發(fā)展中發(fā)揮了不可或缺的角色，尤其在最近宣布通過Azure AI Foundry接入DeepSeek-R1 7B和14B蒸餾模型，為Copilot+ PC提供本地運行7B和14B模型的能力。這一舉措無疑將深度學習帶入了更多設備，引領了新的潮流。
首先，讓我們回顧一下DeepSeek的背景。DeepSeek是一種新型的神經(jīng)網(wǎng)絡量化方法，它通過使用Aqua內(nèi)部自動量化工具，將所有DeepSeek模型變體量化為int4權重。這種量化方法不僅提高了模型的運行效率，還降低了模型的內(nèi)存占用，使得更多的模型能夠在更小的設備上運行。
微軟此次承諾將DeepSeek-R1模型的NPU優(yōu)化版本帶到搭載高通驍龍X處理器的Copilot+ PC上，如今這個承諾終于兌現(xiàn)。從微軟官方博客獲知，該模型將從搭載高通驍龍X處理器的Copilot+ PC開始上線，隨后是英特爾酷睿Ultra 200V和AMD銳龍的設備。這意味著，無論你使用的是哪種類型的電腦，都有機會體驗到深度學習的魅力。
值得注意的是，由于模型運行在NPU上，可以減少對PC電池續(xù)航和散熱性能的影響，同時持續(xù)獲得AI計算能力，CPU和GPU可用于執(zhí)行其他任務。這無疑是一種平衡性能和功耗的優(yōu)秀方案，為PC用戶提供了更多的選擇。
微軟在此過程中扮演了關鍵角色。它使用了Aqua內(nèi)部自動量化工具，將所有DeepSeek模型變體量化為int4權重，并正在進一步優(yōu)化提高標記速度。這一舉措無疑提升了模型的運行效率，也展示了微軟在深度學習領域的專業(yè)性和技術實力。
對于開發(fā)者來說，使用AI Toolkit VS Code擴展可以在Copilot+ PC上下載和運行DeepSeek模型的1.5B、7B和14B版本。這無疑為開發(fā)者提供了更多的選擇和靈活性，使得他們能夠更好地利用這些模型進行創(chuàng)新性的研究和工作。
總的來說，微軟通過Azure AI Foundry接入DeepSeek-R1 7B和14B蒸餾模型，為Copilot+ PC提供本地運行7B和14B模型的能力，標志著深度學習進入了新的階段。這種新型的量化方法和模型部署方式，將深度學習帶入了更多的設備中，為人們的生活和工作帶來了更多的便利和可能。
盡管微軟在此過程中扮演了關鍵角色，但我們也要看到，深度學習是一個不斷發(fā)展的領域，需要來自學術界、工業(yè)界和政府的多方努力。我們期待未來微軟能夠繼續(xù)在深度學習領域進行更多的探索和創(chuàng)新，為人們的生活和工作帶來更多的便利和可能。
（免責聲明：本網(wǎng)站內(nèi)容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網(wǎng)站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。
任何單位或個人認為本網(wǎng)站中的網(wǎng)頁或鏈接內(nèi)容可能涉嫌侵犯其知識產(chǎn)權或存在不實內(nèi)容時，應及時向本網(wǎng)站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網(wǎng)站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內(nèi)容或斷開相關鏈接。 ）
