@開(kāi)發(fā)者們:百度文心大模型4.5系列模型開(kāi)源,國(guó)內(nèi)首發(fā)平臺(tái)GitCode現(xiàn)已開(kāi)放下載!

6月30日,百度文心大模型 4.5 系列模型正式開(kāi)源,并在國(guó)內(nèi)領(lǐng)先的開(kāi)源平臺(tái) GitCode 首發(fā)上線,為廣大企業(yè)、開(kāi)發(fā)者提供真正可用、好用、可落地的大模型解決方案。

現(xiàn)在,全球開(kāi)發(fā)者、企業(yè)、研究機(jī)構(gòu)等均可免費(fèi)在 GitCode 平臺(tái) 直接訪問(wèn)并下載體驗(yàn)文心大模型4.5 開(kāi)源系列,支持部署、微調(diào)等各種不同場(chǎng)景的使用需求。

歡迎下載體驗(yàn),開(kāi)啟你的文心大模型之旅

文心大模型4.5系列開(kāi)源模型

https://ai.gitcode.com/theme/1939325484087291906

1.jpg

文心4.5系列開(kāi)源模型共10款,涵蓋了激活參數(shù)規(guī)模分別為47B和3B的混合專家(MoE)模型(最大的模型總參數(shù)量為424B),以及0.3B的稠密參數(shù)模型。

針對(duì) MoE 架構(gòu),百度提出了一種創(chuàng)新性的多模態(tài)異構(gòu)模型結(jié)構(gòu),通過(guò)跨模態(tài)參數(shù)共享機(jī)制實(shí)現(xiàn)模態(tài)間知識(shí)融合,同時(shí)為各單一模態(tài)保留專用參數(shù)空間。此架構(gòu)非常適用于從大語(yǔ)言模型向多模態(tài)模型的持續(xù)預(yù)訓(xùn)練范式,在保持甚至提升文本任務(wù)性能的基礎(chǔ)上,顯著增強(qiáng)多模態(tài)理解能力。

文心4.5系列模型均使用飛槳深度學(xué)習(xí)框架進(jìn)行高效訓(xùn)練、推理和部署。在大語(yǔ)言模型的預(yù)訓(xùn)練中,模型FLOPs利用率(MFU)達(dá)到47%。實(shí)驗(yàn)結(jié)果顯示,該系列模型在多個(gè)文本和多模態(tài)基準(zhǔn)測(cè)試中達(dá)到SOTA水平,在指令遵循、世界知識(shí)記憶、視覺(jué)理解和多模態(tài)推理任務(wù)上效果尤為突出。模型權(quán)重按照Apache 2.0協(xié)議開(kāi)源,支持開(kāi)展學(xué)術(shù)研究和產(chǎn)業(yè)應(yīng)用。此外,基于飛槳提供開(kāi)源的產(chǎn)業(yè)級(jí)開(kāi)發(fā)套件,廣泛兼容多種芯片,降低后訓(xùn)練和部署門(mén)檻。

GitCode平臺(tái):開(kāi)源創(chuàng)新的理想土壤

GitCode 平臺(tái)自 2023 年 9 月 22 日上線以來(lái)發(fā)展迅猛,已匯聚了超過(guò) 620 萬(wàn)的注冊(cè)用戶,月活用戶達(dá) 120 萬(wàn),已經(jīng)成為頗具影響力的開(kāi)源社區(qū),龐大的用戶基礎(chǔ)和活躍的社區(qū)氛圍為文心大模型的推廣和應(yīng)用提供了廣闊的舞臺(tái)。

2.jpg

作為全球開(kāi)源生態(tài)的關(guān)鍵基礎(chǔ)設(shè)施,GitCode 正以 AI 原生基因重塑開(kāi)發(fā)者體驗(yàn):平臺(tái)集成了先進(jìn)的代碼托管服務(wù),支持全面的版本控制、分支管理和協(xié)作開(kāi)發(fā)功能。開(kāi)發(fā)者可以通過(guò) GitCode 便捷地上傳、管理和分享代碼倉(cāng)庫(kù),享受無(wú)縫的協(xié)同開(kāi)發(fā)體驗(yàn)。還提供了豐富的開(kāi)源組件庫(kù)和多樣化的開(kāi)發(fā)工具,無(wú)論是個(gè)人項(xiàng)目還是企業(yè)級(jí)應(yīng)用,GitCode 都能為用戶提供安全、穩(wěn)定和高效的代碼托管解決方案,助力開(kāi)發(fā)者實(shí)現(xiàn)卓越的代碼管理與協(xié)作。 

文心大模型與 GitCode 平臺(tái)的深度融合,正催生一場(chǎng)超越技術(shù)層面的范式革命。這種融合不僅改變了傳統(tǒng)的 AI 開(kāi)發(fā)模式,還促進(jìn)了推動(dòng)中國(guó)開(kāi)源生態(tài)的繁榮和創(chuàng)新,推動(dòng)了 AI 產(chǎn)業(yè)生態(tài)的繁榮和可持續(xù)發(fā)展??梢灶A(yù)見(jiàn),未來(lái)將有更多基于文心大模型的創(chuàng)新應(yīng)用涌現(xiàn)出來(lái)。

文心已至 未來(lái)正來(lái)

GitCode × CSDN 文心大模型實(shí)戰(zhàn)測(cè)評(píng)與社區(qū)探討系列活動(dòng)火熱進(jìn)行中!深度解讀,讓開(kāi)發(fā)者輕松玩轉(zhuǎn)文心大模型,歡迎關(guān)注。

3.gif

免責(zé)聲明:本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿,凡在本網(wǎng)站出現(xiàn)的信息,均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性,但不保證有關(guān)資料的準(zhǔn)確性及可靠性,讀者在使用前請(qǐng)進(jìn)一步核實(shí),并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏,概不負(fù)任何法律責(zé)任。任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí),應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明,并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后,將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí),溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。

2025-06-30
@開(kāi)發(fā)者們:百度文心大模型4.5系列模型開(kāi)源,國(guó)內(nèi)首發(fā)平臺(tái)GitCode現(xiàn)已開(kāi)放下載!
6月30日,百度文心大模型 4.5 系列模型正式開(kāi)源,并在國(guó)內(nèi)領(lǐng)先的開(kāi)源平臺(tái) GitCode 首發(fā)上線,為廣大企業(yè)、開(kāi)發(fā)者提供真正可用、好用、可落地的大模型解決方案。

長(zhǎng)按掃碼 閱讀全文