2277
兩周之內(nèi)，DeepSeek成為全球增速最快的AI應(yīng)用。2月6日，昆侖芯宣布，已完成DeepSeek訓(xùn)練推理全版本適配，在追求低成本、高效率的基礎(chǔ)上支持卓越性能，能夠?qū)崿F(xiàn)一鍵部署，為廣大開發(fā)者提供更快、更強(qiáng)、更省的訓(xùn)練推理體驗(yàn)。
強(qiáng)力適配DeepSeek，輕松完成全版本訓(xùn)練推理任務(wù)
昆侖芯表示，其在DeepSeek-V3/R1上線后不久便率先完成全版本模型適配，其中包括V3系列的DeepSeek-V3和DeepSeek-V3-Base，R1系列的DeepSeek-R1、DeepSeek-R1-Zero等8個(gè)不同版本，MoE（混合專家）模型及其蒸餾的Llama/Qwen等小規(guī)模dense（稠密）模型。不僅如此，昆侖芯已全面適配文心系列、Llama、Qwen、ChatGLM、Baichuan等各類大模型的推理和訓(xùn)練任務(wù)，性能優(yōu)勢明顯。
昆侖芯訓(xùn)練推理全版本適配DeepSeekP800是昆侖芯厚積薄發(fā)推出的第三代產(chǎn)品，也是昆侖芯現(xiàn)階段最具代表性的算力產(chǎn)品，可以較好地支撐DeepSeek系列MoE模型大規(guī)模訓(xùn)練任務(wù)，全面支持MLA（多頭潛注意力）、多專家并行等特性，僅需32臺(tái)即可支持模型全參數(shù)訓(xùn)練，高效完成模型持續(xù)訓(xùn)練和微調(diào)。與此同時(shí)，P800顯存規(guī)格優(yōu)于同類主流GPU20%~50%，對(duì)MoE架構(gòu)更加友好，且率先支持8bit推理，單機(jī)8卡即可運(yùn)行671B模型。
正因如此，昆侖芯相較同類產(chǎn)品更加易于部署，同時(shí)可顯著降低運(yùn)行成本，輕松完成DeepSeek-V3/R1全版本推理任務(wù)。P800生態(tài)完備，易用性強(qiáng)，可以實(shí)現(xiàn)對(duì)訓(xùn)練和推理任務(wù)的快速適配。P800快速適配支持了DeepSeek-V3/R1的持續(xù)全參數(shù)訓(xùn)練，LoRA（低秩自適應(yīng)）等PEFT（參數(shù)高效微調(diào)）能力，提供給用戶“開箱即用”的訓(xùn)練體驗(yàn)?；诶鲂就暾?a class="article-link" target="_blank" href="/tag/%E8%BD%AF%E4%BB%B6/">軟件棧生態(tài)，兩個(gè)步驟即可輕松實(shí)現(xiàn)在昆侖芯P800上進(jìn)行DeepSeek-V3/R1推理部署，對(duì)廣大開發(fā)者十分友好。
深耕AI加速十余年，大模型時(shí)代實(shí)力凸顯
昆侖芯前身為百度智能芯片及架構(gòu)部，在百度內(nèi)部真實(shí)業(yè)務(wù)場景中深耕十年，于2021年4月完成獨(dú)立融資。十余年的成長過程中，昆侖芯始終秉承著“讓計(jì)算更智能”的使命，專注AI加速，打造擁有強(qiáng)大通用性、易用性和高性能的通用AI芯片。
昆侖芯與智能產(chǎn)業(yè)的上下游企業(yè)建立了良好的合作生態(tài)，通過向不同行業(yè)提供以AI芯片為基礎(chǔ)的智能算力，在互聯(lián)網(wǎng)、交通、金融、工業(yè)、教育等領(lǐng)域廣泛部署應(yīng)用，促進(jìn)了千行百業(yè)的智能化轉(zhuǎn)型?，F(xiàn)如今，昆侖芯已完成三代AI芯片產(chǎn)品的設(shè)計(jì)研發(fā)和規(guī)模應(yīng)用,并于2月5日宣布成功點(diǎn)亮第三代芯片P800萬卡集群。
在各個(gè)行業(yè)客戶、合作伙伴的業(yè)務(wù)場景中，昆侖芯已實(shí)際上線運(yùn)行各類大模型任務(wù)，通過千卡和萬卡集群為客戶提供了穩(wěn)定的服務(wù)和優(yōu)秀的性能表現(xiàn)?！叭f卡集群”被認(rèn)為是新一輪大模型競賽的“入場券”，要想真正進(jìn)行人工智能技術(shù)較量，萬卡集群是必備的基礎(chǔ)設(shè)施需求。
昆侖芯萬卡集群的成功點(diǎn)亮，意味著在以算力為基礎(chǔ)的人工智能比拼中，昆侖芯將助力產(chǎn)業(yè)合作伙伴邁上算力規(guī)模建設(shè)的新臺(tái)階。昆侖芯表示，將于近期進(jìn)一步點(diǎn)亮3萬卡集群。昆侖芯之所以能夠在大模型算力競爭中展現(xiàn)優(yōu)勢，得益于前瞻的產(chǎn)品定義、十余年軟硬件技術(shù)積累和持續(xù)不斷的產(chǎn)業(yè)合作。在生成式人工智能和大模型時(shí)代，昆侖芯將更加充分發(fā)揮自研優(yōu)勢，秉持共生共贏的理念，與產(chǎn)業(yè)鏈上下游攜手創(chuàng)造更大的經(jīng)濟(jì)和社會(huì)價(jià)值。
作者丨姬曉婷編輯丨張心怡美編丨馬利亞監(jiān)制丨連曉東
