應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點新聞
企業(yè)注冊個人注冊登錄

算力利用率達(dá) 97.6%,無問芯穹發(fā)布全球首個單任務(wù)千卡異構(gòu)芯片混合訓(xùn)練平臺

2024-07-05 09:09 IT之家

導(dǎo)讀:無問芯穹在世界人工智能大會 AI 基礎(chǔ)設(shè)施論壇上發(fā)布了無問芯穹大規(guī)模模型的異構(gòu)分布式混合訓(xùn)練系統(tǒng),稱千卡異構(gòu)混合訓(xùn)練集群算力利用率最高達(dá)到了 97.6%。

  7 月 5 日消息,無問芯穹聯(lián)合創(chuàng)始人兼 CEO 夏立雪在世界人工智能大會 AI 基礎(chǔ)設(shè)施論壇上發(fā)布了無問芯穹大規(guī)模模型的異構(gòu)分布式混合訓(xùn)練系統(tǒng),稱千卡異構(gòu)混合訓(xùn)練集群算力利用率最高達(dá)到了 97.6%

  夏立雪還宣布無問芯穹 Infini-AI 云平臺已集成大模型異構(gòu)千卡混訓(xùn)能力,是全球首個可進行單任務(wù)千卡規(guī)模異構(gòu)芯片混合訓(xùn)練的平臺,具備萬卡擴展性,支持包括 AMD、華為昇騰、天數(shù)智芯、沐曦、摩爾線程、英偉達(dá)六種異構(gòu)芯片在內(nèi)的大模型混合訓(xùn)練。

  無問芯穹表示:打開水龍頭前,我們不需要知道水是從哪條河里來的。同理,未來我們用各種 AI 應(yīng)用時,也不會知道它調(diào)用了哪些基座模型,用到了哪種加速卡的算力 ——這就是最好的 AI Native 基礎(chǔ)設(shè)施。

  據(jù)IT之家此前報道,無問芯穹與摩爾線程在 5 月聯(lián)合宣布,雙方已經(jīng)正式完成基于國產(chǎn)全功能 GPU千卡集群的 3B 規(guī)模大模型“MT-infini-3B”實訓(xùn),性能在同規(guī)模模型中躋身前列。