應(yīng)用

技術(shù)

物聯(lián)網(wǎng)世界 >> 物聯(lián)網(wǎng)新聞 >> 物聯(lián)網(wǎng)熱點(diǎn)新聞
企業(yè)注冊個人注冊登錄

騰訊發(fā)布新一代大模型“混元 Turbo”:推理效率提升 100%,成本降低 50%

2024-09-06 09:01 IT之家

導(dǎo)讀:在 2024 騰訊全球數(shù)字生態(tài)大會上,騰訊正式發(fā)布新一代大模型 ——騰訊混元 Turbo。該模型采用 MoE 架構(gòu),比上一代產(chǎn)品推理效率提升 100%,推理成本降低 50%。

  9 月 5 日消息,在 2024 騰訊全球數(shù)字生態(tài)大會上,騰訊正式發(fā)布新一代大模型 ——騰訊混元 Turbo。

  據(jù)騰訊官方介紹,該模型采用 MoE 架構(gòu),比上一代產(chǎn)品推理效率提升 100%,推理成本降低 50%

  對外,騰訊混元 Turbo 的價格也比混元 Pro 降低 50%,輸出價格為 0.05 元 / 千 tokens,輸入價格為 0.015 元 / 千 tokens。

  9 月 2 日,中文大模型測評基準(zhǔn) SuperCLUE 發(fā)布《中文大模型基準(zhǔn)測評 2024 年 8 月報告》,IT之家查詢獲悉,混元新一代大語言模型預(yù)覽版(Turbo-Preview)在理科、文科均居于第一名。Hard 任務(wù)上騰訊混元 Turbo-Preview 取得 74.33 分,是國內(nèi)唯一超過 70 分的大模型,與 ChatGPT-4o 有微小差距。

image.png

image.png

  目前騰訊內(nèi)部近 700 個業(yè)務(wù)及場景已接入,包含騰訊元寶、騰訊云、QQ、微信讀書、騰訊新聞、騰訊客服等。此前,騰訊旗下協(xié)作 SaaS(軟件即服務(wù))產(chǎn)品全面接入騰訊混元大模型。

  騰訊混元的云上版本包括 Turbo、Pro、Standard、Lite 等多個版本;在專屬模型上開放了代碼生成、角色扮演、Functioncall 等。