百度智能雲攜手好未來(lái) 加快推動大(dà)模型落地(dì / de)教育場景

近兩年，人(rén)工智能技術深度融入教育領域，服務教育工具升級和(hé / huò)創新，助力教育行業高質量發展。

百度智能雲聯合大(dà)模型落地(dì / de)教育場景先行者好未來(lái)教育集團（簡稱“好未來(lái)”），運用功能豐富、性能卓越的(de)百度百舸·AI異構計算平台，爲(wéi / wèi)好未來(lái)自研“九章大(dà)模型（MathGPT）”提供關鍵支撐，推動大(dà)模型深入教育場景，助力教育行業智能化轉型。

企業自研大(dà)模型不(bù)僅需要(yào / yāo)強大(dà)的(de)算法、技術團隊平台，還需要(yào / yāo)與之(zhī)匹配的(de)AI基礎設施，包括高性能計算平台、存儲系統、網絡、調度框架、數據集等。此外，還需要(yào / yāo)具備成熟的(de)工程化平台能力，能夠快速啓動整個(gè)研發項目、驗證基座模型，以(yǐ)便基于(yú)底座模型結合應用場景、教研數據、業務反饋快速推動後續叠代，把流程轉起來(lái)。同時(shí)，在(zài)大(dà)模型訓練、推理階段，企業還需具備處理大(dà)規模任務的(de)能力，以(yǐ)現有的(de)基礎設施持續提升資源利用率、任務效率，在(zài)最短時(shí)間内實現自研大(dà)模型上(shàng)線和(hé / huò)啓用。

對此，好未來(lái)與國(guó)内AI行業深耕大(dà)模型産業方向的(de)第一(yī / yì ／yí)批實踐者百度智能雲合作，運用百度百舸·AI異構計算平台，打造高性能的(de)專業AI基礎設施，爲(wéi / wèi)自研“九章大(dà)模型（MathGPT）”提供AI支持，成功解決了(le／liǎo)大(dà)模型應用早期遇到(dào)的(de)把流程轉起來(lái)的(de)問題。

基于(yú)百度百舸·AI異構計算平台，好未來(lái)可以(yǐ)快速、方便地(dì / de)創建千卡級别的(de)訓推任務集群。算力方面，集群以(yǐ)A800、H800作爲(wéi / wèi)典型的(de)異構算力，最大(dà)可支撐16000 GPU卡的(de)規模；存儲方面，集群适用于(yú)大(dà)規模深度學習訓練場景，可提供亞毫秒級（300us）的(de)時(shí)延，服務可用性不(bù)低于(yú)99.95%；此外，集群支持在(zài)線彈性擴展，可快速實現容量及吞吐性能的(de)線性增長。在(zài)與好未來(lái)的(de)合作中，百度百舸·AI異構計算平台能實現單集群總量超過500TB，可爲(wéi / wèi)訓練任務的(de)模型、數據加載提供高性能的(de)數據讀取與傳輸保障，大(dà)大(dà)提升任務的(de)時(shí)效。

面向不(bù)同的(de)大(dà)模型訓練場景，百度百舸·AI異構計算平台在(zài)運行框架和(hé / huò)實踐中，從計算效能、顯存策略、分布式并行策略等方面進行優化，結合高性能網絡的(de)特性升級，大(dà)幅提升大(dà)語言模型的(de)訓練性能。LLaMA2系列、GLM系列等多尺寸模型都達到(dào)了(le／liǎo)訓練指标，千卡任務加速比保持在(zài)90%，模型算力利用率（MFU，即模型一(yī / yì ／yí)次前反向計算消耗的(de)矩陣算力與機器算力的(de)比值）60%—70%，在(zài)有限的(de)算力條件下訓練時(shí)間大(dà)幅降低。AI容器方面，百度百舸·AI異構計算平台可以(yǐ)實現更靈活的(de)策略調度與任務編排，爲(wéi / wèi)進一(yī / yì ／yí)步實現離在(zài)線混布、推理訓練任務的(de)資源聯合調度與分配打下基礎。

此外，基于(yú)重點訓練任務，百度百舸·AI異構計算平台可在(zài)訓練上(shàng)遊環節提供數據服務的(de)能力支持，能方便、快捷地(dì / de)幫助好未來(lái)用戶實現海外Hugging Face上(shàng)的(de)數據轉載；在(zài)訓練過程中，結合訓練可視化能力，可通過監測大(dà)盤實現資源統計、工作負載等全面指标的(de)彙總與統計；訓練下遊推理任務也(yě)實現了(le／liǎo)服務能力的(de)封裝，幫助好未來(lái)用戶一(yī / yì ／yí)站式、快速實現推理任務的(de)部署與啓用。

目前，經過百度百舸·AI異構計算平台訓練支持的(de)“九章大(dà)模型（MathGPT）”已經廣泛應用于(yú)好未來(lái)的(de)智能硬件學而(ér)思旗艦學習機及多個(gè)業務場景中，爲(wéi / wèi)用戶提供更智能的(de)體驗。

未來(lái)，百度智能雲将繼續攜手好未來(lái)，運用人(rén)工智能大(dà)模型的(de)科技力量，服務教育場景與學習方式創新，打造智能化、個(gè)性化的(de)教育科技産品與解決方案，爲(wéi / wèi)助力教育強國(guó)建設貢獻力量。

本文出(chū)自：《 人(rén)民日報 》（ 2024年04月29日 第12版）
原文鏈接：http://paper.people.com.cn/rmrb/html/2024-04/29/nw.D110000renmrb_20240429_3-12.htm