8月22日,在第八屆未來網(wǎng)絡(luò)發(fā)展大會主論壇上,中國電信副總經(jīng)理李峻以《把握人工智能發(fā)展方向 打造新一代數(shù)字信息基礎(chǔ)設(shè)施》為題作主旨演講,分享了中國電信在加快數(shù)字信息基礎(chǔ)設(shè)施智能化升級方面的實踐與思考。
李峻指出,生成式人工智能發(fā)展迅速,催生出大量新場景、新業(yè)態(tài)、新模式,引發(fā)算力需求爆發(fā)式增長,已經(jīng)成為推進發(fā)展新質(zhì)生產(chǎn)力的重要引擎,對以云網(wǎng)融合為核心特征的數(shù)字信息基礎(chǔ)設(shè)施提出更高的要求。一方面,數(shù)字信息基礎(chǔ)設(shè)施為人工智能提供了充足的計算、存儲和網(wǎng)絡(luò)資源,承載了豐富算法模型和海量高質(zhì)量數(shù)據(jù),支持人工智能應(yīng)用與場景快速對接,加速數(shù)據(jù)要素匯聚流通。另一方面,生成式人工智能要求網(wǎng)絡(luò)連接更大帶寬、更高速率、更低時延、更加可靠和更大彈性;要求算力結(jié)構(gòu)從以通算為主向以智算為主轉(zhuǎn)型,算力布局從單節(jié)點、單集群向分布式演進,算力調(diào)度更加靈活、廣泛、高效和健壯,數(shù)據(jù)要素充分釋放價值,云網(wǎng)端數(shù)更加安全可控。
李峻表示,中國電信堅定履行建設(shè)網(wǎng)絡(luò)強國和數(shù)字中國、維護網(wǎng)信安全的使命責(zé)任,全面深入實施“云改數(shù)轉(zhuǎn)”戰(zhàn)略,發(fā)揮云網(wǎng)融合優(yōu)勢,把握智能化發(fā)展方向,著力從以網(wǎng)強算、靈活調(diào)度、數(shù)據(jù)流通、安全可控等方面推進新一代數(shù)字信息基礎(chǔ)設(shè)施建設(shè),并依托智能云網(wǎng)底座,持續(xù)提升人工智能基礎(chǔ)大模型能力,積極推進大模型賦能社會經(jīng)濟高質(zhì)量發(fā)展。
一是以網(wǎng)強算,構(gòu)筑堅實算力底座。中國電信堅持“網(wǎng)是基礎(chǔ)、云為核心、把握智能化發(fā)展方向”,持續(xù)推動數(shù)字信息基礎(chǔ)設(shè)施演進升級。規(guī)劃并建設(shè)全國“2+3+7+X”公共智算云池,在京津冀、長三角建設(shè)國內(nèi)領(lǐng)先的萬卡全液冷智算集群,在廣東、江蘇等5省打造千卡資源池,滿足AI訓(xùn)推需求。截至目前,中國電信智算總規(guī)模達到21EFLOPS,算力總規(guī)模持續(xù)領(lǐng)先。堅持“兩彈一優(yōu)”(即彈性供電、彈性制冷、氣流組織優(yōu)化),積極推進數(shù)據(jù)中心向AIDC升級。同時,推動機房級向樓宇級DC的彈性演進,支撐智算機樓的彈性部署。針對智能算力異構(gòu)和分散化等問題,中國電信率先提出基于長距無損智算網(wǎng),構(gòu)建分布式智算集群,突破單體智算中心的算力、空間、供電等資源限制。歷經(jīng)近一年的攻關(guān)試驗,目前已經(jīng)在永豐、瀛海、武清三地機房的跨百公里千卡智算集群上,完成千億參數(shù)大模型分布式訓(xùn)練,性能達到集中訓(xùn)練的95%以上,為跨地域、跨層級、跨主體的算力協(xié)同調(diào)度奠定基礎(chǔ)。面對海量數(shù)據(jù)高速入算難題,中國電信完成業(yè)內(nèi)首次1.6TB數(shù)據(jù)40分鐘內(nèi)跨2000公里遠(yuǎn)距離傳輸,將雙向時延降低50%,成功探索低成本彈性大帶寬海量入算產(chǎn)品。為打造領(lǐng)先全光網(wǎng)絡(luò)底座,中國電信提出“S+C+L”多波段傳輸方案,單波速率最高可達1.2T,在今年4月創(chuàng)造全球首個單纖超120T的實時傳輸世界紀(jì)錄;創(chuàng)新性開展空芯光纖實時傳輸試驗,將鏈路時延降低30%,進一步提升光網(wǎng)絡(luò)效率。
二是靈活調(diào)度,打造一體化智算服務(wù)平臺和運營體系。中國電信全面升級智能云能力體系,加快構(gòu)建“息壤”一體化智算服務(wù)體系和能力,提供強大的算網(wǎng)調(diào)度能力、高效的異構(gòu)計算能力、一站式的訓(xùn)推服務(wù)能力和豐富的落地應(yīng)用,正在推動算網(wǎng)調(diào)度、技術(shù)架構(gòu)、訓(xùn)練推理和資源管理等“四個一體化”的發(fā)展。“息壤”算力調(diào)度平臺通過算力插件、算力網(wǎng)關(guān)等實現(xiàn)算力統(tǒng)一接入,通過算數(shù)協(xié)同、多級調(diào)度等技術(shù),有效推動異構(gòu)算力、社會閑散算力的標(biāo)準(zhǔn)化接入納管,促進全國一體化算力調(diào)度體系加速形成。構(gòu)建天翼云公共算力服務(wù)平臺,接入算力生態(tài)合作伙伴 39 家,合作算力 22 EFLOPS;打造國資央企智算云管理調(diào)度平臺等行業(yè)算力互聯(lián)網(wǎng);在南京、深圳、??诘鹊胤謩e建成城市算力互聯(lián)網(wǎng)?!跋⑷馈庇嬎慵铀倨脚_和“息壤”智算服務(wù)平臺面向萬億參數(shù)基礎(chǔ)大模型訓(xùn)練場景,構(gòu)建行業(yè)領(lǐng)先的萬卡解決方案,基于自研集合通信庫和自研擁塞控制算法等,有效支撐中國電信星辰大模型高效穩(wěn)定訓(xùn)練。面向行業(yè)大模型訓(xùn)推場景,通過一站式智算服務(wù)實現(xiàn)大模型訓(xùn)推,將訓(xùn)練效率提升50%,推理效率提升28%,并通過全鏈路監(jiān)控保障訓(xùn)練質(zhì)量。
三是數(shù)據(jù)流通,釋放數(shù)據(jù)要素價值。中國電信構(gòu)建“數(shù)鏈智網(wǎng)(Data Chain Artificial Intelligence Network, DCAN)”數(shù)據(jù)能力體系,基于運營商海量數(shù)據(jù)以及融合外部行業(yè)數(shù)據(jù),升級“靈澤數(shù)據(jù)要素鏈服務(wù)”,打造“星海大數(shù)據(jù)能力矩陣”,探索“銀河數(shù)據(jù)跨境流通解決方案”。其中:“靈澤數(shù)據(jù)要素鏈服務(wù)”具備數(shù)據(jù)確權(quán)登記、數(shù)據(jù)融合計算、可信數(shù)據(jù)流通和高速數(shù)據(jù)傳輸網(wǎng)等四大能力,已為海南、江西、安徽等22個省市的數(shù)據(jù)要素交易流通平臺提供支持。其中,海南數(shù)據(jù)超市上架數(shù)據(jù)產(chǎn)品超2000個,引入合作伙伴超過1300家、匯聚千億量級政務(wù)數(shù)據(jù)和社會數(shù)據(jù),市場累計交易額超過9億元。“星海大數(shù)據(jù)能力矩陣”涵蓋全自研數(shù)智中臺及數(shù)十款數(shù)據(jù)應(yīng)用,面向金融風(fēng)控、區(qū)域洞察、政務(wù)服務(wù)等企業(yè)智能場景提供多樣化數(shù)據(jù)產(chǎn)品,服務(wù)客戶超過600家。“銀河數(shù)據(jù)跨境流通解決方案”則實現(xiàn)了數(shù)據(jù)咨詢、安全、運營服務(wù)等一體化服務(wù),已在海南、上海、江蘇、廣東等地先行先試,聯(lián)合江蘇國際數(shù)據(jù)港打造中國電池數(shù)據(jù)數(shù)字護照標(biāo)桿案例,助力新型國際數(shù)據(jù)業(yè)務(wù)發(fā)展與合作。
四是安全可控,建立端到端、全程全網(wǎng)縱深防御。中國電信不斷加強網(wǎng)絡(luò)信息安全能力建設(shè),將云網(wǎng)資源優(yōu)勢與安全技術(shù)深度融合,持續(xù)探索和創(chuàng)新安全產(chǎn)品服務(wù),提供可持續(xù)、可迭代、易維護的網(wǎng)絡(luò)安全能力。在合肥建成全國最大、覆蓋最廣、應(yīng)用最多的量子城域網(wǎng),面向政務(wù)、金融、大數(shù)據(jù)和工業(yè)等領(lǐng)域,服務(wù)近500家政府部門和380家行業(yè)企業(yè),以量子技術(shù)賦能新型安全能力,將量子技術(shù)與通話、云網(wǎng)等業(yè)務(wù)融合,構(gòu)建“量子+”基礎(chǔ)設(shè)施,塑造差異化的安全產(chǎn)品服務(wù)優(yōu)勢;天翼安全大腦4.0產(chǎn)品與自研星辰安全垂直類大模型深度融合,有效提升安全運營效率和客戶使用體驗。開創(chuàng)性建設(shè)云網(wǎng)安全中臺,打造覆蓋31個?。ㄗ灾螀^(qū)、直轄市)的安全能力池,實現(xiàn)云網(wǎng)安全風(fēng)險方面的“可測、可知、可防、可控”。自主研發(fā)數(shù)據(jù)安全態(tài)勢感知系統(tǒng),提升數(shù)據(jù)安全運營能力,保障數(shù)據(jù)要素安全有序流通。打造業(yè)內(nèi)首個運營商級托管安全服務(wù)平臺,為超10萬家政企客戶提供托管式安全服務(wù)。
李峻指出,依托新一代數(shù)字信息基礎(chǔ)設(shè)施,中國電信不斷提升基礎(chǔ)大模型能力,持續(xù)升級覆蓋語義、語音、視覺和多模態(tài)等四大能力的自研星辰大模型,并完成算法及服務(wù)“雙備案”。
新版星辰語義大模型52B在通用能力上超越GPT -3.5-Turbo;星辰多模態(tài)大模型在三大國際權(quán)威評測榜單中的總體性能評分與Midjourney V6接近,位居前列。聯(lián)合發(fā)布全球首個單體稠密萬億參數(shù)語義模型;推出業(yè)內(nèi)首個支持40種方言自由混說的星辰語音大模型;推出支持大規(guī)模視頻AI解析的星辰視覺大模型3.0版TeleSearch。此外,在今年7月正式發(fā)布國內(nèi)首款支持一鍵生成代碼及自主測試糾錯的AI開發(fā)工具星辰·軟件工廠,提升軟件研發(fā)效率50%以上。
同時,中國電信加快推進人工智能與業(yè)務(wù)場景的深度融合,賦能企業(yè)內(nèi)外部應(yīng)用和經(jīng)濟社會數(shù)字化轉(zhuǎn)型。星辰網(wǎng)絡(luò)大模型應(yīng)用于企業(yè)自身的監(jiān)控排障、維護優(yōu)化等流程,提高故障處理效率30%以上;星辰客服大模型應(yīng)用于語音導(dǎo)航、在線機器人等場景,智能客服占比近80%;星辰智慧AI節(jié)能系統(tǒng),實現(xiàn)對基站、機房和數(shù)據(jù)中心的精準(zhǔn)節(jié)能,今年上半年中國電信累計節(jié)電近5億度。面向工業(yè)、教育、醫(yī)療、政務(wù)等領(lǐng)域推出32個行業(yè)大模型,賦能370個to B項目。推出AI云電腦、AI手機、AI攝像頭等一系列數(shù)字化創(chuàng)新服務(wù),滿足廣大用戶多元化智能化需求。
“當(dāng)前,人工智能產(chǎn)業(yè)快速發(fā)展,異構(gòu)智能算力生態(tài)還存在兼容性問題,面臨大量智能算力的適配、遷移、編譯工作。在大模型進入端到端原生多模態(tài)的新發(fā)展階段,落地應(yīng)用對高質(zhì)量行業(yè)數(shù)據(jù)集、更易用的AI應(yīng)用工具集也提出了更高要求?!泵鎸π乱惠喬魬?zhàn)和機遇,李峻表示,中國電信將積極協(xié)同各行業(yè)伙伴,協(xié)力推進互聯(lián)算力生態(tài)、數(shù)據(jù)要素生態(tài)和AI應(yīng)用生態(tài)的構(gòu)建與開源開放,以新型信息基礎(chǔ)設(shè)施的升級來共同推進高質(zhì)量發(fā)展。