【环球网科技空洞报谈】9月25日，2024百度云智大会在北京召开。为匡助企业更快、更好、更省地使用大模子，百度智能云折柳针对算力、模子、AI应用av图片，全面升级百舸AI异构计较平台4.0、千帆大模子平台3.0两大AI基础设施，并升级代码助手、智能客服、数字东谈主三大AI原生应用家具。

百度集团履行副总裁、百度智能云做事群总裁沈抖示意，大模子以及配套的算力不断平台、模子和应用开辟平台，正在速即成为新一基础设施。

“2024年大模子的产业落地正在加快，目下在千帆大模子平台上，文心大模子日均调用量越过7亿次，累计匡助用户精调了3万个大模子，开辟出70多万个企业级应用。昔日一年，文心旗舰大模子降价幅度越过90%，主力模子全面免费，最大箝制诽谤了企业翻新试错的本钱。”沈抖说。

升级百舸4.0：模子教养有用时长达99.5%，可高效不断十万卡集群

大算力是大模子落地的基础要求。为餍足企业落地大模子从集群创建、开辟实验，到模子教养、推理的全旅程算力需求，应答超大限度GPU集群高本钱、难运营两大挑战，百度智能云升级发布百舸AI异构计较平台4.0，面向万卡、十万卡集群全面升级算力不断才能。

早先，在集群创建阶段，企业平庸需要进行广漠复杂、琐碎的算力竖立和调试使命。百舸4.0预置了主流的大模子教养器用，能够已毕器用层面的秒级部署，并将万卡集群初始准备时期从几周缩减至1小时，极地面普及部署效率，裁汰业务上线周期。

在开辟实验阶段，企业需要针对业务方向对不同架构、参数的模子进行屡次测试，进而制定最好模子教养策略，保险后续教养的性能和效率。百舸4.0全新升级的可不雅测大盘，能够对多芯适配、集群着力、任务自动容错等方面进行全所在监测，提供直不雅决策依据，匡助用户更好地把控合座神志。

在模子教养阶段，褂讪和高效是研讨GPU集群水平的“金目的”、“硬通货”。

在褂讪性方面，一张GPU出现故障就会导致集群合座停摆，广漠时期、本钱糟塌在故障复原和数据回滚上。百舸4.0能够自动筛查集群景况，并基于对GPU故障的精确臆度，实时滚动使命负载，诽谤故障发生频次。此外，百舸稀奇的故障秒级感知定位、Flash Checkpoint模子任务景况回滚等本领，能够大幅减少集群故障处置时期，已毕接近无损的集群容错。

目下，百舸在万卡集群上已毕了有用教养时长占比99.5%以上，业界当先，极地面量入为用了客户算力与时期本钱。此外，百舸4.0通过在集群联想、任务退换、并行策略、显存优化等一系列翻新，大幅普及了集群的模子教养效率，合座性能比拟业界平均水平普及高达30%。

在模子推理才能，百舸则通过架构分离、KV Cache、负载分派等一系列加快设施，已毕了模子推理的降本提效，尤其在长文本推理方面，推理效率普及越过1倍。

面向畴昔，沈抖觉得，大模子的Scaling Law将在一段时期内捏续有用，很快就会有更多的十万卡集群出现，可是不断十万卡的难度与不断万卡有着一丈差九尺。

早先，在物理空间方面，十万卡集群需要占据梗概10万泛泛米空间，极端于14个圭臬足球场的面积；在能耗方面，每天则要浮滥大致300万千瓦时的电力，极端于北京市东城区一天的住户用电量。这种关于空间和动力的浩大需求，远远越过了传统机房部署方法的承载才能，跨地域机房部署又会给网罗通讯带来浩大挑战。此外，十万卡集群中的GPU故障将会极端经常，有用教养时长占也将迎来新的挑战。

针对这些贫困，百舸4.0照旧构建了十万卡级别的超大限度无拥塞HPN高性能网罗、10ms级别超高精度网罗监控，以及面向十万卡集群的分钟级故障复原才能。

“百舸4.0恰是为部署十万卡大限度集群而联想的。今天的百舸4.0，照旧具备了纯熟的十万卡集群部署和不断才能，即是要冲破这些新挑战，为扫数产业提供捏续当先的算力平台。”沈抖说。

生数科技行动国内当先的多模态大模子厂商，基于百舸平台开辟出洋内首款全面临标OpenAI Sora的视频大模子“Vidu”。会上，生数科技聚首创始东谈主兼CEO唐家渝晓示，即日起Vidu将通过百度智能云千帆大模子平台面向开辟者、企业用户绽放API办事。

关于自建智算中心的客户，百舸4.0此番还对“一云多芯”才能进行了升级。在万卡限度集群上，多芯搀杂教养着力高达95%，保捏业界当先。“要建筑更大的集群，同期确保供应链的安全和弹性，例必会存在不同芯片搀杂使用的情况，也即是说，关于自建智算中心的客户来说，一云多芯是例必聘用。”沈抖说。

以中国邮政储蓄银活动例，2023年，为加快大模子应用落地，邮储银行新增广漠来自不同厂商的GPU资源，基于大模子为18个中枢业务系统、30多家分行的金融业务提供AI赋能。在百舸的扶持下，邮储银行顺利完成了不同型号GPU资源的部署、上线；同期，也已毕了GPU、CPU算力的联想重组，有劲保险了300多个大小模子、6000屡次教养任务。模子迭代时期也从昔日的一个半月大幅裁汰至半天，并已毕了更好的模子效率。

长安汽车履行副总裁张晓宇示意，基于百舸平台，百度智能云与长安汽车配合探索开辟了整套自动驾驶模子教养的最好执行决策，已毕了GPU资源的致密化不断与退换。两边紧密配合，在数据加载、计较效率、通讯方法等维度进行聚首优化，使得算力总体平均使用率普及到90%以上，综结伴源哄骗率普及了50%。

发布千帆3.0：三大办事全面升级，一句话即可生成企业级应用

为了餍足企业客户对模子调用、模子开辟、应用开辟的需求，百度智能云发布千帆大模子平台3.0。

在模子调用方面，升级后的千帆平台，不但不错调用包括文心系列大模子在内的近百个国表里大模子，还扶持调用语音、视觉等多样传统的小模子。在扩大模子种类的同期，百度智能云捏续诽谤模子调用本钱。昔日一年，文心旗舰大模子降价幅度越过90%、主力模子全面免费，最大箝制诽谤企业翻新试错的本钱。

在模子开辟方面，关于需要定制、微调专属模子的客户，千帆3.0不仅提供了最完善的大模子器用链，还扶持CV、NLP、语音等传统模子的开辟，并已毕数据、模子、算力等资源的协调纳管和退换，为企业提供一站式的大、小模子开辟办事。

模子参预使用后，千帆平台还扶持企业将应用中产生的数据，经过采样评估、东谈主工标注、对都或微调等方法反馈给模子，酿成数据飞轮，捏续优化模子效率，放大模子在特定场景下的上风。

在应用开辟方面，针对企业落地大模子的高频应用场景，千帆3.0从检索效率、检索性能、存储延伸、调配活泼性四方面临企业级检索增强生成（RAG）进行了全面升级；针对企业级Agent的开辟，千帆3.0增多了业务自主编排、东谈主工编排、常识注入、驰念才能以及百度搜索等80多个官方组件扶持。

此外，本次大会还发布了智能化低代码应用开辟平台“AI速搭”，通过当然言语对话就能进行企业级应用开辟，一句话就不错完成应用创建。

沈抖在大会现场还演示了若何通过对话，在AI速搭平台上开辟一个财富不断应用。只需一句话刻画对方向系统的需求，包含财富信息、财富入库、财富领用、财富维修、财富报废等功能模块，大模子就不错明晰地领路需求并生成应用。昔日，这么一个应用即使用低代码方法开辟也需要几天的时期，目下只需几分钟就能完成。

器用平台的无间完善，也促进了昔日一年大模子产业落地的爆发式增长。目下，在千帆平台上，文心大模子日均调用量越过7亿次，千帆平台累计匡助用户精调了3万个大模子，开辟出70多万个企业级应用。

三星电子大中华区总裁崔胜植示意，2024年头，三星在各人商场推出Galaxy AI，并与百度智能云达成策略配合，基于千帆平台、百度识图为中国用户带来海外当先的Galaxy AI土产货化功能，包括即圈即搜、条记助手、转录助手、聊天佑手、浏览助手等出动 AI 体验。

在招聘畛域，猎聘基于千帆平台，通过调用文心大模子，联接自己丰富的行业know-how，能够对企业岗亭需乞降求职者简黄历色进行语义领路分析，并已毕智能化的简历筛选功能，东谈主岗匹配准确率比拟业界平均水平的70%跳跃15个百分点，高达85%，并普及招聘效率50%以上。

在教导畛域，考验宝行动一款处事教导在线学习App，昔日主要依赖东谈主工为会员提供试题理会办事，速率慢、本钱高，有些试题甚者需要恭候一天以上才能取得理会末端。如今，通过教唆词工程和调用文心大模子，考验宝已毕了试题的智能化理会，只需上传试题就能秒级取得理会末端，单条试题理会本钱也从昔日的1.5元降到3厘，降幅高达98%，用户付费意愿也增长了一倍以上。

此外，千帆行业增强版提供了体系化的器用和组件，扶持行业客户、配合伙伴在千帆通用底座上无间添加行业性情，从而更便捷地开辟适合我方的行业应用。目下，千帆平台上照旧千里淀了包括制造、动力、交通，政务、金融、汽车、教导、互联网在内的八大行业措置决策。

南边电网数字电网酌量院副总司理胡荣示意，旧年九月，南边电网发布了行业垂直畛域首个自主可控的大模子“大瓦特”。“大瓦特”既是大模子、小模子及智能体组成的模子体系，亦然绽放分享的平台与生态体系。平台上，南边电网基于百度智能云千帆平台构建了电力退换值班助手。在应答突发事件时，电力退换值班助手不错秒级生成处置决策，极地面增强了退换员的救急反应才能。

代码助手、智能客服、数字东谈主全面升级

跟着大模子产业落地逐渐走向深水区，AI原生应用也将迎来爆发式增长，为了餍足企业顺利选购纯熟AI应用的需求，百度智能云面向数字东谈主、智能客服、代码提效三大畛域，升级了三大AI原生应用家具。

基于文心大模子重构的AI原生智能客服应用“客悦”，在用户复杂意图领路、多模态信拒却流等方面已毕了大幅普及，让智能客服变得更机灵、更拟东谈主。“问题自助措置率”是智能客服畛域最关节的观看目的，现时业内平均水平是80%，升级后，客悦将这一目的普及至92%，已毕业界当先。目下，客悦已累计匡助企业客户办事越过1.5亿东谈主次，交互越过5亿次。

基于大模子才能，新升级的曦灵数字东谈主4.0扶持把柄笔墨快速生成不同妆造、不同业业性情的3D数字东谈主形象和视频。本次大会时间，曦灵平台晓示：将3D超写实数字东谈主的价钱从万元大幅降价至199元，达到业内最廉价。

全新升级的4D（3D+时期维度）自动绑定本领和翻新模态挪动本领，还措置了传统2D数字东谈主动作僵硬的问题，不错已毕东谈主物在不同角度、形骸、情态的高度一致，即使是面部微情态也能作念到当然、传神。

全新升级的全经由AI代码提效器用“文心快码”，聚焦研发全生命周期的业务流，已毕了从神志接办到最终拜托，全经由编码开辟效率与质地的双重普及。

本次大会，文心快码业界首发「企业级代码架构说明」、「企业级代码审查」，两项全新功能。企业级代码架构说明能在神志接办初期，已毕工程架构的智能解读，帮工程师快速领路业务逻辑；而企业级代码审查则能传承资深工程师的编码训戒，智能辅助法度员查缺补漏。

此外，针对市面上通用代码助手短缺对企业历史代码库的领路的痛点，文心快码全新升级的「企业级代码辅助才能」能够深度领路企业代码库，快速学习企业过往的代码与范例，让生成的代码更靠拢企业的要求。

目下，文心快码照旧办事越过1万家企业客户av图片，匡助数百万中国开辟者普及编码效率，合座普及研发效率20%。