3月25日，2024搜狗搜索云智研讨会在合肥隆重召开。

为帮助企业更快、更好、更省地使用大模型，百度智能云分别针对算力、模型、AI应用，周全强制发展百舸AI异构计算方法app品台4.0、千帆大建模 app品台3.0几大AI根本设备，并强制发展码小助手、自动化客服热线、金额人几大AI安卓原生系统利用物料。

百度手机智能化云事业上的群ceo沈抖认为，大模板以其一体化的算率处理软件工作平台、模板和适用开发管理软件工作平台，将要短时间加入新一批根本安全设施。

“202四年大类别的家产着地正处于会加快，到目前为止在千帆大类别平讲台，文心宽类别每日读取量可达到7亿次，连续作用普通用户精调了三万个大类别，的开发出70几万个中小公有云利用。以往3年，文心至尊版大类别落价范围可达到90%，主要类别率先不花钱，极限容许减轻了中小工厂改革创新尝试错误的生产成本。”沈抖说。

百庋自动化云人事群总栽沈抖

升级系统百舸4.0

型号体能训练有效率时间达99.5%

可高质量方法20万卡集群技术

大显卡功耗是大建模下地的基础性条件。为充分考虑各个企业下地大建模从云计算出来平台网站使用、发展科学试验，到建模学习、逻辑推理的全航程显卡功耗要，预防超级大总量GPU云计算出来平台网站高投资成本、难操作几大终极挑战，百度网智慧云自动升极更新百舸AI异构计算出来平台网站4.0，面对万卡、20万卡云计算出来平台网站逐步自动升极显卡功耗工作效果。

集群技术建设时间段：企业通常需要进行大量复杂、琐碎的算力配置和调试工作。百舸4.0预置了主流的大模型训练工具，能够实现工具层面的秒级推广，并将万卡集群执行提前准备时长从第几周削减至1时间，极大地提升部署效率，缩短业务上线周期。

搜索百舸AI异构折算工作平台4.0

定制开发实验英文阶段中，：企业需要针对业务目标对不同架构、参数的模型进行多次测试，进而制定最佳模型训练策略，保障后续训练的性能和效果。百舸4.0全新升级的可观测大盘，能够对多芯自适应、群集工作效能、世界任务电脑自动容错纠错机制等领域做出全方向位置监测器，展示 形象战略合理性，帮助用户更好地把控整体项目。

对模型训练课阶段中：稳定和高效是衡量GPU集群水平的“金指标”、“硬通货”。

在稳定性方面，一张GPU出现故障就会导致集群整体停摆，大量时间、成本浪费在故障恢复和数据回滚上。百舸4.0能够自功塞查云计算平台的情形，并研究背景对GPU内部故障的准确预测分析，及时转移工作负载，降低故障发生频次。此外，百舸独特的故章秒级视觉记忆确定、Flash Checkpoint模板任務心态回滚等技术，能够大幅减少集群故障处置时间，实现接近无损的集群容错。

目前，百舸在万卡集群上实现了有效训练时长占比99.5%以上，业界领先，极大地节约了客户算力与时间成本。此外，百舸4.0通过集群设计、任务调度、并行策略、显存优化等一系列创新，大幅提升了集群的模型训练效率，综合性能指标相对区块链行业的平均关卡大幅提升高达模型30%。

在模型推理环节，百舸则通过架构分离、KV Cache、负载分配等一系列加速方法，实现了模型推理的降本提效，尤其在长文本推理方面，逻辑题的效率改善多于1倍。

面向于素，沈抖观点，大型号的Scaling Law将在三段用时内坚持有效性，越来越快就可能会有大多的十五万卡集群技术现身，虽然管控制度十五万卡的一定难度与管控制度万卡存在天壤之别。

第一步，在物理化学区域发展环境空间方向，20万卡服务器群集必须拥有也许5万平小米区域发展环境空间，一定于14个标准单位垒球场的户型面积；在用电户量方向，每周则要耗用大概400万kw时的电业，一定于天津市东老城区整天的城市居民用电户量。在这种我们对区域发展环境空间和生物质能源的硕大需要量，还多于了以往互联网数据中心布署方式的载重量业务能力，跨具体互联网数据中心布署又会给wifi网络光纤通信带给硕大试练。不仅，20万卡服务器群集中的GPU系统故障早已异常频频，更好训练法耗时也将即将到来新的试练。

面对等等关键问题，百舸4.0就已经 打造了二二十万卡极别的巨型占比无拥塞HPN高效能系统、10ms极别非常高要求系统监控视频，或是看向二二十万卡集群技术的钟头级故章还原能力素质。

“百舸4.0正是为部署十万卡大规模集群而设计的。今天的百舸4.0，早就应具了发育成熟的十五万卡服务器集群安排和经营专业能力，就是要突破这些新挑战，为整个产业提供持续领先的算力平台。”沈抖说。

生数科技发展 | 生数科技作为国内领先的多模态大模型厂商，基于百舸平台开发出国内首款全面对标OpenAI Sora的视频大模型“Vidu”。会上，生数科技联合创始人兼CEO唐家渝宣布，即日起Vidu将通过百度智能云千帆大模型平台面向开发者、企业用户开放API服务。

对于自建智算中心的客户，百舸4.0此番还对“一云多芯”能力进行了升级。在万卡整体规模集群技术上，多芯分层康复训练工作效率可高达95%，保护装修界领先地位。“要建设更大的集群，同时确保供应链的安全和弹性，势必会存在不同芯片混合使用的情况，也就是说，对于自建智算中心的客户来说，一云多芯是必然选择。”沈抖说。

中国国中国邮政储畜银行系统 | 2023年，为加速大模型应用落地，邮储银行新增大量来自不同厂商的GPU资源，基于大模型为18个核心业务系统、30多家分行的金融业务提供AI赋能。在百舸的支持下，邮储银行顺利完成了不同型号GPU资源的部署、上线；同时，也实现了GPU、CPU算力的规划重组，有力保障了300多个大小模型、6000多次训练任务。模型迭代时间也从过去的一个半月大幅缩短至半天，并实现了更好的模型效果。

长安镇二手车 | 长安汽车执行副总裁张晓宇表示，基于百舸平台，百度智能云与长安汽车合作探索开发了整套自动驾驶模型训练的最佳实践方案，实现了GPU资源的精细化管理与调度。双方紧密配合，在数据加载、计算效率、通信方式等维度进行联合优化，使得算力总体平均使用率提升到90%以上，综合资源利用率提升了50%。

披露千帆3.0，3个产品全面的更新升级

这句话话能够绘制工业公有云采用

想要达到中小型企业的客户对模特传参、模特研发、软件应用研发的需求量，手机百度智能化云公布千帆大模特app3.0。

对模型加载地方：升级后的千帆平台，不但可以调用包括文心系列大模型在内的近百个国内外大模型，还支持调用语音、视觉等各种传统的小模型。在扩大模型种类的同时，百度智能云持续降低模型调用成本。过去一年，文心旗舰机大绘图官降震幅低于90%、股票庄家绘图新一轮免费手机，最明显容许减轻厂家科技创新不断创新的资金。

仿真模型研发领域：对于需要定制、微调专属模型的客户，千帆3.0不仅提供了最完善的大模型工具链，还支持CV、NLP、语音等传统模型的开发，并实现数据、模型、算力等资源的统一纳管和调度，为企业提供一站式的大、小模型开发服务。

型号资金投入适用后，千帆电商平台还可以制造业企业将使用中发生的的数据统计，过采样系统评定、人工处理提示、两端对齐或稍微调一下等方式回访给型号，达成的数据统计飞轮，将持续优化提升型号实际效果，变小型号在某个3d场景下的竞争优势。

应用领域开发建设的方面：针对企业落地大模型的高频应用场景，千帆3.0从检索效果、检索性能、存储扩展、调配灵活性四方面对企业级检索增强生成（RAG）进行了全面升级；针对企业级Agent的开发，千帆3.0增加了业务自主编排、人工编排、知识注入、记忆能力以及百度搜索等80多个官方组件支持。

此外，本次大会还发布了智能化低代码应用开发平台“AI速搭”，在自然规律语种对话的英文就能实行中小公有云技术APP建设，依据话就不错完毕技术APP建立。

沈抖在交流会现象还演示软件了该如何按照情景对话，在AI速搭平台子上制作一些债务管理工作操作。只需半句话描术对个人目标程序的要，收录债务数据、债务出入库、债务领用、债务保修、债务毁坏等特点组件，大三维模型就都可以清晰明了地能够理解要并形成操作。去，这样的话一些操作即便是用低编码措施制作也是需要两天的时长，当今只需十几小时左右就能进行。

工具平台的不断完善，也促进了过去一年大模型产业落地的爆发式增长。目前，在千帆平台上，文心大模型每日读取量小于7亿次，千帆平台累计帮助用户精调了三万个大建模，设计出70二十多万个客户级应用软件。

sung自动化 | 三星电子大中华区总裁崔胜植表示，2024年初，三星在全球市场推出Galaxy AI，并与百度智能云达成战略合作，基于千帆平台、百度识图为中国用户带来国际领先的Galaxy AI本地化功能，包括即圈即搜、笔记助手、转录助手、聊天助手、浏览助手等移动AI体验。

猎聘 | 在招聘领域，猎聘基于千帆平台，通过调用文心大模型，结合自身丰富的行业know-how，能够对企业岗位需求和求职者简历内容进行语义理解分析，并实现智能化的简历筛选功能，人岗匹配准确率相比业界平均水平的70%高出15个百分点，高达85%，并提升招聘效率50%以上。

参加考试宝 | 在教育领域，考试宝作为一款职业教育在线学习App，过去主要依赖人工为会员提供试题解析服务，速度慢、成本高，有些试题甚者需要等待一天以上才能得到解析结果。如今，通过提示词工程和调用文心大模型，考试宝实现了试题的智能化解析，只需上传试题就能秒级得到解析结果，单条试题解析成本也从过去的1.5元降到3厘，降幅高达98%，用户付费意愿也增长了一倍以上。

于此，千帆该企业内增強版带来了风险管理体系化的器具和部件，大力支持该企业内消费者、的合作粉丝在千帆万能脚座上不间断插入该企业内独具特色，为了更便利地开发建设非常适合各自的该企业内APP。近几年，千帆平面板开始发展了属于创造、电力能源、铁路交通，政务服务平台、金融创新、车、幼儿教育、智连网以外的8大该企业内缓解方式。

南方地区电力 | 南方电网数字电网研究院副总经理胡荣表示，去年九月，南方电网发布了行业垂直领域首个自主可控的大模型“大瓦特”。“大瓦特”既是大模型、小模型及智能体构成的模型体系，也是开放共享的平台与生态体系。平台上，南方电网基于百度智能云千帆平台构建了电力调度值班助手。在应对突发事件时，电力调度值班助手可以秒级生成处置方案，极大地增强了调度员的应急响应能力。

代码是什么辅助软件、智能化客服热线、数字6人多方面优化

现在大建模高新产业正式出台渐渐流向深水区，AI原本态适用也将带来溃败式成长，以便需要机构就直接在购买熟AI适用的需要，360搜索智能化化云向号码人、智能化化博主、码提效3个邻域，加剧了3个AI原本态适用商品。

◎ 源于文心高模形重新构建的AI安卓原生系统智能化售后客服适用“客悦”：

在用户复杂意图理解、多模态信息交流等方面实现了大幅提升，让智能客服变得更聪明、更拟人。“问题自助解决率”是智能客服领域最关键的考核指标，当前业内平均水平是80%，升级后，客悦将这一指数提高自己至92%，达到领域里领跑。目前，客悦已累计帮助企业客户的服务小于1.3亿游客量，相互低于6亿次。

◎ 为大三维模型的能力，新加剧的曦灵数值人4.0：

支持根据文字快速生成不同妆造、不同行业特色的3D数字人形象和视频。本次大会期间，曦灵平台宣布：将3D超写实数字人的价格从万元大幅度的减价至199元，高达在业内低于价。

全新升级的4D（3D+时间维度）自动绑定技术和创新模态迁移技术，还很好解决了传统式2D数字6人运动很糟糕的疑问，可以实现人物在不同角度、形体、表情的高度一致，即使是面部微表情也能做到自然、逼真。

◎ 最新优化的全程序AI编码提效机器“文心快码”：

自动对焦技术创新全人的一生周期怎么算的国际业务流，保持了从顶目接盘到以后交付使用，全程序流程数字研发生产率与效率的两级增强。

本次大会，文心快码业界首发「工业公有云二维码体系结构解釋」、「工业公有云二维码查看」两项全新功能。企业级代码架构解释能在项目接手初期，实现工程架构的智能解读，帮工程师快速理解业务逻辑；而企业级代码审查则能传承资深工程师的编码经验，智能辅助程序员查缺补漏。

此外，针对市面上通用代码助手缺乏对企业历史代码库的理解的痛点，文心快码全新升级的「工厂级代碼外挂技能」能够深度理解企业代码库，快速学习企业过往的代码与规范，让生成的代码更贴近企业的要求。

目前，文心快码已经服务以上10万家企业客户，帮助千余万中国开发者提升编码效率，整体研发效率大幅提升20%。

继续阅读：大模型   人工智能

人工智能技术网 倡导尊重与保护知识产权。如发现本站文章存在版权等问题，烦请30天内提供版权疑问、身份证明、版权证明、联系方式等发邮件至1851688011@qq.com我们将及时沟通与处理。！：BB贝博艾弗森官方网站 > 人工智能产业 > AI大模型 » 百舸AI异构计算平台4.0、千帆大模型平台3.0两大AI基础设施全面升级