新快报记者 郑志辉台湾佬中文网
12月20日，2023百度云智大会·智算大会在北京举办，大会以「大模子重构云计较，Cloud for AI」为主题，深度聚焦大模子激发的云计较变革。
h动漫百度智能云霄示，为安闲大模子落地需求，正在基于「云智一体」策略重构云计较处事，面前已完成从底层基础循序—大模子开导与应用—AI原生应用开导的端到端升级重构：全面升级百舸等20多个云计较基础循序、千帆大模子平台再升级、AI原生应用开导责任台“千帆AppBuilder ”全面通达。
智算大会现场，百度智能云还公布了最新“收获单”。自8月31日文心大模子向全社会全面通达以来，在千帆大模子平台上，大模子API日调用量增长10倍。面前千帆平台仍是累计处事特出4万家企业用户，累计匡助企业用户精调近1万个大模子。相较于自建系统历练大模子，使用千帆平台历练的资本最高不错下落90%。
大模子正在重构云计较
“AI原生时间开启，大模子正在驱动云计较产业更动变革。”百度集团副总裁侯震宇示意：“大模子重构云计较主要体当今三个层面：AI原生云将转变云计较的神情，模子即处事（MaaS ）会成为新的基础处事，AI原生应用催生新的研发范式 。”
开首，在云基础循序层，挪动互联网时间的应用，底层大多依赖CPU算力，而AI应用对GPU或异构计较的需求大幅加多，云阛阓的底层算力需求将平缓转向以GPU为主。
其次，在模子层，大模子正在成为通用的处事身手，即MaaS。MaaS将大幅缩短Al落地的门槛，结束实在的Al普惠。
临了，在应用层，应用开导的范式仍是被透澈颠覆。大模子流露、生成、逻辑、追忆的私有身手会催生AI原生应用研发新范式，扫数应用技能栈、数据流和业务流王人将被转变。
侯震宇示意，总体来说，构建蕃昌的AI原生应用生态，需要大模子、智能算力、AI原生应用研发新范式三成分相反相成。大模子是AI原生应用的“大脑”，智能计较则为AI原生应用驱动提供坚实复古，新研发范式助力开导者高效基于大模子身手开导应用。数据飞轮是奏效的AI原生应用的充分必要要求，让大模子身手高速迭代，产物体验捏续开首。
云计较全面升级：五大领域20余款全栈产物聚会发布
AI原生时间，面向大模子的云计较基础循序体系将全面重构。侯震宇示意，百度智能云将在三大方面重构云计较处事，即：面向模子的智算基础循序、面向数据的数据基础循序、面向应用的云基础循序，以复古AI原生应用落地。
大会现场台湾佬中文网，百度智能云密集发布和升级了20多款云计较产物，涵盖智能计较、通用计较、数据库和大数据、散播式云、应用开导平台五大领域。
在智能计较领域，算力是大模子落地的基础要求，面前大模子历练、推理、部署对高速互联、计较效能、算力资本等王人提倡了高要求，需要打造新式的智算基础循序。但面前的计较集群还靠近不少挑战，大模子历练时间长、易出错、褂讪性差，算力集群规模大、系统复杂度高也加多了运维难度。
全新发布的百度百舸·AI异构计较平台3.0，针对AI原生应用以及大模子的历练、推理等门径进行了专项优化。百舸3.0在褂讪、高效、易运维三个方面大幅升级产物身手，结束万卡级别任务有用历练时长达到98%以上，带宽有用性可达 95%。比拟自建智算基础循序，不错结束模子训、推笼统分辩最高擢升30%和60% 。
针对AI原生时间智能算力的供给均衡问题，百度智能云发布智算集会平台。在算力资源层面，智算集会平台支捏将百度登科三方成立的智算中心、超算中心、角落节点等智算节点进行全域接入，将分散和异构的算力资源聚合起来，造成调处的算力集会资源池，再通过百度自主研发的算力弯曲算法，智能分析各类算力资源的现象、性能和运用率等筹算，调处弯曲算力，让智算资源活泼、褂讪、高效地请托给有需求的用户，结束智算资源的“南水北调”。
在通用计较领域，计较、存储、集会等云原生基础循序也需要面向AI原生时间重构升级，提供更具弹性、高性能和智能化的运维身手。
本次大会，百度太行·计较新增了三款计较实例：全新推出第7代（通用计较型）云处事器实例G7，玄虚性能较上一代产物擢升10%；发布昆仑芯弹性裸金属实例NKL5，搭载了百度自研的昆仑芯R300加快处理器，在大模子推理场景玄虚性能较业界主流加快卡可擢升达50%；发布基于昇腾910B加快处理器打造的弹性高性能计较实例NH6T，在大模子历练场景中，玄虚性能较业界主流加快卡擢升可达40%。
同期，高性能计较平台CHPC（Cloud HPC）认真发布，为用户提供的一站式群众云 HPC 处事。在资源使用层面，CHPC支捏用户一键创建高性能计较环境，并左证业务变化活泼使用云上资源；在业务应用层面，CHPC支捏集成药物研发、基因测序等行业的应用。此外，合并集成在 VPC 内的百度网盘等处事，用户不错轻易结束HPC源文献从提交、上传、处理、为止回传，到分发的数据全链路买通，助力研发提效。
在散播式云方面，百度智能云带来三大升级：角落计较节点BEC产物身手升级，打造全球调处的角落计较集会和产物体验，打造AI原生应用时间身手最完善的“云边一体”；专有云ABC Stack新身手发布，支捏腹地部署百度智能云千帆大模子平台；腹地计较集群LCC新身手发布，色狗狗支捏全新一代CPU/GPU实例以及完满的百度智能云AI&HPC集群解决身手，进一步丰富完善基础循序与云产物支捏身手矩阵。
大模子落地不仅需要算力支捏，还需要对各类数据和海量的学问进行存储、解决和分析责任。百度智能云在云存储、云原生数据库、大数据平台等数据基础循序领域发布了一系列重磅新品。
百度沧海·存储，调处技能底座认真发布，粗略支捏各类存储产物，同期安闲AI原生时间的大规模、高性能、低资本的存储要求。全新升级的对象存储BOS、云磁盘CDS、并行文献存储PFS等产物，面向数据湖存储和AI存储身手进行了全面增强，加快智能计较，开释数据价值。
云原生数据库GaiaDB 4.0版块认真发布，增强并行查询身手，冲破单机计较瓶颈，结束跨机多核并行查询，在夹杂负载和及时刻析业务场景中性能擢升特出10倍；针对不同的责任负载推出列存索引和列存引擎，擢升不同规模数据的查询速率，其中列存引擎最大可支捏 PB 级数据的复杂分析，况兼与事务处理业务严格复杂拒绝；通过共鸣公约优化、链路优化、自合乎动态回放存储多版块等一系列数据流深度优化，大幅擢升GaiaDB举座性能60%以上。
大会期间，杭州放心易云科技有限公司总司理制品耀，共享了放心集团联袂百度智能云的打造集团专有云，打造数字基建底座。面前放心集团已结束车联网、坐褥制造业务上云，且正在基于这套高效、褂讪的基础循序平台构建企业级AI大模子身手，全主义赋能集团业务。
模子即处事（MaaS）：千帆大模子平台再升级
在AI原生时间，大模子将看成新的通用处事身手，由模子即处事（MaaS）平台提供给高大用户。百度智能云千帆大模子平台（以下简称“千帆平台”）看成业界开首的MaaS处事平台，预置了包括百度文心大模子在内的、国内最多的54个主流基础大模子和行业大模子，还为大模子的捏续预历练、精调、评估、压缩和部署等门径提供最完善易用的器具链，匡助客户针对自身业务场景快速定制专属大模子。相较于自建系统历练大模子，使用千帆平台历练的资本最高不错下落90%。
面前，千帆平台仍是累计处事特出40000家企业用户，精调近10000个大模子。本次智算大会，针对客户应用大模子最温雅的“提效”和“降本”两大中枢诉求，千帆平台发布一系列全新功能。
在数据方面，千帆平台提供完善、高效的大模子数据解决器具链，包括数据集会，清洗、自动标注、自动增强与推理数据多位评估等功能，助力用户快速构建自身业务“数据飞轮”，结束响应驱动增长。全新发布的数据统计分析、数据质地查验等功能，支捏用户得到全主义的数据瞻念察信息，合并数据清洗可视化Pipeline，粗略构建出头向大模子场景的高质地数据燃料，为大模子历练“添砖加瓦”，千帆也因此成为国内首个支捏大模子多主义数据分析的MaaS处事平台。
看成模子部署上线前的“临了一公里”，模子评估粗略对大模子的输出效能、计较性能等进行全主义评估，确保大模子上线后AI原生应用的效能褂讪可靠。千帆平台更动性地引入自动化与东谈主工合并的双重评估机制，充分发达两边上风，大幅擢升模子评估效能与质地。一方面，百度文心大模子看成AI评判员，粗略对被评估模子的复兴进行自动化打分，极猛进度地减少海量叠加性东谈主责任业；另一方面，由数据标注员/业务巨匠对大模子复兴进行打分，则粗略结束对大模子复兴质地的良好化推测。
此外，千帆平台活泼的计价式样，如Tokens（适用活泼性要求较高的业务）、TPM（Tokens per Minute，适用于较大并发量业务）、批量计较（适用于离线本色坐褥等对及时性要求较低，笼统较大的任务）、算力单位（适用于需要专享硬件部署模子的客户）等，不错轻易安闲客户的多种业务场景需要，助力企业低资本用好大模子。
赋能AI原生应用开导：千帆AppBuilder认真通达处事
为了安闲企业敏捷、高效地进行AI原生应用开导的需求，缩短AI原生应用开导门槛，百度智能云千帆AppBuilder认真通达处事。
AppBuilder将大模子开导AI原生应用的常见模式、器具、经由，千里淀成一个责任台，匡助开导者聚焦业务自己，而无需为开导过程牵涉过剩元气心灵。具体来讲，AppBuilder主要由组件、框架两层处事组成。
「组件」处事由多模态的AI身手组件（如笔墨识别、文生图等）、基于大谈话模子的身手组件（如长文回归、nl2sql等）、基础组件（如向量数据库、对象存储等）三部分组成，是对底层处事身手的组件化封装，让每个组件完成一个特定的功能。
「框架」则是通过将上述这些组件有聘请地串联、组合起来，让它们粗略比较完满地完成一个特定场景的任务。面前，AppBuilder提供的检索增强生成（RAG）、智能体（Agent）、智能数据分析（GBI）即是常用的AI原生应用框架。
AppBuilder提供两种产物形态，代码态与低代码态。关于有深度AI原生应用开导需求的用户，AppBuilder代码态提供包括SDK、开导环境、调试器具、应用示例代码等多样开导套件和应用组件；而AppBuilder低码态则提供可视化器具，用户只需通俗点选，即可快速定制、上线AI原生应用。
百度独创东谈主、董事长兼首席施行官李彦宏觉得，蕃昌的AI原生应用生态，会驱动经济增长。本年10月，百度智能云推出了国内首个大模子全链路生态支捏体系，为配结伙伴提供包括赋能培训、AI原生应用孵化、销售商机、阛阓营销等全主义的支捏，致力于于于蕃昌AI原生应用生态。
侯震宇预判，2024年将成为AI原生应用的元年，迎来AI原生应用的爆发式增长。百度智能云将捏续推出有竞争力的产物决策台湾佬中文网，与伙伴通盘深耕客户应用场景，让更多的AI原生应用更动露馅。