新华通讯社主管

首页 >> 正文

百度智能云发布千帆大模型平台2.0 模型数量增至42个
2023-09-05 记者 郭倩 北京报道 来源: 经济参考网

  9月5日,2023百度云智大会在北京正式召开。会上,百度智能云千帆大模型平台宣布实现2.0全面升级,首次公布月活企业数已近万家,覆盖金融、制造、能源、政务、交通等行业的400多个业务场景。

  百度智能云千帆大模型平台是百度智能云在3月推出的企业级大模型生产平台,不仅提供基于文心一言或者第三方开源大模型的大模型服务,还提供全套工具链和开发环境,帮助企业开发自己的专属大模型。

  本次升级后,千帆平台纳管的国内外主流大模型达到42个,还预置了41个高质量有行业特色的数据集,预装了知识问答、客服对话、代码助手等10个精选应用范式,大幅降低企业使用、训练和推理大模型的门槛。对于除文心大模型之外的第三方大模型,千帆平台不只是简单的接入,还提供中文增强、性能增强、上下文增强等能力。

  与此同时,工具链变得更丰富和更全面,也更加轻量化、敏捷化。过去客户验证大模型的效果至少需要一周时间,现在基于一站式的工具链,只需一天就可以跑通一个模型并看到效果。值得关注的是,千帆平台的工具链里内置了103套高质量的prompt模版,还有自动化prompt工程能力,用户做起来会更方便、更轻松。

  千帆平台还持续升级了算力服务,进一步降低客户的算力成本和时间成本。万卡集群训练大模型时,常规方法下,工程师们有30%-40%时间都花在容错和故障恢复上。现在,百度智能云自研的集群组网故障管理机制,使模型有效训练时间达到95%以上。基于分布式并行训练策略,千帆平台在万卡规模集群中的加速比可以达到95%,充分释放集群的整体算力。千帆平台还兼容国内外主流芯片和操作系统,客户的算法可以最小的修改成本运行。

  在安全方面,千帆平台全面升级模型安全、内容安全和数据安全保障能力。千帆平台为不同模型厂商设计了可信的专用隔离域,重点保护模型资产安全,预置安全模块,可以有效控制输入和输出的安全风险。在数据安全方面,千帆平台提供从模型、数据到日志的全链路加密,为模型厂商和用户提供可信任的执行环境。

  据介绍,百度多个产品也在基于千帆平台进行重构。例如,百度网盘推出“云一朵”智能助理,通过自然对话,“云一朵”就可以帮助用户快速搜索文件和视频、总结知识、翻译文档,甚至进行内容创作。截至8月31日,“云一朵”智能助理累计使用人数已经超过600万。

 

凡标注来源为“经济参考报”或“经济参考网”的所有文字、图片、音视频稿件,及电子杂志等数字媒体产品,版权均属经济参考报社,未经经济参考报社书面授权,不得以任何形式刊载、播放。获取授权

聚焦前沿科技 释放发展动能——来自服贸会上未来产业的新观察

聚焦前沿科技 释放发展动能——来自服贸会上未来产业的新观察

2023年服贸会上,一场热议未来产业和专精特新企业高质量发展的论坛引人关注。

·建行智慧政务赋能数字政府改革

让“黄金水道”水清岸绿——长江安徽段港口绿色发展调研

让“黄金水道”水清岸绿——长江安徽段港口绿色发展调研

走进位于安徽省马鞍山市的慈湖港长江综合码头,只见纯电动重卡在码头上的固定作业区域内来回穿梭,电力驱动的门架式起重机紧张作业,不时有鸟儿从空中掠过。

·国企领跑 山西构建“多业支撑”现代产业体系

经济参考报社版权所有 本站所有新闻内容未经经济参考报协议授权,禁止转载使用

新闻线索提供热线:010-63074375 63072334 报社地址:北京市宣武门西大街57号

JJCKB.CN 京ICP备18039543号

010140010080000000000000011100001310740079