新华通讯社主管

首页 >> 正文

把大模型“装”进小盒子 云天励飞推出“深目”AI模盒
2024-03-29 记者 张纹 北京报道 来源: 经济参考网

  3月28日,云天励飞(688343.SH)举办AI大模型产品发布会,正式发布“深目”AI模盒。据介绍,该产品能够做到“3个90%”——覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地“最后一公里”的问题,帮助更多中小企业客户轻松使用大模型。

  从ChatGPT到Sora,从文生文、文生图像到文生视频,大模型发展日新月异,持续给行业带来惊喜,不仅国内掀起“百模大战”,国外科技巨头也在大模型上相互“较劲”。

  发布会上,云天励飞董事长兼CEO陈宁认为,未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万元级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。

  值得关注的是,为了能够让大模型“平民化”,云天励飞推出了“深目”AI模盒。这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力,可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让用户都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法。

  “能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。”陈宁说。据介绍,“深目”AI模盒的算力基础,来源于去年云天励飞推出的14nm Chiplet大模型训推芯片DeepEdge10 Max。该芯片采用自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10 Max创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

  此外,为了共同探索更多大模型低成本、高效率落地应用路径,云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院等多家单位共同成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。

凡标注来源为“经济参考报”或“经济参考网”的所有文字、图片、音视频稿件,及电子杂志等数字媒体产品,版权均属《经济参考报》社有限责任公司,未经书面授权,不得以任何形式刊载、播放。获取授权

标识不清、材质以次充好 部分保温杯存安全隐患

标识不清、材质以次充好 部分保温杯存安全隐患

记者调查发现,市面上一些热销的不锈钢保温杯存在材质不合格、以次充好、标识不清等问题。

·业内呼吁建立长效机制处置家庭过期药品

《经济参考报》社有限责任公司版权所有 本站所有新闻内容未经协议授权,禁止转载使用

新闻线索提供热线:010-63074375 63072334 报社地址:北京市宣武门西大街57号

JJCKB.CN 京ICP备18039543号

010140010080000000000000011100001310769419