新华通讯社主管

首页 >> 正文

工联院大模型测评:文心一言在工业领域表现超过GPT3.5
2023-06-29 来源: 经济参考网

  近期,中国工业互联网研究院(简称“工联院”)针对人工智能大模型在中文工业领域的知识问答能力进行系统性评测。结果显示,百度文心一言表现超过GPT3.5,综合评价指数在国内排名第一。

  工联院本次评测选取了工业领域典型的八大行业。百度文心一言在电子设备、装备、钢铁、采矿、电力、石化、建材等七大行业均获国内第一。

  据悉,评测对象涵盖GPT4、GPT3.5、文心一言、ChatGLM等国内外具有代表性的头部大模型。评估结果选取性能前六名的模型进行公布。

  百度文心一言测评表现超过GPT3.5

  本次工业知识问答测试主要分为客观题与主观题两大类,总计超过1100个问题。主观题主要考察四大维度:基础能力、语句能力、概括能力和逻辑能力。

  评测结果显示,GPT4表现最佳。国内头部大模型表现亮眼,整体与GPT3.5相当。其中百度文心一言表现超过GPT3.5,在国内大模型中排名第一。

  在客观题环节,评测结果显示,GPT4与文心一言表现好于其他大模型。但评测结果也同时指出,大模型普遍准确率有较大的提升空间。

  主观题方面,国内大模型的基础能力、语句能力与GPT4接近,概括能力、逻辑能力与GPT4有一定差距。

  在大模型的自我认知能力和污染问题分析能力上,GPT4相较于其他大模型表现出更好的能力。

  大模型发展新热点:丰富特定行业专业知识

  虽然国内大模型在本次评测表现较好,甚至在部分行业赶超GPT3.5,但工联院评测报告也指出,国内外通用大模型在工业知识问答领域探索仍处于初级阶段,国内大模型与GPT4有差距,比如行业间的泛化能力有待加强。

  实际上,工联院评测报告揭示出通用大模型落地垂直行业的痛点,缺乏特定行业的专业知识。

  关于解决难题的方法,工联院评测报告给出的建议是,进一步丰富相关专业领域的数据训练集,进一步进行专业化的微调。

  当前,国内科技公司纷纷加强与工业企业合作,期望通过在实际场景中探索应用大模型,弥补差距,赶超GPT4.0。

  比如百度文心一言与南方电网电力调度控制中心在电力调度场景探索使用调度AI大模型。在汽车行业,长安汽车基于百度文心大模型正在开发生成式人工智能产品,赋能一款量产车型,实现提升用户体验的目标。除了能源、汽车制造,百度智能云还在建筑、采矿、物流、纺织等领域,探索使用大模型提升运营效率和用户体验效果。

  据悉,未来,工联院将持续开展通用大模型在工业领域更多维度的性能评测,包括但不限于大模型的鲁棒性、安全性以及人类大价值观等。(肖智)

凡标注来源为“经济参考报”或“经济参考网”的所有文字、图片、音视频稿件,及电子杂志等数字媒体产品,版权均属经济参考报社,未经经济参考报社书面授权,不得以任何形式刊载、播放。获取授权

非法“体彩平台”造成部分彩票公益金“体外循环”

非法“体彩平台”造成部分彩票公益金“体外循环”

在一些平台上这类“入驻店铺”数量较多,不仅骗取大量彩民钱财,还导致数额不菲的彩票投注资金“体外循环”。

·烹饪不是“过家家” 警惕儿童厨具成“安全杀手”

国资央企聚海南 “各显神通”逐梦自贸港

国资央企聚海南 “各显神通”逐梦自贸港

国资央企深入贯彻新发展理念,积极投身海南自贸港建设,在政策实践、产业引领、园区建设、营收税收贡献等方面不断强化战略支撑作用。

·山东国资坚持问题导向牵引“由大向强”

经济参考报社版权所有 本站所有新闻内容未经经济参考报协议授权,禁止转载使用

新闻线索提供热线:010-63074375 63072334 报社地址:北京市宣武门西大街57号

JJCKB.CN 京ICP备18039543号