新华通讯社主管

首页 >> 正文

刘云淮:为第三方应用提供标准化的边界声明渠道
2026-09-23 记者 关佳浩 杨曼殊 来源:经济参考网

智能体能够借助大模型生成程序,传统的软件安全手段是否仍然适用?在经济参考报社与中国科学院软件研究所联合举办的“智能体时代的移动终端生态”研讨会上,北京大学教授、北京大数据研究院院长刘云淮给出了肯定的回应:防范智能体风险,既有的软件安全手段仍有作用,可以从数据访问权限和操作执行两个方面入手。

刘云淮认为,智能体的风险未必比传统应用更大。数据被不当获取、程序执行危险操作等问题,在传统应用中同样存在。智能体虽然能够利用大模型生成程序,但其数据访问和操作行为仍然需要受到约束。在数据访问上,应用不能获得的数据访问权限,智能体同样不应获得;在操作执行上,应用不能执行的操作,智能体同样不能执行。应用通过声明把这两类边界定清楚,系统据此统一执行,从而使安全约束有了明确、可核查的标准。

研讨会之前,豆包手机助手推出屏幕自动化操作声明协议(SAEP),探索智能体创新发展趋势下切实可行的协作方案,尝试通过协议把安全边界转化为应用可以自主声明的规则。

刘云淮表示,应当把“哪些数据能访问、哪些操作能执行”的边界决定权交还给应用本身,让智能体在公开规则下开展跨应用协作。在他看来,守住数据访问和操作执行这两端,同时保持开放竞争,智能体的创新与安全就能实现协调统一。

凡标注来源为“经济参考报”或“经济参考网”的所有文字、图片、音视频稿件,及电子杂志等数字媒体产品,版权均属《经济参考报》社有限责任公司,未经书面授权,不得以任何形式刊载、播放。

《经济参考报》社有限责任公司版权所有 本站所有新闻内容未经协议授权,禁止转载使用

新闻线索提供热线:010-63074375 63072334 报社地址:北京市宣武门西大街57号

JJCKB.CN 京ICP备2024066810号-1