新华通讯社主管

首页 >> 正文

赵彬彬:以事前边界协商机制构建终端智能体安全底座
2026-09-23 来源:经济参考网

当网络信号微弱甚至断网时,终端设备上的智能体该如何保障安全防护?浙江大学计算机学院“百人计划”研究员赵彬彬在经济参考报社与中国科学院软件研究所共同举办的“智能体时代的移动终端生态”研讨会上提出,随着智能体走向终端设备,安全防护体系需要兼顾弱网、离线等各类运行场景。

赵彬彬认为,智能体安全需要关注模型、智能体、工具和设备多个层面。智能体对用户习惯的记忆可能受到错误信息或恶意信息影响,调用外部工具时也可能接触有害信息;涉及摄像头、麦克风等设备功能时,还需要研究如何防范越权调用。他认为,正因为智能体可能触及设备层,可调用功能与安全边界需要提前明确,不应等到安全事件发生后再做限制。这与日前豆包手机助手推出的屏幕自动化操作声明协议(SAEP)的思路一致,应用可以明确是否接受智能体操作、具体开放哪些操作权限。

他介绍了团队的研究思路:依托安全评测识别风险,通过安全网关拦截高危行为,并探索在终端芯片内置安全审核能力。团队计划采用轻量模型,兼顾设备功耗,把安全防护延伸至芯片层,适配终端运行特点。这套安全防护思路,有利于实现创新与安全、效率与规则协同发展,确保智能体即便出现异常,也无法逾越预先划定的安全边界。(记者 关佳浩 杨曼殊)

凡标注来源为“经济参考报”或“经济参考网”的所有文字、图片、音视频稿件,及电子杂志等数字媒体产品,版权均属《经济参考报》社有限责任公司,未经书面授权,不得以任何形式刊载、播放。

《经济参考报》社有限责任公司版权所有 本站所有新闻内容未经协议授权,禁止转载使用

新闻线索提供热线:010-63074375 63072334 报社地址:北京市宣武门西大街57号

JJCKB.CN 京ICP备2024066810号-1