当网络信号微弱甚至断网时,终端设备上的智能体该如何保障安全防护?浙江大学计算机学院“百人计划”研究员赵彬彬在经济参考报社与中国科学院软件研究所共同举办的“智能体时代的移动终端生态”研讨会上提出,随着智能体走向终端设备,安全防护体系需要兼顾弱网、离线等各类运行场景。
赵彬彬认为,智能体安全需要关注模型、智能体、工具和设备多个层面。智能体对用户习惯的记忆可能受到错误信息或恶意信息影响,调用外部工具时也可能接触有害信息;涉及摄像头、麦克风等设备功能时,还需要研究如何防范越权调用。他认为,正因为智能体可能触及设备层,可调用功能与安全边界需要提前明确,不应等到安全事件发生后再做限制。这与日前豆包手机助手推出的屏幕自动化操作声明协议(SAEP)的思路一致,应用可以明确是否接受智能体操作、具体开放哪些操作权限。
他介绍了团队的研究思路:依托安全评测识别风险,通过安全网关拦截高危行为,并探索在终端芯片内置安全审核能力。团队计划采用轻量模型,兼顾设备功耗,把安全防护延伸至芯片层,适配终端运行特点。这套安全防护思路,有利于实现创新与安全、效率与规则协同发展,确保智能体即便出现异常,也无法逾越预先划定的安全边界。(记者 关佳浩 杨曼殊)

