智能体能够借助大模型生成程序,传统的软件安全手段是否仍然适用?在经济参考报社与中国科学院软件研究所联合举办的“智能体时代的移动终端生态”研讨会上,北京大学教授、北京大数据研究院院长刘云淮给出了肯定的回应:防范智能体风险,既有的软件安全手段仍有作用,可以从数据访问权限和操作执行两个方面入手。
刘云淮认为,智能体的风险未必比传统应用更大。数据被不当获取、程序执行危险操作等问题,在传统应用中同样存在。智能体虽然能够利用大模型生成程序,但其数据访问和操作行为仍然需要受到约束。在数据访问上,应用不能获得的数据访问权限,智能体同样不应获得;在操作执行上,应用不能执行的操作,智能体同样不能执行。应用通过声明把这两类边界定清楚,系统据此统一执行,从而使安全约束有了明确、可核查的标准。
研讨会之前,豆包手机助手推出屏幕自动化操作声明协议(SAEP),探索智能体创新发展趋势下切实可行的协作方案,尝试通过协议把安全边界转化为应用可以自主声明的规则。
刘云淮表示,应当把“哪些数据能访问、哪些操作能执行”的边界决定权交还给应用本身,让智能体在公开规则下开展跨应用协作。在他看来,守住数据访问和操作执行这两端,同时保持开放竞争,智能体的创新与安全就能实现协调统一。

