新华通讯社主管

首页 >> 正文

国雄资本董事长姚尚坤:加强AI技术的安全能力建设
2025-02-25 来源:经济参考网

  日前,2025首届AI引领数字安全新浪潮专题论坛会议在北京召开。与会专家围绕AI技术的快速发展对数字安全带来的挑战与机遇展开深入探讨。

  中国网络安全协会专家在会上指出,新技术的出现带来了全新的生态环境和产业格局,但相应的配套管理技术措施也需要及时跟上。随着AI技术的广泛应用,数据安全、算法安全、隐私保护等问题日益凸显,传统的安全防护手段已难以应对复杂的数字安全挑战。

  国雄资本有限公司董事长姚尚坤表示,人工智能的飞速发展对数字安全带来了全新的机遇与挑战。他指出,人工智能正从传统模式向生成式跨越,AIGC(生成式人工智能)不断取得突破,多模态大模型快速发展。然而,AI技术的广泛应用也伴随着数据泄露、深度伪造等风险,人工智能安全保障已成为AI可靠可控应用的重要基础。

  针对AI技术带来的安全挑战,与会专家提出“以AI管AI”的理念,即利用人工智能技术来管理和应对AI自身可能引发的安全问题。姚尚坤强调,规避AIGC风险不能单纯依赖智能算法,而是需要将人类的创造能力与AI的生成能力有效结合。他建议,通过AIGC合成内容鉴别技术应对AI的恶意应用,利用大模型纠偏提升AI的安全能力,并借助生成式模型水印技术保护AI赋能的系统。

   “我们在拥抱AI的同时,也不能不严防AI可能带来的数据泄露、深度伪造等风险。”姚尚坤表示,人工智能创立之初即是模拟、延伸和扩展人类智能的一门技术学科。相比于过往的AI技术,大模型在理解指令、思维链能力和快速学习能力等维度得到了显著增强,这为数字安全领域提供了新的解决方案。

  姚尚坤特别提到,DeepSeek等AI大模型的出现,赋予了普通企业和个人参与AI竞争的机会。这种变革让更多创新者和中小企业能够参与到人工智能领域,推动整个行业的多元化发展。然而,随着AI技术的普及,数据安全保护需求也将大幅增加。

  姚尚坤表示,未来需要进一步加强AI技术的安全能力建设,确保AI在赋能经济社会发展的同时,不会成为安全风险的源头。(刘慧)

凡标注来源为“经济参考报”或“经济参考网”的所有文字、图片、音视频稿件,及电子杂志等数字媒体产品,版权均属《经济参考报》社有限责任公司,未经书面授权,不得以任何形式刊载、播放。获取授权

《经济参考报》社有限责任公司版权所有 本站所有新闻内容未经协议授权,禁止转载使用

新闻线索提供热线:010-63074375 63072334 报社地址:北京市宣武门西大街57号

JJCKB.CN 京ICP备18039543号