赵春江:必须主动提高AI系统的免疫能力

专题:ISC.AI2026第十四届互联网安全大会

赵春江:必须主动提高AI系统的免疫能力-第1张图片

  ISC.AI2026第十四届互联网安全大会于6月24日在北京举办,主题为智能体颠覆安全。ISC.中国工程院院士 、国家新一代人工智能战略咨询委员会委员、中国人工智能学会党委书记、副理事长赵春江出席并演讲 。

赵春江:必须主动提高AI系统的免疫能力-第2张图片

  赵春江强调 ,当前AI系统面临多层次的安全风险,涵盖数据层 、模型层 、应用层和基础层。随着2025年多智能体商业化应用元年的到来及2026年的广泛普及,身份伪造、模型失效、权限管理漏洞 、通信劫持以及恶性的勒索风险逐渐显现。此外 ,提示注入与越狱机制、AI驱动的隐含数据挖掘 ,以及模型训练过程中的数据投毒,都给模型的精度与决策结果带来了严重隐患 。

赵春江:必须主动提高AI系统的免疫能力-第3张图片

  他提醒,过去传统的“矛与盾 ”式的简单防御已不足以应对 ,未来必须主动提高系统的“免疫能力” 。

  赵春江指出,未来,应遵循网络安全框架 ,在医疗、金融 、政务等重点领域开展示范性应用,以检验安全防护技术措施的成效,最终完成从识别新类型安全问题到构建智能化防御体系及治理框架的全面跨越。

  新浪声明:所有会议实录均为现场速记整理 ,未经演讲者审阅,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述。

文章推荐

  • 冬季新能源汽车充电有哪些注意事项?

    专题:ISC.AI2026第十四届互联网安全大会  ISC.AI2026第十四届互联网安全大会于6月24日在北京举办,主题为智能体颠覆安全。ISC.中国工程院院士、国家新一代人工智能战略咨询委员会委员、中国人工智能学会党委书记、副理事长赵春江出席并演讲。  赵春江强调,当前AI系统面...

    2026年06月24日
    0
  • 国富量子盘中涨超22% 预期全年公司拥有人应占利润约5.4亿港元

    专题:ISC.AI2026第十四届互联网安全大会  ISC.AI2026第十四届互联网安全大会于6月24日在北京举办,主题为智能体颠覆安全。ISC.中国工程院院士、国家新一代人工智能战略咨询委员会委员、中国人工智能学会党委书记、副理事长赵春江出席并演讲。  赵春江强调,当前AI系统面...

    2026年06月24日
    0
  • 外汇局疫情/外汇局消息

    专题:ISC.AI2026第十四届互联网安全大会  ISC.AI2026第十四届互联网安全大会于6月24日在北京举办,主题为智能体颠覆安全。ISC.中国工程院院士、国家新一代人工智能战略咨询委员会委员、中国人工智能学会党委书记、副理事长赵春江出席并演讲。  赵春江强调,当前AI系统面...

    2026年06月24日
    0
  • 疫情防护效果(疫情防护效果怎么写)

    专题:ISC.AI2026第十四届互联网安全大会  ISC.AI2026第十四届互联网安全大会于6月24日在北京举办,主题为智能体颠覆安全。ISC.中国工程院院士、国家新一代人工智能战略咨询委员会委员、中国人工智能学会党委书记、副理事长赵春江出席并演讲。  赵春江强调,当前AI系统面...

    2026年06月24日
    1