国内首个AI安全大赛圆满收官

9月16日，以“共建AI安全，畅享智能未来”为主题的AISC首届人工智能安全大赛圆满落幕。本次大赛由国家工业信息安全发展研究中心、清华大学人工智能研究所、北京瑞来智能科技有限公司等单位联合主办。是首届全国AI安全大赛，旨在推动AI攻防技术创新、场景挖掘和人才培养。在同期举行的主题论坛上，与会专家表示，重视人工智能安全体系建设既是当务之急，也是长远考虑，需要加快人工智能安全领域的关键技术研究和攻防实践。

人工智能技术的快速发展也带来了新的风险和隐患。北京瑞来智能科技有限公司CEO田甜认为，人工智能技术的风险范围随着应用场景的日益广泛而逐渐扩大，风险发生的可能性随着其应用频率的增加而不断增加。当前人工智能的安全风险主要可以从“人”和“系统”两个角度进行分析。

“安全的本质在于对抗升级，构建安全需要一个不断攻防演变的过程。”田表示，大赛聚焦人工智能现实应用场景中的典型漏洞和风险，以赛促建、以赛促研，通过评估参赛队伍的漏洞发现和漏洞挖掘能力，探索新的安全需求场景，推动AI攻防技术创新，为加强人工智能治理体系和安全评估能力建设提供支撑。

构建人工智能的安全生态，一方面需要技术的不断进化，另一方面也需要专门技术人才的建设和培养。田表示，由于人工智能安全研究还是一个新兴领域，专业化人才较少，缺乏系统的研究团队，本次大赛通过实战演练，全面验证和提高了选手的实战能力，为培养一批高水平、高层次的人工智能安全新型人才队伍提供了“快车道”。

值得注意的是，计算力作为人工智能发展的重要基础设施，也面临诸多风险，因此促进人工智能计算力基础设施的安全发展具有重要意义。会上，由国家工业信息安全发展研究中心牵头，华为技术有限公司和北京瑞莱智能科技有限公司共同撰写的《人工智能计算基础设施安全发展白皮书》正式发布。

白皮书指出，人工智能计算基础设施不同于传统计算基础设施。它既是基础设施，也是人工智能计算和公共设施，具有基础设施、技术和公共三个属性。推动AI计算基础设施的安全发展，应从加强自身安全、保障运行安全、助力安全合规三个方面努力。通过加强自可靠性、可用性和稳定性，确保算法运行的保密性和完整性，提高用户的安全控制、识别和合规性，构筑AI安全防线，建设可信、可用、易用的AI计算基地，构建安全、健康、合规的AI产业生态。

在当天举行的主题论坛上，专家认为，从长远来看，人工智能的安全问题仍需突破算法模型原理，只有不断加强基础研究，才能解决核心科学问题。同时，他们强调，人工智能未来的发展需要确保其有效性和对整个社会和国家发展的积极促进作用，政府和产学研需要在许多方面共同进步。

北航软件开发环境国家重点实验室副主任刘祥龙表示，从技术角度来说，要形成从安全测试到安全分析、安全加固的完整技术手段，最终形成标准化的测试流程。同时，他指出，未来人工智能的安全应该着眼于从数据、算法到系统各个层面的综合评估，同时要配合一个从硬件到软件的整体安全可信的计算环境。

工银金融研究院安全攻防实验室负责人苏建明专家表示，在政策层面，应加快人工智能立法进程，加强对人工智能服务水平和技术支撑能力的专项监管和考核。在学术层面，应加大人工智能安全研究的激励投入，通过产学研合作模式，加快科研成果的转化和落地。在企业层面，逐步推动人工智能技术从场景拓展向安全可信发展转变，通过参与标准制定、推出产品和服务，不断探索人工智能安全实践和解决方案。