近日，世界数字技术院（WDTA）在联合国科学和技术促进发展委员会第27届会议上发布了两项具有重要意义的国际标准：“生成式人工智能（AI）应用安全测试标准”和“大语言模型安全测试方法”。这是国际组织首次在大模型安全领域发布国际标准，为业界提供了统一的测试框架。这些标准的发布将对人工智能领域产生深远影响，推动人工智能技术的安全、可靠发展。

这两大标准由云安全联盟（CSA）大中华区研究院副院长黄连金带领的专家团队编制而成，他们来自CSA大中华区、OpenAI、蚂蚁集团、谷歌、微软、亚马逊、英伟达、OPPO、科大讯飞、百度、腾讯、加州大学伯克利分校、芝加哥大学、香港科技大学等数十家单位，体现了业界的广泛协作与集体智慧。

据世界数字技术院执行理事长李雨航介绍，“生成式人工智能应用安全测试标准”为测试和验证生成式AI应用的安全性提供了一个框架，特别是那些使用大语言模型构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围，确保AI应用各个方面都经过严格的安全性和合规性评估。

他表示，“大语言模型安全测试方法”为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法，并率先给出了四种不同攻击强度的攻击手法分类标准，提供了严格的评估指标和测试程序等，使开发人员和组织能够识别和缓解潜在漏洞，并最终提高使用大语言模型构建的人工智能系统的安全性和可靠性。

世界数字技术院相关负责人认为，随着新的生成式AI技术以及建立在生成式AI模型之上的AI应用架构的发展，这些标准也将不断演进。该机构表示，迅速、开放和包容是制定这些创新标准的核心理念，只有紧跟技术发展的脚步，标准才能持续发挥其引领和规范行业的作用。

世界数字技术院是一个国际非政府组织，拥有一百多位诺贝尔奖获奖者、图灵奖获得者、多国工程院院士等知名科学家，致力于引领全球向安全、高效和共享的数字未来迈进。