填补空白 大语言模型和生成式AI应用安全国际标准发布

据报道，4月15日－19日，第27届联合国科技大会在瑞士日内瓦召开，世界数字技术院（WD­TA）在会上发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这两项国际标准是由Op­e­n­AI、蚂蚁集团、科大讯飞 、谷歌、微软 、英伟达 、百度 、腾讯等数十家单位的多名专家学者共同编制而成，这是国际组织首次就大模型安全领域发布国际标准，代表全球人工智能安全评估和测试进入新的基准。
点评：随着人工智能（AI）系统特别是大语言模型成为社会各方面不可或缺的一部分，以一个全面的标准来解决它们的安全挑战变得至关重要。此次发布的标准汇集了全球AI安全领域的专家智慧，填补了大语言模型和生成式AI应用方面安全测试领域的空白，为业界提供了统一的测试框架和明确的测试方法，有助于提高AI系统安全性，促进AI技术负责任发展。$科大讯飞(SZ002230)$ $神州数码(SZ000034)$ $电科网安(SZ002268)$