• 官方微信公众号
  • 电子信息产业网
  • 微博
第05版:人工智能

首个AI大模型供应链安全 国际标准发布

本报讯 在日前举办的2024年外滩大会上,世界数字技术院发布了国际标准《大模型供应链安全要求》。这一标准由云安全联盟(CSA)大中华区牵头,联合蚂蚁集团、微软、谷歌、百度等全球多家顶尖技术企业及相关机构的专家共同编制。

《大模型供应链安全要求》标准的核心在于其对大语言模型(LLM)整个生命周期的安全管理,涵盖了从开发、训练到部署、维护的各个环节,为每个阶段提供了详细的安全指南。

通过这一标准,企业和开发者将能够在整个模型开发和运行的过程中,采取有效的安全管理措施,预防可能的安全漏洞,保障大模型技术的安全性和可靠性。

具体来说,标准提出了多层次的安全管理方法,覆盖以下几个关键层次:

网络层安全,确保模型在开发和部署过程中所依赖的网络环境具有足够的安全性,避免外部攻击和数据泄露。

系统层安全,保障操作系统和相关系统软件的安全性,防止恶意软件或不当操作导致系统崩溃或数据篡改。

平台和应用层安全,确保大模型所依托的平台和应用程序具备足够的安全措施,防止未经授权的访问或数据篡改。

模型层安全,关注模型自身的安全性,确保在训练过程中使用的数据和算法不会被恶意篡改或误用。

数据层安全,对大模型训练和运行中涉及的数据进行严格的安全管理,防止数据泄露或滥用。

这一国际标准的发布,不仅为大模型技术提供了一个全面的安全管理框架,也为未来AI技术的可持续发展指明了方向。这一标准的另一个重要意义在于,它为大模型技术的开发者和企业提供了一个可以遵循的全球统一标准。通过遵守这一标准,企业不仅可以降低安全风险,还可以提高其技术在全球范围内的竞争力。(文 编)

2024-09-13 1 1 中国电子报 content_11462.html 1 首个AI大模型供应链安全 国际标准发布 /enpproperty-->