以大模型为核心的人工智能技术是创新范式变革与产业升级的关键引擎，然而技术跃升与安全风险始终伴生演进，数据安全、应用安全、基础环境安全、大模型自身安全等挑战加剧。以数据安全为例，大模型在训练、推理、使用过程中涉及海量数据，通过数据投毒、数据污染等手段，会使大模型输出背离主流价值观或包含事实性错误的内容。一些不法分子还会借助提示词注入、劫持、爬虫等手段，窃取大模型用户重要信息和敏感数据。

建议开展体系化的人工智能大模型安全防护，建立适配大模型的纵深防御体系，从技术层面全面排查加固人工智能大模型基础设施，形成覆盖终端、应用、数据、大模型、算力与基础设施的多维度核心防护能力。

同时，重点打造大模型数据安全“双控机制”，一方面，对输入侧数据进行筛查和消杀，并实施严格的访问控制措施，做好从数据喂养到内容生成的全链路安全管控；另一方面，强化输出侧控制，有效防范“认知污染”，通过完善大模型安全“监管沙盒”机制，在政务大模型等关键领域大模型上线前开展深度测试，强化对潜在风险的预警和控制。

在人工智能技术快速铺开的背景下，护航人工智能安全发展重点要做到以下三点：一是关注安全防护体系的构建，特别是要建立适配大模型的纵深防御体系，对数据安全、终端安全、API安全等方面给予全方位安全保障；二是拥抱先进的安全防护手段，用好“AI+安全”创新成果；三是建立高效的应急响应机制。