近日，一股“大模型热”正在延伸到工业领域。中工互联智工·工业大模型、思谋科技工业多模态大模型IndustryGPT V1.0、海尔卡奥斯工业大模型COSMO-GPT、科大讯飞羚羊工业大模型等大模型创新应用为智能制造提供了新的方向和思路。
记者在采访时了解到，工业企业利用分布式云将大模型引入生产管理流程中是未来趋势，但也会带来越来越多的安全问题。工业级大模型应用可解决生产力短缺问题，但大模型技术是一把“双刃剑”，需要以安全为前提开展应用。
工业云已成网络攻击主要对象
《2023上半年云安全态势报告》显示，由于各行业用户群体和业务需求不同，行业遭受攻击的次数呈现出明显差异，其中互联网（通用工具、技术服务、通用SaaS）、工业云、金融是遭受攻击最多的三大行业。据统计，2022年公开披露的工业信息安全事件共312起，行业分布覆盖十几个工业细分领域，制造、能源领域成为网络攻击重点目标。攻击方式包括恶意软件、分布式拒绝服务（DDos）攻击、网络钓鱼等，呈现出目标多元化、手段复杂化、影响扩大化的攻击趋势。值得关注的是，制造业已成为勒索攻击的主要目标。其中，电子制造行业遭勒索攻击最多，占比约23%。汽车制造行业成为仅次于电子制造行业的重点攻击目标，占比约13%。
此外，供应链也是网络攻击的一个重点。由于工业供应链攻击具有隐蔽性、威胁对象多、涉及维度广等特点，利用上游企业的安全薄弱环节实施攻击能达到“突破一点，伤及一片”的效果，工业供应链已成为网络攻击最佳切入点。丰田汽车就曾因主要零部件供应商遭受网络攻击，导致其不得不关闭在日本的全部14家工厂和28条生产线，影响约1万辆汽车的生产，经济损失严重。
腾讯安全副总经理董文辉表示：“上云是必然趋势，我们看到越来越多的工业企业是在上云的。他们会选择优先把自己原本就有的服务器等利用起来，进行本地化部署。像宁德时代、三一重工等比较典型的工业企业就采用的是本地云、专有云。”在他看来，这些工业企业利用分布式云将AI的能力逐渐引入到整个生产、管理流程中，这是一个数字化的过程，也是未来的趋势。不过也正因如此，他们面临的安全威胁也越来越多了。
“一方面，传统工业企业在专业技术人才储备方面存在短板。另一方面，工业制造业涉及的特殊工艺、技术以及工业知识，给攻防端都带来了很大的技术挑战。”董文辉说。
大模型与安全行业结合成为新趋势
在工业领域，制造企业的安全体系面临挑战。蔚来汽车信息安全基础设施负责人马磊表示，对于汽车制造业而言，传统的云上风险持续存在，而智能网联时代，整个汽车生产制造，包括服务都跑在云上，车载应用迭代和更新的速度不断加快，这样也会加大安全漏洞的风险。此外，汽车制造业还面临关键基础设施的合规风险及供应链风险，必须从被动防御转化成主动。
为了应对大模型时代的云安全挑战，腾讯云在通用模型基础上投喂安全知识语料库二次训练出了一个安全大模型，并基于安全大模型打造了一款腾讯云AI安全助手。不只是腾讯，微软Security Copilot、阿里云安全大模型、360安全大模型、深信服安全GPT、安恒科技AI恒脑、奇安信Q-GPT安全机器人等产品的涌现，足以说明大模型与安全行业的结合已经成为新趋势。
据奇安信集团总裁吴云坤介绍，奇安信Q-GPT安全大模型已经在安全运营、事件响应、攻防演练等场景中进行大量实践验证，大幅度提升了相关应用场景的安全能力和效率。
“安全大模型的不断进化将驱动安全运营从人工时代进入全自动运营时代。”腾讯云安全产品负责人周荃表示。不过从现阶段来看，工业领域安全交互产品本质上仍停留在信息交换层面。很多工业设计包括产品体验设计更多都是提高信息反馈的及时性、准确性、丰富度，帮助安全运营人员拿到信息以后能够快速准确地做出决策和判断。下一步，如果能把安全大模型应用在产品交互、安全能力建设、安全服务等各个方面，将大大提升安全运营效率。
工业大模型要遵循安全原则
“工业级大模型应用可以解决生产力短缺的问题，但大模型技术是一把‘双刃剑’，需要以大模型应用安全作为生产力输出的前提和基础。然而，当前大多数大模型应用无法真正解决网络安全生产力问题。”吴云坤表示。他建议，安全大模型达到工业级应用，需要满足三个关键条件。一是需要高质量知识数据、专家队伍、实战经验和场景支撑；二是必须基于多种安全任务的强化学习和顶尖专家的反馈训练；三是要面向安全生产场景中的任务和应用强化实战能力。
制造业是一个高度专业化的领域，且细分行业众多，不能简单地将一个通用大模型应用于生产环境。即便是引领技术潮流的GPT-4，也由于缺少专业知识、无法理解工业场景的具体需求，而无法准确回答制造行业的相关问题、识别常见的工业缺陷。在工业安全场景中，更是需要有全面的工业知识和安全知识的结合，这对安全大模型本身也提出了更高的要求。腾讯安全科恩实验室高级安全研究员唐祺壹表示：“要跟实际的业务场景去做结合，通过场景数据微调的方式，以更低的训练适配成本和插件化的灵活性，将大模型应用到不同的场景当中，发挥其真正的价值。”
360创始人周鸿祎认为，大模型很热，但绝不是风口和泡沫，而是代表了一次工业革命的机会，将大幅提高生产力和生产效率。在构建企业级大模型的时候一定要遵循“安全原则”。安全是大模型发展的底线，也是未来的核心竞争力。