本报讯 6月9日,北京首家“词元工厂”——北京壹号词元工厂正式落地经开区信创园,以确保今后算力成为像电力一样稳定、普惠的公共资源。北京建设“人工智能之城”再落一子。
北京壹号词元工厂由软通动力信息技术股份有限公司(以下简称“软通动力”)建设,项目一期每日Token产能可达1.4万亿个。软通动力同步向全球开源“词元工厂性能基准”(含评测框架LoadGen 2.0),这是行业首次针对智能体长时运行特征建立统一的性能度量标准。
大语言模型(LLM)正从简单的对话机器人,加速演进为能够自主规划、推理并采取行动以达成复杂目标的长时运行系统。一个简单的用户指令背后,可能是模型数十次推理循环、工具调用与自我反思的叠加。这意味着算力消耗不再是“一问一答”式的短时脉冲,而是长周期、多轮次、高不确定性的混沌负载。北京壹号词元工厂的解法,是做面向智能体时代的“新型电厂”,实现像用电一样用Token。
据了解,下一步,词元工厂还将联动张家口、乌兰察布等绿电基地,构建京津冀一体化算力集群,让算力生产随着规模持续扩大,大幅降低各行各业使用AI算力的门槛,实现日产10万亿个Token的远期目标。(京 讯)
