(来源:封面新闻)
封面新闻记者 欧阳宏宇
AI要真正从数字世界走向物理世界,安全与成本是绕不开的两道坎。
“大模型深入业务,既要具备处理复杂任务的能力,也要守住数据边界、降低使用成本。”10月22日,科大讯飞董事长刘庆峰在北京表示,全栈自主可控端云一体大模型,是解决AI安全性和极致性价比的必然选择。在他看来,“云+端”协同将破解用户使用AI时绕不开的“怕泄密”和“怕太贵”两道难题。

所谓“云+端”协同,简言之就是把用户交给AI的任务进行拆解,一部分工作留在“端”侧完成,更复杂的问题再交由“云”端解决。在现实中,就是让手机、PC、平板、AI眼镜、智能座舱、机器人等端侧设备,具备自行处理一部分工作的能力。在刘庆峰看来,基于此不仅节省Token,也更加安全,即用户信息不必经过公共网络,不会被上传至公共云端,也不会被其他用户或第三方接触;涉及敏感信息时,还能先在终端上完成脱敏处理。
端侧模型之所以能具备不逊色于云端模型的能力,是由模型训练方式、协同架构迭代等多重因素共同决定的。
刘庆峰以此次发布的讯飞星火X2.6为例谈到,通过端云一体训练后,端侧模型已从“能对话”走向“能办事”。其技术原理是,采用端侧模型能力感知的自适应迭代后训练算法,可根据自身能力动态选择教师模型、调整学习内容,强化长文本理解与工具调用。据统计,智能体任务覆盖度达到41.9%。
更精准的任务分工也是能力提升的重要因素。刘庆峰介绍,首次发布的星火大模型端云一体协同架构,基于端侧模型精准路由,可根据任务难度、端侧能力和数据安全需求,选择纯端侧执行、端云协同或纯云侧执行,并通过“云指导端”“端云分工”完成任务。比如,需要云端参与时,敏感信息先在本地脱敏,经用户确认后发送,本地原始文件不上传,并支持自定义脱敏策略。

能力提升背后,绕不开两重现实:一是模型基于国产算力的安全诉求,二是利用效率持续突破的市场压力。据了解,以适配国产芯片显存与带宽限制为例,技术层面就可通过长程任务动态并行训练技术,按任务长度自适应分配计算资源,这样能使超长上下文训练效率提升约4倍。
“只有真正地在国产算力上训练出自己的模型,才是真的自主可控。”刘庆峰强调,全栈自主可控,不仅要能够在国产算力上进行推理,更要能够在国产平台上完成训练。











