LFM2.5-2.6B发布:支持端侧运行的智能体模型

Source

品玩8月5日讯,据 liquid.ai 宣布,LFM2.5-2.6B模型现已正式发布。这是一款专为智能体工作流设计的26亿参数模型,支持在智能手机等终端设备上完全本地运行,无需依赖云端API。

该模型基于约34万亿词元预训练,词表扩展至128K。其后训练流程包含监督微调、教师特化、多领域在策略蒸馏及智能体强化学习四个阶段,使其具备规划、工具调用及多步骤任务处理能力。

评测显示,LFM2.5-2.6B在指令遵循和工具使用基准测试中表现优异,性能可媲美规模近四倍的大模型。在推理速度方面,该模型在M5 Max芯片上可达220词元/秒,在手机上也能保持30词元/秒的响应速度。

目前,LFM2.5-2.6B及其基础版本已在Hugging Face开源,并原生支持llama.cpp、MLX、vLLM等主流推理框架,为开发者提供了低成本、低延迟且具备隐私保护的端侧智能体解决方案。