Liquid AI 发布 LFM3,6 个 2B 级开放权重多模态模型
Liquid AI Releases LFM3: 6 Open-Weight 2B-Class Multimodal Models
Liquid AI 发布第三代 Liquid Foundation Models LFM3,共 6 个共用骨干的 2B 级开放权重模型,覆盖文本、视觉、音频、全模态等,面向手机、笔记本和机器人等端侧设备。
Liquid AI LFM3:一套骨干分出 6 个 2B 级开放权重模型
- 家族共 6 个模型,覆盖文本、视觉、音频、全模态和决策任务,均可单卡微调
- LFM3-1.7B 有 1.73B 参数、256K 上下文,4-bit 约 1GB 内存即可在手机和笔记本上运行
- 官方评测中 29 项基准均分 49.37,高于 Qwen3.5-9B 的 47.24;WebArena-Verified 38.42、BFCL V4 71.39
- 知识与智能体编码仍弱于大模型:GPQA Diamond 63.37(Qwen3.5-9B 为 80.40),RULER 128K 65.56
- 许可为 LFM Open License v1.0,设有 1000 万美元营收门槛
Liquid AI 发布新一代 Liquid Foundation Models LFM3,这是从同一个 LFM3-1.7B-Base 分出的 6 个开放权重模型:面向本地智能体的文本模型 LFM3-1.7B、首个支持视频输入(每秒 2 帧采样)的视觉模型 LFM3-VL-2B、支持 18 种语言语音输入输出和工具调用的 LFM3-Audio-2B、集视觉音频语言于一体的 LFM3-Omni-2B,以及可一次前向回答多个问题的决策模型 d1-2B 和 d1-Omni-2B。官方提供 GGUF、MLX、ONNX、FP8 和 NVFP4 权重。
架构上,24 层骨干混合了 13 层门控短卷积、5 层滑窗注意力(窗口 256)和 6 层全局注意力,由硬件在环的架构搜索在 14 种设备与后端组合上调出,包括 Raspberry Pi 5 和高通 Hexagon NPU。基座训练 22T token,最后 3.5T 为偏重智能体的中期训练并把上下文扩展到 256K;后训练分四阶段:1.75T token 的 SFT、混合 RL、把 6 个专家教师蒸馏进一个模型,再做智能体 RL。
成绩全部来自 Liquid 自测:LFM3-1.7B 以少 35% 的参数超过 LFM2.5-2.6B,智能体任务优势明显,但在 GPQA Diamond、SWE-bench Verified(43.40 对 51.20)等知识和编码任务上仍不及 Qwen3.5-9B,无工具的 Humanity's Last Exam 仅 7.17,加搜索后升到 13.90。
基于原文整理的中文深读,细节以原文为准。
来源:MarkTechPost · marktechpost.com