Liquid AI 推出最小模型 LFM2.5-230M,支援多個推理框架與端側推理
Liquid AI 正式發布了 LFM2.5-230M,這是一款僅 2.3 億參數的開源權重模型,也是該公司目前最小的模型。該模型基於 LFM2 架構設計,專注於工具使用和數據提取場景。在基準測試中,LFM2.5-230M 在指令遵循方面超越了 Qwen3.5-0.8B 和 Gemma 3 1B 等更大模型。其端側推理性能出色,在 Galaxy S25 Ultra 上達到 213 tok/s,在 Raspberry Pi 5 上也能達到 42 tok/s。該模型已支援 llama.cpp、MLX、vLLM、SGLang 和 ONNX 等主流推理框架。
摘要依據:官方/RSS 來源如果不是「已讀全文」,這條詳摘只基於公開可取得內容,不會假裝讀過受限原文。
AI builder 需要關注此模型因極小的參數規模和高效的端側推理能力,對於工具使用和數據提取任務表現優於更大模型,有助於資源受限場景的應用。
來源
- MarkTechPost
Fast research-paper and ML tooling summaries, useful for infra and agent updates.
- MarkTechPost