跳到正文
原文
Launch HN(YC 公司)· anerli·· 28 天前AI 评分50

Launch HN:Magnitude(YC S25)开源自优化推理引擎,称比 Ollama 快 2 倍以上

Launch HN: Magnitude (YC S25) – Self-optimizing inference engine for agents

AI 导读

Magnitude 是开源推理引擎,会在用户硬件上调优 kernel 找到运行每个模型的最快方式,称比 Ollama 快 2 倍以上,支持 Apple Silicon、NVIDIA、AMD、Intel 和纯 CPU。提供桌面应用和 CLI,可一键连接 Pi、OpenCode、Hermes、Codex 等智能体。

来源:Launch HN(YC 公司) · github.com