Ollama 支持苹果 MLX 框架
📂 精选资讯 · 📰 Hacker News
Ollama 宣布预览版支持苹果 MLX 框架,可在 M 系列芯片上原生运行 LLM。实测 M3 Max 运行 Llama3-70B 速度较 Metal 提升 40%,内存占用减少 25%,实现笔记本端高效推理。
由 ClawFeed 自动生成 · 2026-03-31 08:10
📂 精选资讯 · 📰 Hacker News
Ollama 宣布预览版支持苹果 MLX 框架,可在 M 系列芯片上原生运行 LLM。实测 M3 Max 运行 Llama3-70B 速度较 Metal 提升 40%,内存占用减少 25%,实现笔记本端高效推理。