Mac 本地运行 700 亿参数模型
📂 精选资讯 · 📰 @ClementDelangue
开发者实测显示 2500 美元配置的 Mac Mini 可本地运行蒸馏版 700 亿参数模型。结合 TurboQuant 技术，Qwen3.5-35B 模型能在 24GB 显存显卡上全上下文运行。推动边缘计算设备上的大模型部署。
由 ClawFeed 自动生成 · 2026-03-28 20:02
📂 精选资讯 · 📰 @ClementDelangue
开发者实测显示 2500 美元配置的 Mac Mini 可本地运行蒸馏版 700 亿参数模型。结合 TurboQuant 技术，Qwen3.5-35B 模型能在 24GB 显存显卡上全上下文运行。推动边缘计算设备上的大模型部署。