Flash-Moe实现大模型本地运行

📂 精选资讯 · 📰 Hacker News

Flash-Moe项目实现在48GB内存MacBook上运行397B参数模型。采用混合专家架构优化技术，为消费级硬件部署大模型提供新思路。

阅读原文