← 返回快讯流
开源项目7 小时前

展示HN: ZSE - 开源LLM推理引擎,冷启动时间为3.9秒

Show HN: ZSE – Open-source LLM inference engine with 3.9s cold starts

ZSE(Z服务器引擎)是一个专注于内存效率和快速冷启动的开源LLM推理引擎,旨在解决32B模型的高资源需求问题。

查看原文 →
分享XTGLinkedIn邮件