前段时间,我们启动了一个长期项目,旨在让用户能够在各种硬件设置上完全在本地运行已启用本地推理的 Junie。经过漫长的期待,我们最近发布了 Junie Local 的初始版本,该版本可以在 MacBook M5 上使用 Qwen3.6-27B 运行。
在这篇博文中,我将分享我们为实现这一目标所做的工作,以及我们选择基于 Qwen3.6-27B 而不是 Qwen3.8-27B 发布的原因。我们从 Junie 智能体本身到我们选择的推理引擎,对整个技术栈进行了优化。
安装 Junie Local
我们从 Junie 开始 – 毕竟,您将从这里开始与本地模型进行交互。
Junie 优化
扩展智能…