Hacker News · AI·· 8 小时前AI 评分62
Cua 发布 Hoy:基于 Hypervisor.framework 的 macOS VMM,为本地模型提供 GPU 加速
Hoy: A macOS VMM on Hypervisor.framework with GPU acceleration for local models
AI 导读
Cua 发布了 Hoy,这是一款闭源的 macOS 虚拟机监视器,构建于 Apple 的 Hypervisor.framework 之上,面向需要 macOS 桌面的智能体、CI、强化学习和评测场景。在 M4 Pro 上,Hoy 虚拟机 5.3 秒即可通过 ssh 连接,而 Apple 的 Virtualization framework 需要 6.6 秒;恢复时间为 1.2 秒,后者为 3.0 秒。Hoy 新增了对运行中虚拟机的快照、恢复和分叉功能,以及实验性的 GPU 模式——在 M2 Mac 上,Hoy 虚拟机中的 llama.cpp 达到了原生提示处理速度的 95% 至 97%。
来源:Hacker News · AI · hoy.cua.ai