跳至正文
Hacker News · AI·· 8 小時前AI 評分62

Cua 發布 Hoy,一個建構於 Hypervisor.framework 上、為本地模型提供 GPU 加速的 macOS VMM

Hoy: A macOS VMM on Hypervisor.framework with GPU acceleration for local models

AI 導讀

Cua 發布 Hoy,這是一款閉源的 macOS 虛擬機監控器,建構於 Apple 的 Hypervisor.framework 之上,目標是供需要 macOS 桌面的 agent、CI、強化學習與 evals 使用。在 M4 Pro 上,Hoy 虛擬機 5.3 秒即可透過 ssh 連上,Apple 的 Virtualization framework 則需 6.6 秒;還原時間為 1.2 秒對 3.0 秒。Hoy 新增了執行中虛擬機的快照、還原與 fork 功能,以及實驗性的 GPU 模式,在 M2 Mac 上,Hoy 虛擬機內的 llama.cpp 跑出原生 prompt 處理速度的 95 到 97%。

來源:Hacker News · AI · hoy.cua.ai