跳至正文
Hacker News · AI·· 2 小時前AI 評分58

RightNow AI 推出針對開放模型、經 GPU 核心優化的推論服務

Show HN: Own your AI at full speed

AI 導讀

RightNow AI 推出一項推論服務,可依各模型與硬體調整解碼、精度與引擎設定來執行開放模型,並公布每百萬 token 的價格與實測速度。其表格列出 DeepSeek V4.1 Flash 為每百萬 token 輸入 0.15 美元、輸出 0.60 美元,速度 327 tokens 每秒;Nemotron 3.5 Lightning 30B 為輸入 0.05 美元、輸出 0.15 美元,速度 540 tokens 每秒。提示快取為自動且盡力而為,無需標頭或參數,API 接受 Chat Completions 與 Messages 請求,新帳號可獲得 1 美元免費額度。

來源:Hacker News · AI · rightnowai.co