Hacker News · AI·· 2 小时前AI 评分58
RightNow AI 推出针对开放模型的 GPU 内核优化推理服务
Show HN: Own your AI at full speed
AI 导读
RightNow AI 推出了一项推理服务,可按模型和硬件调优解码、精度与引擎设置来运行开放模型,并公布了每百万 token 的价格以及实测速度。其表格列出 DeepSeek V4.1 Flash 每百万 token 输入 0.15 美元、输出 0.60 美元,速度为每秒 327 token;Nemotron 3.5 Lightning 30B 每百万 token 输入 0.05 美元、输出 0.15 美元,速度为每秒 540 token。提示缓存自动启用且尽力而为,无需请求头或参数;API 接受 Chat Completions 和 Messages 请求,新账户可获 1 美元免费额度。
来源:Hacker News · AI · rightnowai.co