RightNow AI 推出面向开放模型的 GPU 优化推理服务
热点事件持续更新
RightNow AI 推出面向开放模型的 GPU 优化推理服务
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
RightNow AI 已推出面向开放模型的推理服务,针对每个模型和硬件条件调优解码、精度与引擎设置,并公布每百万 token 的价格以及实测速度。其表格列出 DeepSeek V4.1 Flash 为每百万 token 输入 0.15 美元、输出 0.60 美元,速度 327 token/秒;Nemotron 3.5 Lightning 30B 为每百万 token 输入 0.05 美元、输出 0.15 美元,速度 540 token/秒。 计费按 token 用量即用即付,无订阅,运行于共享容量;预留容量与单公司专属部署标注为暂未提供。提示缓存自动启用且为尽力而为,无需请求头或参数;API 接受 Chat Completions 与 Messages 请求,新账户赠送 1 美元。
AI 根据报道生成 · 2 小时前更新
最新进展11月17日 03:54
RightNow AI 推出针对开放模型的 GPU 内核优化推理服务报道时间线
沿着报道,了解事件的不同侧面。
11月17日
- Hacker News · AIRightNow AI 推出针对开放模型的 GPU 内核优化推理服务
RightNow AI 推出了一项推理服务,可按模型和硬件调优解码、精度与引擎设置来运行开放模型,并公布了每百万 token 的价格以及实测速度。其表格列出 DeepSeek V4.1 Flash 每百万 token 输入 0.15 美元、输出 0.60 美元,速度为每秒 327 token;Nemotron 3.5 Lightning 30B 每百万 token 输入 0.05 美元、输出 0.15 美元,速度为每秒 540 token。提示缓存自动启用且尽力而为,无需请求头或参数;API 接受 Chat Completions 和 Messages 请求,新账户可获 1 美元免费额度。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。