ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

RightNow AI เปิดตัวบริการอนุมานที่ปรับแต่งสำหรับ GPU สำหรับโมเดลเปิด

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 2 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

RightNow AI ได้เปิดตัวบริการอนุมานสำหรับโมเดลเปิด โดยปรับแต่งการถอดรหัส ความแม่นยำ และการตั้งค่าเอนจินแยกตามโมเดลและฮาร์ดแวร์ พร้อมเผยแพร่ราคาต่อล้านโทเคนควบคู่กับความเร็วที่วัดได้ ตารางของบริษัทระบุ DeepSeek V4.1 Flash ที่ราคาอินพุต 0.15 ดอลลาร์สหรัฐ และเอาต์พุต 0.60 ดอลลาร์สหรัฐต่อล้านโทเคน ที่ความเร็ว 327 โทเคนต่อวินาที และ Nemotron 3.5 Lightning 30B ที่ราคาอินพุต 0.05 ดอลลาร์สหรัฐ และเอาต์พุต 0.15 ดอลลาร์สหรัฐ ที่ความเร็ว 540 โทเคนต่อวินาที การเรียกเก็บเงินเป็นแบบจ่ายตามการใช้งานต่อโทเคน ไม่มีค่าสมาชิก บนกำลังประมวลผลแบบใช้ร่วมกัน ส่วนกำลังประมวลผลแบบจองและ-Deployment เฉพาะบริษัทเดี่ยวระบุว่ายังไม่เปิดให้บริการ แคชพรอมป์เป็นแบบอัตโนมัติและพยายามให้ดีที่สุด โดยไม่ต้องใช้เฮดเดอร์หรือพารามิเตอร์ API รองรับคำขอแบบ Chat Completions และ Messages และบัญชีใหม่ได้รับเครดิตฟรี 1 ดอลลาร์สหรัฐ

สร้างจากรายงาน · อัปเดต 2 ชม. ที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

17 พฤศจิกายน
  1. Hacker News · AI
    RightNow AI เปิดตัวบริการอนุมานที่ปรับแต่งเคอร์เนล GPU สำหรับโมเดลโอเพนซอร์ส

    RightNow AI เปิดตัวบริการอนุมานที่รันโมเดลโอเพนซอร์สด้วยการตั้งค่าการถอดรหัส ความแม่นยำ และเอนจินที่ปรับแต่งตามโมเดลและฮาร์ดแวร์แต่ละรายการ พร้อมเผยแพร่ราคาต่อล้านโทเคนควบคู่กับความเร็วที่วัดได้ ตารางของบริษัทระบุ DeepSeek V4.1 Flash ที่ราคาอินพุต 0.15 ดอลลาร์สหรัฐ และเอาต์พุต 0.60 ดอลลาร์สหรัฐต่อล้านโทเคน ที่ความเร็ว 327 โทเคนต่อวินาที และ Nemotron 3.5 Lightning 30B ที่ราคาอินพุต 0.05 ดอลลาร์สหรัฐ และเอาต์พุต 0.15 ดอลลาร์สหรัฐ ที่ความเร็ว 540 โทเคนต่อวินาที การแคชพรอมป์เป็นไปโดยอัตโนมัติและเป็นแบบพยายามเต็มที่โดยไม่ต้องใช้เฮดเดอร์หรือพารามิเตอร์ใด ๆ API รองรับคำขอแบบ Chat Completions และ Messages และบัญชีใหม่ได้รับเครดิตฟรี 1 ดอลลาร์สหรัฐ

ความร้อนแรงของเหตุการณ์นี้

ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม