ข้ามไปที่เนื้อหา
Hacker News · AI·· 2 ชม. ที่แล้วคะแนน AI58

RightNow AI เปิดตัวบริการอนุมานที่ปรับแต่งเคอร์เนล GPU สำหรับโมเดลโอเพนซอร์ส

Show HN: Own your AI at full speed

สรุปโดย AI

RightNow AI เปิดตัวบริการอนุมานที่รันโมเดลโอเพนซอร์สด้วยการตั้งค่าการถอดรหัส ความแม่นยำ และเอนจินที่ปรับแต่งตามโมเดลและฮาร์ดแวร์แต่ละรายการ พร้อมเผยแพร่ราคาต่อล้านโทเคนควบคู่กับความเร็วที่วัดได้ ตารางของบริษัทระบุ DeepSeek V4.1 Flash ที่ราคาอินพุต 0.15 ดอลลาร์สหรัฐ และเอาต์พุต 0.60 ดอลลาร์สหรัฐต่อล้านโทเคน ที่ความเร็ว 327 โทเคนต่อวินาที และ Nemotron 3.5 Lightning 30B ที่ราคาอินพุต 0.05 ดอลลาร์สหรัฐ และเอาต์พุต 0.15 ดอลลาร์สหรัฐ ที่ความเร็ว 540 โทเคนต่อวินาที การแคชพรอมป์เป็นไปโดยอัตโนมัติและเป็นแบบพยายามเต็มที่โดยไม่ต้องใช้เฮดเดอร์หรือพารามิเตอร์ใด ๆ API รองรับคำขอแบบ Chat Completions และ Messages และบัญชีใหม่ได้รับเครดิตฟรี 1 ดอลลาร์สหรัฐ

แหล่งข่าว:Hacker News · AI · rightnowai.co