RunAnywhere เปิดตัว TrnRT มอเตอร์อนุมานแบบโอเพนซอร์สสำหรับ AWS Trainium
เริ่มตรงนี้
RunAnywhere เปิดตัว TrnRT มอเตอร์อนุมาน LLM แบบโอเพนซอร์สสำหรับ AWS Trainium ที่ให้บริการ API ที่เข้ากันได้กับ OpenAI จากอินสแตนซ์ trn2.48xlarge เพียงเครื่องเดียว และรัน decode เป็น NKI megakernel โมเดลแรกที่รองรับคือ GLM-5.3-Flash ซึ่งเป็นโมเดล mixture-of-experts ขนาด 320B พารามิเตอร์ มีพารามิเตอร์ที่ใช้งานจริง 18B ความแม่นยำ FP8 และบริบท 1M โทเคน RunAnywhere ระบุว่ามีแผนจะรองรับโมเดลโอเพนซอร์สเพิ่มเติม การติดตั้งต้องใช้ Docker, trn2.48xlarge สำหรับให้บริการ และโฮสต์ x86_64 ใดก็ได้สำหรับคอมไพล์ โดยต้องสร้างแคชคอมไพล์ก่อนซึ่งใช้เวลาหลายชั่วโมง RunAnywhere รายงานการรัน AgentX coding-agent ที่ 32 agent พร้อมกันด้วยต้นทุน 0.040 ดอลลาร์ต่อล้านโทเคนที่ราคา spot โครงการนี้ระบุว่าตนเป็นอิสระและไม่มีส่วนเกี่ยวข้องหรือได้รับการรับรองจาก AWS
สร้างจากรายงาน · อัปเดต 8 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIRunAnywhere เปิดตัว TrnRT เอนจินอนุมาน LLM โอเพนซอร์สสำหรับ AWS Trainium
RunAnywhere เปิดตัว TrnRT เอนจินอนุมานโอเพนซอร์สที่ให้บริการ API ที่เข้ากันได้กับ OpenAI จาก trn2.48xlarge เครื่องเดียว และรัน decode เป็น NKI megakernels โดย GLM-5.3-Flash (320B MoE, 18B active, FP8, คอนเท็กซ์ 1M โทเคน) เป็นโมเดลแรกที่รองรับ และโครงการรายงานว่า AgentX coding-agent รันเอเจนต์พร้อมกัน 32 ตัวด้วยต้นทุน $0.040 ต่อล้านโทเคนที่ราคา spot
ความร้อนแรงของเหตุการณ์นี้
- ช่วงปัจจุบันที่เทียบได้
- 8
- จุดสูงสุดในช่วงที่เทียบได้
- 1018 พฤศจิกายน 01:00
- การเปลี่ยนแปลงใน 24 ชั่วโมง
- –
แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู