ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

RunAnywhere เปิดตัว TrnRT มอเตอร์อนุมานแบบโอเพนซอร์สสำหรับ AWS Trainium

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 8 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

RunAnywhere เปิดตัว TrnRT มอเตอร์อนุมาน LLM แบบโอเพนซอร์สสำหรับ AWS Trainium ที่ให้บริการ API ที่เข้ากันได้กับ OpenAI จากอินสแตนซ์ trn2.48xlarge เพียงเครื่องเดียว และรัน decode เป็น NKI megakernel โมเดลแรกที่รองรับคือ GLM-5.3-Flash ซึ่งเป็นโมเดล mixture-of-experts ขนาด 320B พารามิเตอร์ มีพารามิเตอร์ที่ใช้งานจริง 18B ความแม่นยำ FP8 และบริบท 1M โทเคน RunAnywhere ระบุว่ามีแผนจะรองรับโมเดลโอเพนซอร์สเพิ่มเติม การติดตั้งต้องใช้ Docker, trn2.48xlarge สำหรับให้บริการ และโฮสต์ x86_64 ใดก็ได้สำหรับคอมไพล์ โดยต้องสร้างแคชคอมไพล์ก่อนซึ่งใช้เวลาหลายชั่วโมง RunAnywhere รายงานการรัน AgentX coding-agent ที่ 32 agent พร้อมกันด้วยต้นทุน 0.040 ดอลลาร์ต่อล้านโทเคนที่ราคา spot โครงการนี้ระบุว่าตนเป็นอิสระและไม่มีส่วนเกี่ยวข้องหรือได้รับการรับรองจาก AWS

สร้างจากรายงาน · อัปเดต 8 ชม. ที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

18 พฤศจิกายน
  1. Hacker News · AI
    RunAnywhere เปิดตัว TrnRT เอนจินอนุมาน LLM โอเพนซอร์สสำหรับ AWS Trainium

    RunAnywhere เปิดตัว TrnRT เอนจินอนุมานโอเพนซอร์สที่ให้บริการ API ที่เข้ากันได้กับ OpenAI จาก trn2.48xlarge เครื่องเดียว และรัน decode เป็น NKI megakernels โดย GLM-5.3-Flash (320B MoE, 18B active, FP8, คอนเท็กซ์ 1M โทเคน) เป็นโมเดลแรกที่รองรับ และโครงการรายงานว่า AgentX coding-agent รันเอเจนต์พร้อมกัน 32 ตัวด้วยต้นทุน $0.040 ต่อล้านโทเคนที่ราคา spot

ความร้อนแรงของเหตุการณ์นี้

ช่วงปัจจุบันที่เทียบได้
8
จุดสูงสุดในช่วงที่เทียบได้
1018 พฤศจิกายน 01:00
การเปลี่ยนแปลงใน 24 ชั่วโมง
–

แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู