ข้ามไปที่เนื้อหา
Hacker News · AI·· 19 ชม. ที่แล้วคะแนน AI28

PhantaField คาดการณ์ค่าใช้จ่ายเอาต์พุตโทเคนที่ 0.42 ดอลลาร์ต่อล้านโทเคนสำหรับการประมวลผลบนวงโคจรด้วย White Matter และ Sophon

PhantaField Projects $0.42/M Output Tokens in Orbit with White Matter and Sophon

สรุปโดย AI

PhantaField ประเมินว่าศูนย์ข้อมูลอวกาศที่สร้างขึ้นจากดีไซน์การบินของ White Matter และชิป Sophon จำนวน 40 ตัวสามารถให้เอาต์พุตโทเคนในราคา 0.42 ดอลลาร์ต่อล้านโทเคน เทียบกับ 0.84 ดอลลาร์ต่อล้านโทเคนสำหรับการเช่า H100 บนโลก ยานอวกาศน้ำหนัก 1,124 กิโลกรัมบรรจุน้ำหนักโมเดล 70B แบบ FP8 ไว้ในหน่วยความจำท้องถิ่น 330 GB ของแต่ละชิป และคาดการณ์ว่าจะให้เอาต์พุตโทเคน 16,500 โทเคนต่อวินาทีต่อชิป ซึ่งมากกว่าผลผลิตของยานอวกาศที่ใช้ GPU ประมาณสิบหกเท่า จุดคุ้มทุนอยู่ที่ประมาณ 4,950 เอาต์พุตโทเคนที่ได้รับการยอมรับต่อวินาทีต่อ Sophon โดยเฉลี่ยตลอดภารกิจ

แหล่งข่าว:Hacker News · AI · phantafield.com