PhantaField ประเมินต้นทุนการอนุมาน AI บนวงโคจรที่ $0.42 ต่อล้านโทเคน
เริ่มตรงนี้
PhantaField เผยแพร่แบบจำลองต้นทุนซึ่งประเมินว่าศูนย์ข้อมูลอวกาศที่สร้างตามการออกแบบการบินของ White Matter พร้อมชิป Sophon จำนวน 40 ตัว สามารถให้โทเคนเอาต์พุตในราคา $0.42 ต่อล้านโทเคน เทียบกับ $0.84 ต่อล้านโทเคนสำหรับการเช่า GPU H100 บนโลก ยานอวกาศน้ำหนัก 1,124 กก. นี้จะบรรจุน้ำหนัก Llama 3.3 70B FP8 ไว้ในหน่วยความจำภายใน 330 GB ของชิปแต่ละตัว โดยคาดการณ์เอาต์พุตที่ 16,500 โทเคนต่อวินาทีต่อชิป ซึ่งมากกว่ายานอวกาศที่ใช้ GPU ประมาณสิบหกเท่า การประเมินนี้ตั้งสมมติฐานจากการสร้างซ้ำและการใช้งานห้าปี และไม่รวมการพัฒนาช่วงเริ่มต้นและกำไรทางการค้า นอกจากนี้ยังสมมติว่า 60% ของภารกิจใช้ในการสร้างเอาต์พุตที่เป็นประโยชน์ ให้ผลลัพธ์เป็น 62.44 ล้านล้านโทเคนที่ยอมรับได้ ที่อัตราการใช้งาน 30% PhantaField ระบุว่าต้นทุนจะเพิ่มขึ้นเป็น $0.84 ต่อล้านโทเคน ซึ่งใกล้เคียงกับการเช่าบนโลก แบบจำลองยังคงรักษาการป้องกันในท้องถิ่นและเงินสำรองสำหรับการกู้คืนไว้ จนกว่าการทดสอบลำแสงจะยืนยันว่าฮาร์ดแวร์การบินต้องลองใหม่บ่อยเพียงใด
สร้างจากรายงาน · อัปเดต 19 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIPhantaField คาดการณ์ค่าใช้จ่ายเอาต์พุตโทเคนที่ 0.42 ดอลลาร์ต่อล้านโทเคนสำหรับการประมวลผลบนวงโคจรด้วย White Matter และ Sophon
PhantaField ประเมินว่าศูนย์ข้อมูลอวกาศที่สร้างขึ้นจากดีไซน์การบินของ White Matter และชิป Sophon จำนวน 40 ตัวสามารถให้เอาต์พุตโทเคนในราคา 0.42 ดอลลาร์ต่อล้านโทเคน เทียบกับ 0.84 ดอลลาร์ต่อล้านโทเคนสำหรับการเช่า H100 บนโลก ยานอวกาศน้ำหนัก 1,124 กิโลกรัมบรรจุน้ำหนักโมเดล 70B แบบ FP8 ไว้ในหน่วยความจำท้องถิ่น 330 GB ของแต่ละชิป และคาดการณ์ว่าจะให้เอาต์พุตโทเคน 16,500 โทเคนต่อวินาทีต่อชิป ซึ่งมากกว่าผลผลิตของยานอวกาศที่ใช้ GPU ประมาณสิบหกเท่า จุดคุ้มทุนอยู่ที่ประมาณ 4,950 เอาต์พุตโทเคนที่ได้รับการยอมรับต่อวินาทีต่อ Sophon โดยเฉลี่ยตลอดภารกิจ
ความร้อนแรงของเหตุการณ์นี้
- ช่วงปัจจุบันที่เทียบได้
- 6
- จุดสูงสุดในช่วงที่เทียบได้
- 1019 พฤศจิกายน 09:00
- การเปลี่ยนแปลงใน 24 ชั่วโมง
- –
แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู