Anthropic อวดถึงการย้าย Claude ไปยัง GPU ของ AMD ภายในสามวันในการโรดโชว์ก่อน IPO
เริ่มตรงนี้
Anthropic แจ้งนักลงทุนว่าบริษัทย้าย Claude ไปยัง GPU AMD MI355X ได้ในเวลาประมาณสามวัน โดย Mythos โมเดล frontier ของบริษัทเป็นผู้เขียนหรือพอร์ตเคอร์เนลเกือบทั้งหมด และตามคำกล่าวของ Tom Brown ผู้ร่วมก่อตั้ง ระบุว่า "แทบไม่มีการแทรกแซงจากมนุษย์เลย" Anthropic เปรียบเทียบกรณีนี้กับระยะเวลาหกถึงสิบสองเดือนที่บริษัทระบุว่าวิศวกรรมแบบดั้งเดิมต้องใช้ ตัวเลขสามวันครอบคลุมถึงการทำให้การประมวลผลพรอมป์ตของโมเดล Anthropic หนึ่งตัวทำงานได้ในระดับประสิทธิภาพที่ใช้งานได้ ไม่ใช่การย้ายการฝึกและการดำเนินงานของ Claude ทั้งหมด ตัวเลขนี้มาจากการนำเสนอต่อนักลงทุนของ Anthropic และยังไม่ได้รับการตรวจสอบอย่างเป็นอิสระ Brown ยังกล่าวอีกว่า Anthropic ฝึกและให้บริการ Claude ผ่าน AWS Trainium, TPU ของ Google, GPU ของ NVIDIA และ GPU ของ AMD เป็นพูลความสามารถในการประมวลผลที่ใช้แทนกันได้ และอธิบาย "ตัวคูณการประมวลผล" (compute multipliers) ว่าเป็นแหล่งเพิ่มความได้เปรียบด้านการประมวลผลอีกทางหนึ่ง โดยกล่าวว่าแต่ละตัวซ้อนทับบนตัวก่อนหน้า และในที่สุด Claude อาจค้นพบสิ่งเหล่านี้ได้ด้วยตัวเอง
สร้างจากรายงาน · อัปเดต 7 ชม. ที่แล้ว
ความคืบหน้า
2 ความคืบหน้า
- 11 พฤศจิกายน 23:11 · 1 รายงานวิดีโอโรดโชว์ IPO ของ Anthropic เผยกลยุทธ์การใช้ชิปหลายประเภทSimon Willison：วิดีโอโรดโชว์ IPO ของ Anthropic เผยรายละเอียดกลยุทธ์การฝึกและให้บริการ Claude บนหลายชิป
- 11 พฤศจิกายน 22:25 · 2 รายงานAnthropic ระบุว่า AI พอร์ต Claude ไปยัง GPU ของ AMD ได้ในสามวันThe Decoder：Anthropic กล่าวว่า AI ลดเวลาการพอร์ต Claude ไปยัง GPU ของ AMD จากหลายเดือนเหลือสามวัน
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- Hacker News · AIAnthropic กล่าวว่าโมเดล AI ของบริษัทสามารถย้าย Claude ไปยังชิป AMD ได้ภายในสามวัน
Anthropic แจ้งนักลงทุนว่าโมเดล Mythos ของบริษัททำให้ Claude ทำงานบน GPU AMD MI355X ได้ในเวลาประมาณสามวัน โดย Mythos เขียนหรือพอร์ตเคอร์เนลที่จำเป็นเกือบทั้งหมด และตามคำกล่าวของ Tom Brown ผู้ร่วมก่อตั้ง แทบไม่มีการแทรกแซงจากมนุษย์ ช่วงเวลาดังกล่าวครอบคลุมการทำให้การประมวลผลพรอมต์สำหรับโมเดลหนึ่งของ Anthropic ทำงานได้ในระดับประสิทธิภาพที่ใช้งานได้จริง ไม่ใช่การย้ายการฝึกและการดำเนินงานของ Claude ทั้งหมด Anthropic กล่าวว่าสถาปัตยกรรมคอมพิวต์ของบริษัทครอบคลุม GPU ของ Nvidia, GPU ของ AMD, AWS Trainium และ Google TPU โดยถือเป็นพูลความจุร่วมกัน
- Simon Willisonคัดสรรวิดีโอโรดโชว์ IPO ของ Anthropic เผยรายละเอียดกลยุทธ์การฝึกและให้บริการ Claude บนหลายชิป
Anthropic เริ่มโรดโชว์ IPO เมื่อวานนี้ และวิดีโอโรดโชว์ได้เปิดเผยรายละเอียดที่ไม่เคยเผยแพร่มาก่อนเกี่ยวกับการดำเนินธุรกิจ รวมถึงส่วนเกี่ยวกับกลยุทธ์การประมวลผลที่พูดคุยกับ Tom Brown ผู้ร่วมก่อตั้ง Brown กล่าวว่า Anthropic ฝึกและให้บริการ Claude บน AWS Trainium, Google TPUs, NVIDIA GPUs และ AMD GPUs และเมื่อบริษัทเริ่มทำงานกับ AMD GPUs ในปีนี้ ระบบที่ชื่อ Mythos ทำให้ Claude ทำงานบน AMD ได้ในสามวันโดยแทบไม่ต้องมีการแทรกแซงจากมนุษย์ โดยพอร์ตหรือเขียนเคอร์เนลเกือบ 100% เขายังอธิบายถึงตัวคูณการประมวลผลว่าเป็นปัจจัยขับเคลื่อนที่สองของความได้เปรียบด้านการประมวลผล โดยกล่าวว่าตัวคูณแต่ละตัวซ้อนทับบนตัวก่อนหน้า และ Claude อาจค้นพบมันได้ด้วยตัวเองในที่สุด
- The DecoderคัดสรรAnthropic กล่าวว่า AI ลดเวลาการพอร์ต Claude ไปยัง GPU ของ AMD จากหลายเดือนเหลือสามวัน
Anthropic กล่าวว่าได้พอร์ต Claude ไปยัง GPU ของ AMD ภายในสามวันโดยแทบไม่ต้องมีมนุษย์ intervene โดยใช้โมเดล frontier ของตนชื่อ Mythos เขียน kernel เกือบ 100 เปอร์เซ็นต์ด้วยตัวเอง Tom Brown ผู้ร่วมก่อตั้งกล่าวว่า Anthropic ฝึกและรัน Claude บน AWS Trainium, Google TPUs, Nvidia GPUs และ AMD GPUs โดยมองว่าเป็น compute pool เดียวที่สับเปลี่ยนได้ ตัวเลขมาจากการนำเสนอต่อนักลงทุนและยังไม่ได้รับการตรวจสอบอย่างอิสระ Anthropic อ้างว่าสามวันเทียบกับหกถึงสิบสองเดือนที่งานวิศวกรรมแบบดั้งเดิมต้องใช้ วัดจากการประมวลผล prompt ด้วย AMD MI355X GPUs
ความร้อนแรงของเหตุการณ์นี้
ยังมีการเฝ้าดูต่อเนื่องไม่พอจะวาดแนวโน้ม