ข้ามไปที่เนื้อหา
เฉพาะ อุตสาหกรรม#การติดตั้งใช้งาน / วิศวกรรม
  1. SemiAnalysis85

    Nvidia กับโลกที่ไม่มี Jensen: Nvidia ในยุคหลังผู้ก่อตั้งจะเป็นอย่างไร

    SemiAnalysis ชี้ว่า Nvidia ถูกสร้างขึ้นรอบตัว Jensen Huang ซึ่งลาออกจากตำแหน่ง CEO หลังจาก 33 ปี และการจากไปของเขาทำให้การเดิมพันระยะยาวของบริษัท ข้อตกลงการจัดสรรชิป และการล็อกห่วงโซ่อุปทานส่วนตัวอ่อนแอลง บทความระบุว่า Nvidia มีผู้รายงานตรงประมาณ 60 คนภายใต้ Huang และขาดทีมผู้สืบทอดที่ลึก โดยมี Colette Kress เป็น CEO ชั่วคราว และมี Ian Buck กับ Jonah Alben ถูกเสนอชื่อเป็นผู้สมัครทางเทคนิคภายใน บทความยังเชื่อมโยงจังหวะเวลากับวอชิงตัน: มีการประเมินว่าชิป Nvidia ที่ถูกจำกัดมากกว่า 1.5GW ไปถึงจีน และ Remote Access Security Act ซึ่งผ่านสภาผู้แทนราษฎรด้วยคะแนน 369-22 กำลังรอการลงมติในวุฒิสภา

    ทำไมเรื่องนี้สำคัญ: SemiAnalysis ตรวจสอบว่าโครงสร้างที่ยึดผู้ก่อตั้งเป็นศูนย์กลาง ข้อตกลงห่วงโซ่อุปทาน และนโยบายจีนของ Nvidia อาจเปลี่ยนแปลงอย่างไรหลังการจากไปของ Jensen Huang และทำไมกฎหมายควบคุมการส่งออกจึงเคลื่อนไหวตอนนี้

  1. The Decoder80

    Anthropic กล่าวว่า AI ลดเวลาการพอร์ต Claude ไปยัง GPU ของ AMD จากหลายเดือนเหลือสามวัน

    Anthropic กล่าวว่าได้พอร์ต Claude ไปยัง GPU ของ AMD ภายในสามวันโดยแทบไม่ต้องมีมนุษย์ intervene โดยใช้โมเดล frontier ของตนชื่อ Mythos เขียน kernel เกือบ 100 เปอร์เซ็นต์ด้วยตัวเอง Tom Brown ผู้ร่วมก่อตั้งกล่าวว่า Anthropic ฝึกและรัน Claude บน AWS Trainium, Google TPUs, Nvidia GPUs และ AMD GPUs โดยมองว่าเป็น compute pool เดียวที่สับเปลี่ยนได้ ตัวเลขมาจากการนำเสนอต่อนักลงทุนและยังไม่ได้รับการตรวจสอบอย่างอิสระ Anthropic อ้างว่าสามวันเทียบกับหกถึงสิบสองเดือนที่งานวิศวกรรมแบบดั้งเดิมต้องใช้ วัดจากการประมวลผล prompt ด้วย AMD MI355X GPUs

    ทำไมเรื่องนี้สำคัญ: คำกล่าวอ้างของ Anthropic ที่ว่าโมเดลของตัวเองพอร์ต Claude ไปยัง GPU ของ AMD ได้ในสามวันเป็นการทดสอบที่เป็นรูปธรรมว่า AI สามารถคลายการยึดเหนี่ยวของ CUDA ต่อการเลือกชิปได้หรือไม่

  1. Simon Willison78

    วิดีโอโรดโชว์ IPO ของ Anthropic เผยรายละเอียดกลยุทธ์การฝึกและให้บริการ Claude บนหลายชิป

    Anthropic เริ่มโรดโชว์ IPO เมื่อวานนี้ และวิดีโอโรดโชว์ได้เปิดเผยรายละเอียดที่ไม่เคยเผยแพร่มาก่อนเกี่ยวกับการดำเนินธุรกิจ รวมถึงส่วนเกี่ยวกับกลยุทธ์การประมวลผลที่พูดคุยกับ Tom Brown ผู้ร่วมก่อตั้ง Brown กล่าวว่า Anthropic ฝึกและให้บริการ Claude บน AWS Trainium, Google TPUs, NVIDIA GPUs และ AMD GPUs และเมื่อบริษัทเริ่มทำงานกับ AMD GPUs ในปีนี้ ระบบที่ชื่อ Mythos ทำให้ Claude ทำงานบน AMD ได้ในสามวันโดยแทบไม่ต้องมีการแทรกแซงจากมนุษย์ โดยพอร์ตหรือเขียนเคอร์เนลเกือบ 100% เขายังอธิบายถึงตัวคูณการประมวลผลว่าเป็นปัจจัยขับเคลื่อนที่สองของความได้เปรียบด้านการประมวลผล โดยกล่าวว่าตัวคูณแต่ละตัวซ้อนทับบนตัวก่อนหน้า และ Claude อาจค้นพบมันได้ด้วยตัวเองในที่สุด

    ทำไมเรื่องนี้สำคัญ: วิดีโอโรดโชว์ IPO ของ Anthropic เผยรายละเอียดกลยุทธ์การฝึกและให้บริการบนหลายชิปครอบคลุมสี่ตระกูลชิป รวมถึงการพอร์ตไปยัง AMD ที่ Claude ช่วยทำเสร็จในสามวัน

  2. NVIDIA Blog60

    NVIDIA มอบ OpenShell Agent Runtime ให้ CNCF และเพิ่มเครื่องมือ DSX Kubernetes

    NVIDIA กำลังมอบ OpenShell ซึ่งเป็นรันไทม์โอเพนซอร์สสำหรับการรักษาความปลอดภัยและการกำกับดูแลเอเจนต์อัตโนมัติ ให้แก่ Cloud Native Computing Foundation ในฐานะโครงการ Sandbox และยังมีส่วนร่วมใน Agent Substrate ที่นำโดย Google NVIDIA ประกาศองค์ประกอบใหม่สามส่วนของ DSX AI Factory Platform ได้แก่ NVIDIA Kubernetes Engine และ NVIDIA Kubernetes Recipes ซึ่งขณะนี้อยู่ในตัวอย่างสาธารณะ และ NVIDIA Snapshot ซึ่งกู้คืนรีพลิกาที่บันทึกจุดตรวจในไม่กี่วินาทีโดยไม่ต้องโหลดโมเดลใหม่หรือวอร์มอัพ Crusoe ทดสอบ GLM-5.3 บน Crusoe Cloud และลดเวลาพร้อมใช้งานของเวิร์กโหลดจากประมาณแปดนาทีเหลือ 31 วินาที ขณะที่ Saturn Cloud ลดเวลาสตาร์ท vLLM จากระหว่างสองถึง 8.5 นาทีเหลือหกนาที 34 วินาที

    ทำไมเรื่องนี้สำคัญ: NVIDIA มอบ OpenShell รันไทม์ความปลอดภัยของเอเจนต์ให้ CNCF และเพิ่มเครื่องมือ Kubernetes สำหรับ GPU AI factories โดยผลลัพธ์เบื้องต้นของ Snapshot ลดเวลาสตาร์ทการอนุมานจากนาทีเหลือวินาที

  1. Modal Blog71

    Modal ทำรายได้ต่อปีทะลุ 1 พันล้านดอลลาร์ และระดมทุน Series D 750 ล้านดอลลาร์ ที่มูลค่า 15.75 พันล้านดอลลาร์

    Modal มีรายได้ต่อปี (annualized run rate) ทะลุ 1 พันล้านดอลลาร์ และระดมทุน Series D จำนวน 750 ล้านดอลลาร์ นำโดย Accel ที่มูลค่าหลังการระดมทุน (post-money valuation) 15.75 พันล้านดอลลาร์ โดยมีนักลงทุนเดิมเข้าร่วมทั้งหมด บริษัทระบุว่าการใช้งานเพิ่มขึ้นสามเท่านับตั้งแต่ Series C เมื่อห้าเดือนก่อน และเติบโตมากกว่า 15 เท่าเมื่อเทียบปีต่อปี และผลิตภัณฑ์ Sandboxes เพียงอย่างเดียวมี run rate อยู่ที่ 300 ล้านดอลลาร์ โดยมี sandbox ถูกสร้างขึ้นใกล้ 3 พันล้านรายการ Modal ยังอธิบายถึงการสร้างระบบไฟล์ container runtime ตัวจัดตารางเวลา (scheduler) และระบบเครือข่ายของตนเองใหม่ บนกลุ่มความจุที่ครอบคลุมคลาวด์กว่า 20 แห่ง และชี้ไปที่การเปิดตัวล่าสุดในด้านการฝึกโมเดลแบบหลายโหนด (multi-node training), Modal servers และ VM สำหรับ Sandboxes ที่พร้อมใช้งานทั่วไป

    ทำไมเรื่องนี้สำคัญ: โพสต์ของ Modal อธิบายว่าเหตุใดภาระงาน AI จึงผลักดันให้บริษัทต้องสร้างระบบไฟล์ container runtime และ scheduler ของตนเองใหม่บนคลาวด์กว่า 20 แห่ง ซึ่งเป็นมุมมองที่เป็นรูปธรรมว่าสแต็กโครงสร้างพื้นฐาน AI กำลังแยกออกจากสแต็กคลาวด์อย่างไร

อ่านครบทั้งหมดแล้ว