Tới nội dung
Chỉ Ngành#Triển khai / kỹ thuật
  1. SemiAnalysis85

    Nvidia và thế giới không có Jensen: Nvidia thời hậu nhà sáng lập sẽ ra sao

    SemiAnalysis lập luận rằng Nvidia được xây dựng xoay quanh Jensen Huang, người đã rời ghế CEO sau 33 năm, và việc ông ra đi làm suy yếu các cược dài hạn của công ty, các thỏa thuận phân bổ chip và những ràng buộc chuỗi cung ứng mang tính cá nhân. Bài viết cho biết dưới thời Huang, Nvidia có khoảng 60 người báo cáo trực tiếp và thiếu một đội ngũ kế nhiệm dày dặn, với Colette Kress làm CEO tạm quyền và Ian Buck cùng Jonah Alben được nêu tên như các ứng viên kỹ thuật nội bộ. Bài viết cũng gắn thời điểm này với Washington: ước tính hơn 1,5GW chip Nvidia bị hạn chế đã đến Trung Quốc, và Đạo luật An ninh Truy cập Từ xa, đã được Hạ viện thông qua với tỷ lệ 369-22, đang chờ Thượng viện bỏ phiếu.

    Vì sao đáng chú ý: SemiAnalysis xem xét cấu trúc lấy nhà sáng lập làm trung tâm của Nvidia, các thỏa thuận chuỗi cung ứng và chính sách Trung Quốc có thể thay đổi thế nào sau khi Jensen Huang rời đi, và lý do vì sao luật kiểm soát xuất khẩu đang được thúc đẩy vào lúc này.

  1. The Decoder80

    Anthropic cho biết AI đã rút ngắn thời gian chuyển Claude sang GPU AMD từ nhiều tháng xuống còn ba ngày

    Anthropic cho biết họ đã chuyển Claude sang GPU AMD trong ba ngày với gần như không có sự can thiệp của con người, sử dụng mô hình tiên tiến Mythos của mình để tự viết gần như 100 phần trăm các kernel. Đồng sáng lập Tom Brown cho biết Anthropic hiện huấn luyện và vận hành Claude trên AWS Trainium, Google TPUs, GPU Nvidia và GPU AMD, coi chúng như một nhóm tài nguyên tính toán có thể hoán đổi cho nhau. Các con số đến từ một bài thuyết trình cho nhà đầu tư và chưa được xác minh độc lập; Anthropic nêu ba ngày so với sáu đến mười hai tháng mà kỹ thuật truyền thống cần, được đo trên xử lý prompt với GPU AMD MI355X.

    Vì sao đáng chú ý: Tuyên bố của Anthropic rằng mô hình của chính họ đã chuyển Claude sang GPU AMD trong ba ngày mang lại một phép thử cụ thể về việc liệu AI có thể nới lỏng sự kìm kẹp của CUDA đối với việc lựa chọn chip hay không.

  1. Simon Willison78

    Video roadshow IPO của Anthropic nêu chi tiết chiến lược huấn luyện và phục vụ Claude trên nhiều loại chip

    Anthropic đã khởi động roadshow IPO của mình vào hôm qua, và video roadshow của công ty đã tiết lộ những chi tiết chưa từng được công bố về cách doanh nghiệp này vận hành, bao gồm một phần về chiến lược tính toán với đồng sáng lập Tom Brown. Brown cho biết Anthropic huấn luyện và phục vụ Claude trên AWS Trainium, Google TPUs, NVIDIA GPUs và AMD GPUs, và khi công ty bắt đầu làm việc với AMD GPUs trong năm nay, một hệ thống có tên Mythos đã đưa Claude chạy trên AMD trong ba ngày với hầu như không có can thiệp của con người, chuyển đổi hoặc viết gần như 100% các kernel. Ông cũng mô tả các hệ số nhân tính toán là động lực thứ hai của lợi thế tính toán, nói rằng mỗi hệ số nhân xếp chồng lên những hệ số trước đó và Claude cuối cùng có thể tự khám phá ra chúng hoàn toàn.

    Vì sao đáng chú ý: Video roadshow IPO của Anthropic nêu chi tiết chiến lược huấn luyện và phục vụ trên nhiều loại chip của công ty trên bốn dòng chip, bao gồm một bản chuyển đổi AMD có sự hỗ trợ của Claude được hoàn thành trong ba ngày.

  2. NVIDIA Blog60

    NVIDIA đóng góp OpenShell Agent Runtime cho CNCF và bổ sung công cụ DSX Kubernetes

    NVIDIA đang đóng góp OpenShell, runtime mã nguồn mở của mình để bảo mật và quản trị các tác nhân tự trị, cho Cloud Native Computing Foundation với tư cách là dự án Sandbox, đồng thời cũng đóng góp cho Agent Substrate do Google dẫn đầu. NVIDIA đã công bố ba thành phần mới của DSX AI Factory Platform: NVIDIA Kubernetes Engine và NVIDIA Kubernetes Recipes, hiện đang ở giai đoạn xem trước công khai, và NVIDIA Snapshot, có thể khôi phục các bản sao đã lưu checkpoint trong vài giây mà không cần tải lại mô hình hoặc khởi động làm nóng. Crusoe đã thử nghiệm GLM-5.3 trên Crusoe Cloud và giảm thời gian sẵn sàng của khối lượng công việc từ khoảng tám phút xuống còn 31 giây, trong khi Saturn Cloud giảm thời gian khởi động vLLM từ khoảng 2 đến 8,5 phút xuống còn 6 phút 34 giây.

    Vì sao đáng chú ý: NVIDIA đóng góp runtime bảo mật tác nhân OpenShell của mình cho CNCF và bổ sung bộ công cụ Kubernetes cho các nhà máy AI GPU, với kết quả Snapshot ban đầu giúp giảm thời gian khởi động suy luận từ vài phút xuống còn vài giây.

  1. Modal Blog71

    Modal đạt tốc độ doanh thu thường niên 1 tỷ USD và gọi được 750 triệu USD vòng Series D với định giá 15,75 tỷ USD

    Modal đã vượt 1 tỷ USD tốc độ doanh thu thường niên và gọi được 750 triệu USD vòng Series D do Accel dẫn dắt với định giá hậu tiền tệ 15,75 tỷ USD, có sự tham gia của tất cả nhà đầu tư hiện hữu. Công ty cho biết mức sử dụng đã tăng gấp ba kể từ vòng Series C cách đây năm tháng và tăng hơn 15 lần so với cùng kỳ năm ngoái, và riêng sản phẩm Sandboxes đã đạt tốc độ doanh thu 300 triệu USD với gần 3 tỷ sandbox được khởi tạo. Modal cũng mô tả việc tự xây dựng lại hệ thống tệp, runtime container, bộ lập lịch và mạng của riêng mình trên một bể năng lực trải khắp hơn 20 đám mây, và chỉ ra các ra mắt gần đây trong huấn luyện đa nút, Modal servers và VM dùng chung cho Sandboxes.

    Vì sao đáng chú ý: Bài đăng của Modal giải thích lý do các khối lượng công việc AI thúc đẩy họ xây dựng lại hệ thống tệp, runtime container và bộ lập lịch của riêng mình trên hơn 20 đám mây, một góc nhìn cụ thể về cách ngăn xếp hạ tầng AI đang tách khỏi ngăn xếp đám mây.

Bạn đã xem hết