Tới nội dung
Chỉ Ngành#Suy luận
Hôm nay13 tháng 11Thứ Sáu1 mục
  1. Hacker News · AI50

    NukeTorch: Bốn máy MacBook Pro M5 Max phục vụ NVIDIA GR00T nhanh hơn 2,45 lần so với kết quả H100 công bố nhanh nhất

    Engine NukeTorch của Fenon AI đã chạy chính sách robot GR00T N1.7 của NVIDIA trên bốn máy MacBook Pro M5 Max đạt 152,07 action chunk mỗi giây với 192 client, nhanh hơn 2,45 lần so với con số H100 công bố nhanh nhất và nhanh hơn 4,24 lần so với con số NVIDIA tự công bố. Với một yêu cầu đơn lẻ, H100 vẫn thắng ở 16,08 ms so với 44,34 ms, và bốn máy Mac có giá niêm yết $19,996 so với ít nhất $25,000 cho một card H100. Phiên bản một máy Mac là bản tải miễn phí, trong khi bản nhiều máy yêu cầu giấy phép đánh giá.

1 tháng 11Chủ Nhật
  1. Sakana AI Blog40

    Hội thảo Sakana AI: Jürgen Schmidhuber về quá khứ và tương lai của AI, Nhật Bản thúc đẩy mô hình ngôn ngữ, mô hình thế giới và AI vật lý

    Sakana AI đã tổ chức hội thảo "Từ Mô hình Thế giới đến AI Thực tế" tại Tokyo vào ngày 26 tháng 10 năm 2026, nơi Cố vấn Khoa học Chính Jürgen Schmidhuber có bài phát biểu chính và Sakana AI công bố sẽ phát triển dòng mô hình ngôn ngữ tiền huấn luyện của riêng mình, Sakana Sawara (tên tạm thời). Mô hình nhỏ đầu tiên, Sawara Small (tên tạm thời), dự kiến ra mắt vào mùa xuân năm 2027 nếu quá trình phát triển diễn ra suôn sẻ. Hơn 400 người tham dự đã tham gia sự kiện, cũng bao gồm cuộc trò chuyện giữa Schmidhuber và CEO David Ha.

27 tháng 10Thứ Ba
  1. Apple Newsroom42

    Apple ra mắt MacBook Pro 14 inch mới với chip M6

    Apple đã công bố MacBook Pro 14 inch mới với chip M6, trang bị CPU 12 lõi và GPU 12 lõi mang lại hiệu năng đồ họa nhanh hơn tới 30% và khối lượng công việc AI nhanh hơn tới 25% so với M5. Con chip bổ sung Neural Engine kép 16 lõi và Bộ tăng tốc Neural trên GPU cho AI trên thiết bị, với thời lượng pin lên đến 24 giờ, Wi-Fi 7 và Bluetooth 6. Đặt trước mở từ ngày 28 tháng 10, bắt đầu bán ra từ thứ Sáu, ngày 6 tháng 11.

23 tháng 10Thứ Sáu
  1. Modal Blog58

    Modal và Sakana AI đã phục vụ một mô hình MoE ~1T tham số cho API Sakana Namazu như thế nào

    Nhóm kỹ sư triển khai tại chỗ của Modal đã làm việc với Sakana AI để chạy Sakana Namazu, một mô hình MoE ~1T tham số được tinh chỉnh cho bối cảnh kinh doanh Nhật Bản, trên Modal cho lần ra mắt API công khai của mô hình này. Nhóm đã áp dụng lượng tử hóa NVFP4 chọn lọc chỉ cho các routed expert, giữ attention, router và shared expert ở BF16, đồng thời hiệu chỉnh trên các cuộc hội thoại chủ yếu bằng tiếng Nhật để cả 23.040 expert đều thấy lưu lượng đại diện. Một mô hình draft DFlash tùy chỉnh được huấn luyện trên hơn 30 tỷ raw token ID đã tăng tỷ lệ chấp nhận token suy đoán thêm 25% và giảm độ trễ giải mã mỗi token khoảng 35%, trong khi một drafter thứ hai được huấn luyện trên khoảng 1 triệu yêu cầu thực tế đã nâng độ dài chấp nhận trung bình từ 3,51 lên 5,01 và giảm độ trễ p99 từ 68s xuống 52s.