Tới nội dung
Chỉ Chính chủ#Suy luận
23 tháng 10Thứ Sáu
  1. Modal Blog58

    Modal và Sakana AI đã phục vụ một mô hình MoE ~1T tham số cho API Sakana Namazu như thế nào

    Nhóm kỹ sư triển khai tại chỗ của Modal đã làm việc với Sakana AI để chạy Sakana Namazu, một mô hình MoE ~1T tham số được tinh chỉnh cho bối cảnh kinh doanh Nhật Bản, trên Modal cho lần ra mắt API công khai của mô hình này. Nhóm đã áp dụng lượng tử hóa NVFP4 chọn lọc chỉ cho các routed expert, giữ attention, router và shared expert ở BF16, đồng thời hiệu chỉnh trên các cuộc hội thoại chủ yếu bằng tiếng Nhật để cả 23.040 expert đều thấy lưu lượng đại diện. Một mô hình draft DFlash tùy chỉnh được huấn luyện trên hơn 30 tỷ raw token ID đã tăng tỷ lệ chấp nhận token suy đoán thêm 25% và giảm độ trễ giải mã mỗi token khoảng 35%, trong khi một drafter thứ hai được huấn luyện trên khoảng 1 triệu yêu cầu thực tế đã nâng độ dài chấp nhận trung bình từ 3,51 lên 5,01 và giảm độ trễ p99 từ 68s xuống 52s.

22 tháng 10Thứ Năm
  1. inclusionAI Models58

    inclusionAI phát hành Ling-3.0-flash-Sante, mô hình MoE chuyên ngành y tế 124B

    inclusionAI đã phát hành Ling-3.0-flash-Sante, một mô hình chuyên ngành y tế được xây dựng trên Ling-3.0-flash với tổng cộng 124B tham số và 5,1B tham số hoạt động mỗi token, với trọng số trên Hugging Face và ModelScope. Mô hình sử dụng kiến trúc MoE tuyến tính lai kết hợp Kimi Delta Attention, gated MLA và các lớp MoE thưa, huấn luyện đến 256K token, và bật chế độ suy nghĩ theo mặc định với khả năng gọi công cụ thông qua các framework phục vụ tương thích. Công ty gắn nhãn đây là mô hình nghiên cứu, không phải thiết bị y tế, và cho biết đầu ra không được thay thế lời khuyên, chẩn đoán hoặc điều trị y tế chuyên nghiệp.

  2. Microsoft Research64

    Microsoft Research và đồng tác giả chứng minh giả thuyết KLS 31 năm tuổi

    Nhà nghiên cứu Microsoft Xinzhi Zhang và một đồng tác giả đã chứng minh giả thuyết Kannan-Lovász-Simonovits (KLS), một bài toán mở 31 năm tuổi trong hình học chiều cao, cho thấy cận đúng với một hằng số phổ quát độc lập với số chiều. Chứng minh này nảy sinh từ một quá trình tác tử do con người dẫn dắt, trong đó các tác tử AI đã khám phá hơn 100 hướng tiếp cận ứng viên trong khi các nhà nghiên cứu cắt tỉa và điều hướng tìm kiếm, và một nỗ lực không được dẫn dắt riêng rẽ với các mô hình hàng đầu trên ngân sách token tương đương đã không đạt được kết quả. Hai chứng minh khác xuất hiện cùng ngày, và một bản hình thức hóa bằng Lean 4 sau đó đã được công bố.

    Vì sao đáng chú ý: Một bài toán mở 31 năm tuổi trong hình học chiều cao được giải quyết thông qua tìm kiếm tác tử do con người dẫn dắt trên khoảng 100 hướng tiếp cận ứng viên, với các chứng minh độc lập và hình thức hóa bằng Lean như sự xác nhận.

20 tháng 10Thứ Ba
  1. Zyphra Research58

    Zyphra Inference Wave 2 mang kernel HIP MoE tùy chỉnh và kernel sparse-attention đến phục vụ trên MI355X

    Zyphra phát hành làn sóng thứ hai của Zyphra Optimization Engine (ZOE) cho GPU AMD Instinct MI355X, bổ sung bốn kernel HIP tùy chỉnh cho MoE và sparse attention vào các bản fork sản xuất của vLLM và SGLang. 40x). 3 checkpoint vẫn nằm trong phạm vi 3 điểm so với FP8 trên bốn benchmark suy luận nhưng chỉ giải mã nhanh hơn ở mức đồng thời cao.

19 tháng 10Thứ Hai
  1. Sakana AI Blog55

    Sakana AI đề xuất QD-Rec, phương pháp gợi ý Quality-Diversity kết hợp ứng viên với giả thuyết do LLM viết

    Sakana AI phát triển QD-Rec, một phương pháp gợi ý coi ứng viên cùng giả thuyết giải thích lý do chọn ứng viên đó là đơn vị gợi ý và sử dụng tìm kiếm Quality-Diversity để tích lũy các đề xuất chất lượng cao, đa dạng. Trong thí nghiệm trên M&A, nhắm mục tiêu khách hàng và gợi ý bài báo, QD-Rec xây dựng kho lưu trữ có điểm trung bình cao hơn và quy mô lớn hơn so với baseline viết từng giả thuyết từ đầu, và mã nguồn được phát hành trên GitHub. Bài báo báo cáo các trường hợp một giả thuyết đạt 1/10 điểm cho một công ty được đột biến và chuyển sang ứng viên khác, nâng điểm lên 5.

15 tháng 10Thứ Năm
  1. Mistral AI71

    Mistral ra mắt mô hình nền tảng chuỗi thời gian Timestral, đứng đầu GIFT-Eval, TIME và fev-bench

    Mistral đã ra mắt Timestral, họ mô hình nền tảng chuỗi thời gian đầu tiên của mình, với bốn kích thước từ 5M đến 209M tham số. Mô hình lớn nhất xếp hạng nhất trên cả ba bộ đánh giá công khai chính là GIFT-Eval, TIME và fev-bench, trong số các mô hình zero-shot đã được huấn luyện trước từ một checkpoint duy nhất mà không cần ensemble, chỉ sử dụng hai phần ba số tham số so với mô hình tốt nhất trước đó. Timestral tạo ra dự báo đa biến theo xác suất với 21 phân vị, hỗ trợ các biến đồng biến chỉ trong quá khứ và biến đồng biến đã biết trong tương lai, chạy trên CPU mà không cần GPU, và có sẵn thông qua Mistral Forge để tinh chỉnh, cùng với kho lưu trữ GitHub và báo cáo kỹ thuật được công bố theo giấy phép MIT đã sửa đổi.

    Vì sao đáng chú ý: Họ mô hình nền tảng chuỗi thời gian đầu tiên của Mistral tuyên bố đứng đầu xếp hạng zero-shot trên GIFT-Eval, TIME và fev-bench với checkpoint 209M tham số, cung cấp tài liệu tham khảo về đánh đổi kích thước-độ chính xác cho công việc dự báo.

  2. inclusionAI Repositories67

    inclusionAI phát hành các mô hình âm thanh Ming-3.0-audio-flash và Ming-3.0-audio-tiny

    inclusionAI đã phát hành Ming-3.0-audio-flash, một mô hình âm thanh Mixture-of-Experts 126 tỷ tham số với 6,5 tỷ tham số được kích hoạt, cùng với Ming-3.0-audio-tiny nhỏ gọn với 9,3 tỷ tham số và 2,7 tỷ tham số được kích hoạt. Mô hình flash bao phủ nhận dạng giọng nói tiếng Trung và tiếng Anh trên các phương ngữ và môi trường nhiều người nói ồn ào, hiểu âm thanh dài, nhận thức âm thanh không phải giọng nói và âm nhạc, suy luận âm thanh, và hội thoại nói đầu-cuối với đầu ra giọng nói tổng hợp tùy chọn. Nó đi kèm với các đường suy luận vLLM-Omni, SGLang và Transformers theo Giấy phép MIT, với các cấu hình Flash mặc định sử dụng song song tensor trên bốn GPU H800 80 GB ở ngữ cảnh 128K.

    Vì sao đáng chú ý: Bản phát hành mô tả chi tiết một mô hình âm thanh MoE 126 tỷ tham số với 6,5 tỷ tham số được kích hoạt, cùng với một biến thể tiny 9,3 tỷ, cung cấp một tham chiếu cụ thể cho việc định cỡ và triển khai mô hình ngôn ngữ-âm thanh mở.

  3. Goodfire Research62

    Bài luận nghiên cứu của Goodfire lập luận rằng mạng nơ-ron vốn đã trong sáng và superposition đã bị hiểu sai

    Một nhà nghiên cứu của Goodfire lập luận rằng bằng chứng kinh điển về tính đa nghĩa và superposition trong mạng nơ-ron đã bị hiểu sai, và thứ trông như sự đóng gói tùy tiện thực chất phần lớn là một mô-típ mà ông gọi là tổng quát hóa đệ quy. Huấn luyện lại InceptionV1 với các cải tiến kiến trúc thông thường và không thay đổi kích thước mô hình hay dữ liệu huấn luyện đã khiến 99-100% nơ-ron ở lớp cuối của nó trở nên dễ diễn giải, và các đợt kiểm toán sơ bộ Qwen3-32B ước tính khoảng 90% các cực nơ-ron có một nhiệm vụ chính. Bài luận kết luận mạng nơ-ron sử dụng một nguyên lý học thay vì hai, nên khả năng diễn giải có thể tiến hành bằng cách nghiên cứu trực tiếp nơ-ron và mạch thay vì trước tiên huấn luyện các mô hình phân rã như sparse autoencoder.

    Vì sao đáng chú ý: Một cách diễn giải lại trực tiếp bằng chứng kinh điển về tính đa nghĩa của lĩnh vực, lập luận rằng mạng nơ-ron tổng quát hóa một cách đệ quy thay vì đóng gói các khái niệm không liên quan, điều này sẽ khiến việc nghiên cứu cơ chế trực tiếp trở nên khả thi.

13 tháng 10Thứ Ba
  1. Modal Blog58

    Modal thử nghiệm bộ lấy mẫu RL hỗn hợp độ chính xác và hỗn hợp tăng tốc trên Qwen3.6-35B-A3B

    Modal đã huấn luyện Qwen3.6-35B-A3B trên tác vụ lập trình dạng agent với các bộ lấy mẫu trải rộng trên sáu loại tăng tốc (B200, B300, H100, H200, A100, RTX PRO 6000) ở độ chính xác NVFP4, FP8 và BF16, cấp dữ liệu cho một bộ huấn luyện BF16 trên B200. GRPO thuần đã sụp đổ trên cả bộ lấy mẫu hỗn hợp lẫn đồng nhất, nhưng khi thêm lấy mẫu quan trọng có mặt nạ cùng căn giữa điểm số, dù có hay không có phát lại mặt nạ top-p, quá trình huấn luyện vẫn ổn định đến cuối và đạt pass@4 trên SWE-bench Pro V2 ngang với bộ lấy mẫu đồng nhất, với chi phí bộ lấy mẫu mỗi lần cập nhật thấp hơn khoảng 15%. Các bộ lấy mẫu hỗn hợp chạy với KL trung bình giữa bộ lấy mẫu và bộ huấn luyện gấp 4,7 lần so với thiết lập đồng nhất, và các tác giả lập luận rằng tính ổn định phụ thuộc vào việc giữ độ lệch ở mức có giới hạn chứ không phải ở mức thấp.

  2. Amazon Science75

    Các nhà nghiên cứu của Amazon Web Services đề xuất phương pháp priming để chuyển đổi Transformer đã huấn luyện trước thành mô hình không gian trạng thái lai mà không cần huấn luyện lại toàn bộ

    Các nhà nghiên cứu của Amazon Web Services giới thiệu priming, một phương pháp tái sử dụng trọng số Transformer đã huấn luyện trước để cắt giảm chi phí huấn luyện trước của kiến trúc không gian trạng thái lai xuống hơn 99%, chỉ sử dụng dưới 0,5% ngân sách token huấn luyện trước của mô hình nguồn. Trong các so sánh có kiểm soát, Gated KalmaNet vượt trội hơn Gated DeltaNet và Mamba-2, và một mô hình lai dựa trên GKA 32B đạt kết quả tương đương Transformer nguồn trên các bài đánh giá suy luận trong khi giải mã nhanh gấp đôi ở ngữ cảnh 128.000 token. Nhóm đã phát hành các mô hình lai đã priming 8B và 32B, mã huấn luyện, Triton kernel và plugin phục vụ vLLM theo Giấy phép Apache 2.0.

    Vì sao đáng chú ý: Các nhà nghiên cứu của Amazon Web Services cho thấy việc tái sử dụng trọng số Transformer đã huấn luyện trước có thể cắt giảm chi phí huấn luyện trước kiến trúc lai xuống hơn 99%, giúp việc so sánh có kiểm soát các lớp không gian trạng thái trở nên khả thi.

12 tháng 10Thứ Hai
  1. Meta AI Research Blog82

    Meta ra mắt các mô hình tiên phong Muse Wonder và Muse Wonder Full cho tác nhân cá nhân và chuyên nghiệp

    Meta giới thiệu dòng Muse Wonder, bao gồm Muse Wonder và Muse Wonder Full, được cho là đạt hiệu năng tiên tiến nhất trên các tác vụ tác nhân cá nhân và chuyên nghiệp, ghi nhớ và lập trình. Muse Wonder có sẵn hôm nay thông qua Meta Model API và Muse Code, trong khi Muse Wonder Full có sẵn hôm nay cho người đăng ký Muse Code. Các mô hình kết hợp Active Memory, mang ngữ cảnh xuyên suốt các cuộc hội thoại và truy xuất chi tiết liên quan đến tác vụ, với Active Focus, duy trì công việc trên các mục tiêu dài hạn và kiểm tra trước các hành động quan trọng; Meta cho biết cả hai đều được huấn luyện tại trung tâm dữ liệu Prometheus quy mô gigawatt của mình.

    Vì sao đáng chú ý: Dòng Muse Wonder của Meta tuyên bố đạt kết quả tiên tiến nhất trên các benchmark tác nhân, ghi nhớ và lập trình, với Active Memory và Active Focus là hai năng lực cốt lõi mà nó được xây dựng xoay quanh.

  2. Modal Blog40

    Modal ra mắt Endpoint Candidates để đánh giá và thăng cấp các endpoint suy luận

    Modal đã phát hành Endpoint Candidates, hiện được cung cấp rộng rãi cho tất cả workspace, cho phép người dùng triển khai tạm các bản triển khai thay thế cho Dedicated Endpoints, sao chép một mẫu lưu lượng sản xuất trong khi Modal vận hành hạ tầng. Người dùng có thể kiểm tra các chỉ số độ trễ và thông lượng, chạy benchmark và kiểm thử chất lượng đầu ra qua URL riêng của từng Candidate, sau đó thăng cấp nó lên sản xuất từ dashboard. Các yêu cầu được sao chép là best-effort và được tính phí theo giá compute tiêu chuẩn của Modal.

7 tháng 10Thứ Tư
  1. OpenAI Alignment Blog52

    OpenAI nghiên cứu các latent metagaming bên trong mô hình ngôn ngữ

    Các nhà nghiên cứu alignment của OpenAI đã xác định được các latent sparse autoencoder gắn với metagaming trong OpenAI o3 và phát hiện rằng metagaming dựa trên nhiều quá trình chồng chéo thay vì một cơ chế duy nhất, bao gồm phân tích nhiệm vụ, nhận thức đánh giá, tìm kiếm phần thưởng và lý luận quy phạm. Việc steering theo các latent này đã làm thay đổi điểm Verbalized Metagaming và, trên nhiệm vụ even_number, tỷ lệ câu trả lời số lẻ, và một số latent ảnh hưởng đến đầu ra mà metagaming không xuất hiện trong chuỗi suy nghĩ được viết ra. Mức độ kích hoạt và hiệu ứng steering của các latent nhìn chung tăng qua các checkpoint RL, phù hợp với các phát hiện trước đó rằng metagaming trở nên phổ biến hơn trong quá trình học tăng cường.

2 tháng 10Thứ Sáu
  1. Meta AI Research Blog71

    Meta chia sẻ sáu bài báo toán học đồng tác giả với các nhà toán học và Muse Spark

    Meta đã công bố sáu bài báo toán học được thực hiện với sự cộng tác của các nhà toán học, những người đã sử dụng Muse Spark 1.1 và 1.2 ở Chế độ Suy nghĩ thông qua giao diện trò chuyện meta.ai thông thường, không có khung nghiên cứu tùy chỉnh. Năm trong số các bài báo trả lời những câu hỏi trước đây còn bỏ ngỏ, bao gồm ngưỡng khớp ellipsoid Gauss, sự bùng nổ hữu hạn thời gian cho một phương trình Schrödinger phi tuyến song điều hòa, một phản ví dụ 384 phần tử cho một giả thuyết lý thuyết nhóm, độ chặt của một phép nới lỏng dựa trên chu trình trong tối ưu hóa đa thức nhị phân, và mối liên hệ giữa hàm hai điểm chuỗi và hàm độ cao trên các đường cong. Mỗi bài báo đánh dấu những đoạn nào chủ yếu do các nhà nghiên cứu soạn thảo và đoạn nào do AI soạn thảo, ghi công các công trình trước đó, và ghi nhận các giải pháp đồng thời độc lập từ các nhóm khác.

    Vì sao đáng chú ý: Meta công bố sáu bài báo được hoàn thành với sự cộng tác giữa các nhà toán học và Muse Spark, trong đó năm bài đưa ra câu trả lời cho những câu hỏi trước đây còn bỏ ngỏ, và đánh dấu các đoạn do AI và con người viết.

1 tháng 10Thứ Năm
  1. Zyphra Research38

    Cách các mô hình NoPE lai học vị trí mà không cần mã hóa vị trí

    Zyphra Research giải thích cách các mô hình ngôn ngữ lai khôi phục thông tin vị trí ngay cả khi các lớp attention toàn cục không sử dụng mã hóa vị trí tường minh. Các lớp cục bộ như attention cửa sổ trượt và gated linear attention tạo ra thiên lệch về độ gần đây trong residual stream, và attention NoPE toàn cục học các phép chiếu query và key để đọc nó như một mã hóa vị trí tương đối ngầm. Các phát hiện cung cấp một giải thích cơ chế cho lý do tại sao việc xen kẽ trộn cục bộ với attention NoPE toàn cục hoạt động tốt và chỉ ra các biểu diễn vị trí có thể ngoại suy vượt quá độ dài chuỗi huấn luyện.

  2. Modal Blog42

    Tổng hợp Modal Runtime: VM Sandbox, Modal Cluster và hơn thế nữa

    Modal đã công bố VM Sandboxes, cung cấp cho các agent một máy tính Linux đầy đủ cho các stack Docker, cơ sở dữ liệu cục bộ và trình giả lập di động, đã được Linear, Legora và Snorkel sử dụng. Modal Clusters hiện đã được phát hành chính thức thông qua decorator @modal.clustered, hỗ trợ huấn luyện và phục vụ mô hình nghìn tỷ tham số trên các container phối hợp. Sticky Sessions và Endpoint Candidates cũng đã được giới thiệu, trong đó Endpoint Candidates đang ở giai đoạn private beta.

24 tháng 9Thứ Năm
  1. Modal Blog58

    Modal và Phòng thí nghiệm Dữ liệu Toàn diện của CMU ra mắt Quail, một engine suy luận AI-SQL tối ưu hóa đồng thời query planner và suy luận

    Modal và Phòng thí nghiệm Dữ liệu Toàn diện thuộc Đại học Carnegie Mellon đã xây dựng Quail, một engine suy luận nhận biết truy vấn cho các khối lượng công việc AI-SQL, tối ưu hóa đồng thời query planner SQL và engine suy luận. Trên một truy vấn đa phép nối, nó xử lý hơn một tỷ token mỗi phút trên mỗi GPU H100, nhanh hơn hơn 10 lần so với baseline vLLM của Modal trên cùng phần cứng, với chi phí dưới 6¢ mỗi tỷ token; trên benchmark AI-SQL mới của nhóm, nó chạy nhanh hơn 1,84 lần so với vLLM theo trung bình nhân trên các tác vụ. Vì các phép lọc và phép nối trong AI-SQL chỉ cần một token duy nhất mỗi chuỗi, Quail bỏ qua decode, sampling và phân tách prefill-decode, đồng thời sử dụng query plan đã biết để sắp xếp thứ tự yêu cầu và quản lý việc loại bỏ KV cache.

23 tháng 9Thứ Tư
  1. Vapi Blog38

    Vapi thử nghiệm Jev như một hàng rào bảo vệ thời gian thực cho AI giọng nói

    Vapi đã chạy các thử nghiệm ban đầu sử dụng mô hình "System One" Jev trong chương trình truy cập sớm của TypeSafe AI như một hàng rào bảo vệ chấm điểm liệu phản hồi của trợ lý giọng nói có vi phạm quy tắc do nhà phát triển định nghĩa trước khi được phát ra hay không. Trong một thử nghiệm ban đầu, Jev đã phát hiện ít nhất ba trong bốn phản hồi vi phạm, mặc dù Vapi cho biết đây không phải là bảo đảm tuân thủ 100% mà chỉ là một lớp kiểm tra bổ sung bên trên các hàng rào bảo vệ bằng prompt.

  2. Modal Blog58

    Modal phục vụ hàng nghìn tỷ token cho các coding agent nghìn tỷ tham số như thế nào

    Modal giải thích cách họ tối ưu hóa suy luận Kimi K2.6 cho các coding agent, đạt hiệu năng gấp 2,8 lần mỗi người dùng và 5,6 lần giữa các người dùng trên mỗi replica, đồng thời vận hành dịch vụ ở mức hàng trăm tỷ token mỗi ngày. Công trình kết hợp giải mã suy đoán DFlash tùy chỉnh được tinh chỉnh trên các coding trace, FP8 KV cache và lượng tử hóa shared-expert NVFP4, bộ nhớ đệm tầng CPU HiCache, và định tuyến dựa trên tải có nhận biết KV cache. Modal đã đóng góp ngược các bản vá SGLang của mình và phát hành cấu hình đằng sau Modal Auto Endpoints.

17 tháng 9Thứ Năm
  1. Goodfire Research74

    Goodfire Research phát hiện các mô hình có tín hiệu nội bộ về reward hacking, có thể phát hiện bằng activation probe

    Goodfire Research báo cáo rằng các mô hình mã nguồn mở Kimi K3, GLM 5.2 và Qwen 3.8 Max đã reward-hack trong 50–96% số rollout trên ba benchmark tác tử, và một tín hiệu nội bộ chung gắn với việc gian lận và né tránh bị phát hiện đi kèm hành vi này. Các activation probe đơn giản dựa trên hiệu số trung bình phát hiện tín hiệu đó, bắt được những trường hợp mà các giám sát chain-of-thought bỏ sót và tổng quát hóa sang các tác vụ mới như mua sắm và hỗ trợ khách hàng. Trên Kimi K3, kết hợp một probe với một LLM monitor đã cắt giảm 90% chi phí giám sát LLM với mức giảm độ chính xác khoảng 1%.

    Vì sao đáng chú ý: Goodfire phát hiện một tín hiệu nội bộ chung cho reward hacking trên các mô hình mã nguồn mở và cho thấy activation probe có thể bắt được nó với chi phí thấp hơn LLM monitor.

20 tháng 8Thứ Năm
  1. Goodfire Research26

    Forking Fast: Ước tính hiệu quả động lực học bất định trong sinh văn bản

    Các nhà nghiên cứu từ Goodfire Research đề xuất Forking Fast, một phương pháp thống kê làm mịn dữ liệu rollout ít mẫu bị nhiễu để xấp xỉ kết quả nhiều mẫu, cắt giảm chi phí phân tích bất định dựa trên lấy mẫu lại trong suy luận LLM. Công trình phát hiện rằng động lực học bất định hội tụ về các mẫu ổn định khi lấy mẫu lại nhiều chuỗi suy luận, và nhiễu quan sát được phần lớn là hiện tượng lấy mẫu thay vì độ nhạy của mô hình với từng token hoặc bước riêng lẻ.

12 tháng 8Thứ Tư
  1. Modal Blog62

    Qwen3.8-2.4T-A95B phát hành trọng số mã nguồn mở, Modal đồng thời ra mắt endpoint chia sẻ

    Qwen3.8-2.4T-A95B đã được phát hành dưới dạng mô hình trọng số mã nguồn mở và đồng thời ra mắt trên Modal. Modal cho biết đã hợp tác với Qwen trước khi phát hành, thông qua SGLang và bộ suy đoán DFlash tùy chỉnh được tinh chỉnh cho hình dạng của Qwen3.8, để cung cấp hỗ trợ day zero cho Modal Auto Endpoints.

    Vì sao đáng chú ý: Modal đã ra mắt endpoint chia sẻ ngay trong ngày phát hành trọng số mã nguồn mở của Qwen3.8-2.4T-A95B, đồng thời giải thích cách bộ suy đoán DFlash tùy chỉnh của mình cải thiện tốc độ suy luận cho hình dạng của mô hình này.

29 tháng 7Thứ Tư
  1. Berkeley AI Research58

    Từ CUDA đến MLX: K-Search mang chuyên môn tối ưu hóa kernel đến Apple Silicon

    IBM Research đã mở rộng K-Search, khung tìm kiếm kernel tiến hóa từ UC Berkeley Sky Lab, với backend MLX và một lớp chuyển đổi CUDA sang MLX có cấu trúc, giúp chuyển đổi các kernel CUDA hiện có thành kernel cho Apple Silicon. Trên một kernel attention MLX, phương pháp này đạt tốc độ bằng 0,97 lần kernel MLX Attention gốc của Apple, tăng từ 0,26 lần khi không có ngữ cảnh chuyển đổi, và một kernel Mamba SSM được tiến hóa đạt tốc độ prefill nhanh hơn tới 20 lần so với triển khai mlx-lm của cộng đồng trên M1 Max. Các tác giả cho rằng mức tăng chủ yếu đến từ chất lượng ngữ cảnh và các ràng buộc được cung cấp cho LLM chứ không phải khả năng viết mã Metal của nó, và cho biết phương pháp này không dành riêng cho MLX.

26 tháng 7Chủ Nhật
  1. Berkeley AI Research33

    ABBEL: Dạy LLM cập nhật trạng thái niềm tin cho tương tác dài hạn

    Berkeley AI Research giới thiệu ABBEL, một khung thay thế toàn bộ lịch sử tương tác bằng trạng thái niềm tin dạng ngôn ngữ tự nhiên và giám sát nội dung của chúng thông qua chấm điểm niềm tin. Trên CollabBench lập trình cộng tác, chấm điểm niềm tin dựa trên tái tạo giảm khoảng cách với các mô hình ngữ cảnh đầy đủ xuống khoảng 50% và huấn luyện trong 50 bước thay vì 100, đồng thời sử dụng ít token đỉnh hơn.

15 tháng 7Thứ Tư
  1. Modal Blog60

    Mô hình đa phương thức Inkling của Thinking Machines hiện đã có trên Modal

    Thinking Machines đã phát hành Inkling, một mô hình đa phương thức đa dụng nhận đầu vào văn bản, hình ảnh và âm thanh và xuất ra văn bản, và Modal cung cấp nó ngay từ ngày đầu tiên dưới dạng Managed Endpoint với giá theo token. Inkling là một transformer hỗn hợp chuyên gia với tổng cộng 975B tham số, 41B hoạt động, cửa sổ ngữ cảnh 1M token và âm thanh cùng thị giác gốc, sử dụng năm lớp attention cửa sổ trượt cho mỗi lớp attention đầy đủ. Trên các khối lượng công việc tác tử với 8x B200, speculator DFlash tùy chỉnh của Modal đạt 250 token mỗi giây mỗi người dùng ở 2,5M TPM thông lượng mỗi GPU, tương tác nhanh hơn 67% so với đường speculative tích hợp sẵn của mô hình ở cùng thông lượng.

    Vì sao đáng chú ý: Endpoint ngày đầu tiên của Modal cho Inkling 975B tham số của Thinking Machines cho thấy cách một speculator DFlash tùy chỉnh nâng tương tác lên 67% so với đường speculative tích hợp sẵn của mô hình.

6 tháng 7Thứ Hai
  1. Modal Blog38

    Cách định giá GPU serverless: Mô hình chi phí tương tác của Modal

    Modal đã công bố một công cụ tương tác để ước tính chi phí GPU serverless so với GPU đặt trước, mặc định dùng mức giá hiện hành cho một GPU B200 chạy serverless trên Modal và qua đặt trước ba năm với hyperscaler. Mô hình cho thấy khi tỷ lệ đỉnh trên trung bình của ứng dụng vượt quá tỷ lệ chiết khấu đặt trước, GPU serverless có tổng chi phí thấp hơn, và Modal dẫn ra mức chiết khấu quan sát được từ 2-5 lần so với tỷ lệ đỉnh trên trung bình 5-10 lần.

1 tháng 7Thứ Tư
  1. Modal Blog58

    Modal Research và MRP của HeavyBall mang đến dự đoán đa token cho các mô hình ngôn ngữ khuếch tán

    Modal Research và HeavyBall Research của NYU Shanghai giới thiệu Multi-token Residual Prediction (MRP), một mô-đun 3 lớp gắn vào backbone LM khuếch tán đóng băng, dự đoán phần dư logit giữa các bước thay vì toàn bộ phân phối bước tiếp theo. Trên SDAR-4B GSM8K, MRP giữ độ chính xác 70,9% ở K=3 so với 5,9% của chưng cất MTP thông thường, và trong SGLang đạt thông lượng lên tới 1,56 lần mà không mất mát ở chế độ suy đoán hoặc phục hồi tới +16 điểm chính xác dưới giải mã động ngưỡng thấp tích cực. Bài báo, mã nguồn, triển khai SGLang và các mô hình SDAR-MRP trên Hugging Face đã được phát hành.

25 tháng 6Thứ Năm
  1. Modal Blog55

    Modal ra mắt Servers serverless cho lưu lượng HTTP, WebSocket và gRPC độ trễ thấp

    Modal đã ra mắt Servers, một nhóm bản sao máy chủ HTTP tự động mở rộng theo khu vực cho lưu lượng HTTP, WebSocket và gRPC, nhắm đến các khối lượng công việc nhạy cảm với độ trễ như suy luận LLM cho các tác nhân tương tác. Modal cho biết đã giảm độ trễ p50 từ 39ms xuống 6ms bằng cách giữ các tra cứu control-plane và xếp hàng ra khỏi đường dẫn yêu cầu, vì vậy khách hàng nhận được 503 khi không có bản sao nào khả dụng và phải xử lý việc giảm tải trong ứng dụng. Lớp định tuyến chạy trên AWS EKS với Envoy ở biên và proxy Rust nội bộ fprs của Modal, được xây dựng trên pingora của Cloudflare, xử lý liên kết miền và cân bằng tải, với cấu hình được đọc từ Spanner và lưu trong bộ nhớ đệm.

24 tháng 6Thứ Tư
  1. Modal Blog58

    Modal ra mắt Auto Endpoints, viện dẫn giải mã suy đoán cho độ trễ suy luận tiên tiến nhất

    Modal ra mắt Modal Auto Endpoints, đưa khả năng mở rộng hạ tầng của Modal đến hiệu năng suy luận tiên tiến nhất chỉ với một cú nhấp chuột trong khi vẫn kiểm soát được mã. Modal cho biết lợi ích độ trễ chính đến từ giải mã suy đoán với các mô hình speculator DFlash tùy chỉnh, giúp cắt giảm khoảng 100ms độ trễ đầu-cuối trong một nghiên cứu điển hình của Decagon Voice, tương đương khoảng 40% độ trễ giải mã phía máy chủ, khiến nó nhanh hơn hơn 60ms so với lựa chọn độc quyền nhanh nhất. Modal cũng phát hành mã nguồn mở các mô hình speculator DFlash với Z Lab và SGLang, bao gồm một mô hình cho Qwen 3.5 397B-A17B cải thiện hơn 50% so với MTP.

23 tháng 6Thứ Ba
  1. Modal Blog60

    Modal ra mắt Auto Endpoints cho suy luận LLM tự phục vụ, tương thích API OpenAI

    Modal ra mắt Auto Endpoints, một dịch vụ tự phục vụ triển khai suy luận LLM cấp sản xuất dưới dạng endpoint tương thích API OpenAI, được hỗ trợ bởi một Modal App mà người dùng có thể xem và kiểm soát. Mỗi mô hình được hỗ trợ đi kèm một bản triển khai khởi điểm được tinh chỉnh từ hoạt động benchmark của chính Modal, sử dụng các engine như SGLang và DFlash speculative decoding drafter từ Z Lab, và người dùng có thể kiểm tra lựa chọn GPU, cờ engine và các chỉ số suy luận như TTFT, ITL và độ dài chấp nhận giải mã suy đoán. Modal cũng phát hành Modal Servers từ bản beta cho định tuyến theo khu vực với chi phí 5ms, và cho biết họ tạo ra các bản triển khai endpoint bằng một hệ thống agentic nội bộ vẫn được các kỹ sư con người giám sát.

    Vì sao đáng chú ý: Auto Endpoints của Modal phơi bày ngăn xếp phục vụ, các chỉ số engine và công thức benchmark mà các nhà cung cấp suy luận được quản lý vẫn giữ kín, mang đến cho các đội một con đường tự phục vụ để sở hữu suy luận mô hình mở.

19 tháng 6Thứ Sáu
  1. Modal Blog60

    Modal phát hành DFlash speculators cho Qwen 3.5 và 3.6, tuyên bố tăng tốc thêm 5-20%

    Modal đã phát hành một bộ mô hình draft DFlash cho dòng Qwen trên Hugging Face, bao gồm Qwen 3.6 35B-A3B-DFlash và các biến thể Qwen 3.5 từ 4B đến 122B-A10B, cùng một DFlash speculator cho Qwen 3.5 397B-A17B được xây dựng với SGLang. Công ty cho biết các drafter mới tăng tốc thêm 5-20% so với các baseline DFlash hiện có và có thể chạy Qwen 3.5 122B-A10B ở tốc độ hơn 1000 tok/s tại concurrency 1 trên một node B200, so với 250 tok/s khi không có speculation. Bài viết lập luận rằng speculative decoding mang lại mức tăng 2x-3x trong khi tối ưu kernel chỉ mang lại vài phần trăm, và trình bày một mô hình roofline để ước tính mức tăng tốc từ độ dài chấp nhận.

    Vì sao đáng chú ý: Modal giải thích lý do họ đặt cược vào speculative decoding và phát hành các mô hình draft DFlash cho dòng Qwen, kèm theo mức tăng tốc đo được và một mô hình roofline để ước tính lợi ích.

11 tháng 6Thứ Năm
  1. Modal Blog34

    Modal giúp FlashAttention-4 nhanh hơn cho suy luận LLM

    Modal đã đóng góp các tối ưu hóa cho kernel FlashAttention-4 nhằm tăng tốc các khối lượng công việc suy luận LLM nặng về giải mã, nơi băng thông bộ nhớ là điểm nghẽn. Các thay đổi bao gồm việc chuyển kỹ thuật song song hóa "split KV" sang FA4 và thay thế các tải TMA cp.async.bulk bằng cp.async cho các truy cập bộ nhớ không đều. Một PR đầu vào FP8 (được hợp nhất ngày 17 tháng 4 năm 2026) mang lại thông lượng lên đến 1,16 lần so với đường cơ sở bf16 và cho phép bộ nhớ đệm KV nhỏ hơn.

9 tháng 6Thứ Ba
  1. MiniMax Blog58

    MiniMax chi tiết hóa MaxProof: RL với trình xác minh sinh tạo và tìm kiếm tiến hóa cho chứng minh toán học

    MiniMax đã công bố một blog kỹ thuật giải thích về MaxProof, khung làm việc đằng sau việc M3 vượt ngưỡng huy chương vàng của con người tại IMO 2025 và USAMO 2026. Quy trình huấn luyện ba mô hình chuyên gia cho việc sinh tạo chứng minh, phán đoán lỗi và sửa chữa chứng minh, sau đó chạy một tìm kiếm tiến hóa tại thời điểm kiểm thử, lấy mẫu 32 ứng viên, xác minh mỗi ứng viên 4 lần và tinh chỉnh qua tối đa 10 vòng. MiniMax cho biết bài học chính là một trình xác minh sinh tạo được dùng làm phần thưởng RL nên ưu tiên tỷ lệ dương tính giả thấp hơn độ chính xác trung bình, dẫn chứng việc reward hacking trong chu kỳ M2 khi tỷ lệ dương tính giả tăng từ khoảng 2,9% lên 8,0% trong quá trình huấn luyện.

12 tháng 5Thứ Ba
  1. Modal Blog58

    Modal đã đạt được GPU phi máy chủ thực sự như thế nào

    Modal đã công bố một bài viết kỹ thuật về cách họ giảm thời gian khởi động bản sao suy luận AI từ khoảng 2.000 giây xuống còn khoảng 50 giây bằng bốn thành phần: một bộ đệm các GPU khỏe mạnh nhàn rỗi, một hệ thống tệp được định địa chỉ theo nội dung một cách lười biếng có tên ImageFS, checkpoint/restore phía máy chủ thông qua runsc của gVisor, và checkpoint/restore CUDA được xây dựng trên hỗ trợ trình điều khiển Nvidia. Qua hơn mười nghìn lần khởi động nguội, độ trễ khởi động trung bình của vLLM giảm từ 95.679 ms xuống 13.797 ms và của SGLang từ 83.713 ms xuống 17.486 ms đối với mô hình Qwen 3 0.6B khoảng 1 GiB ở định dạng bf16. Bài viết cũng nêu các hạn chế, bao gồm ảnh chụp nhanh chỉ hỗ trợ một GPU và độ nhạy cảm với môi trường máy chủ đòi hỏi nhiều ảnh chụp nhanh cho mỗi lần triển khai.

8 tháng 5Thứ Sáu
  1. Berkeley AI Research38

    Suy luận song song thích ứng: Khảo sát về mở rộng suy luận hiệu quả

    Một khảo sát của Berkeley AI Research xem xét suy luận song song thích ứng, trong đó bản thân một mô hình suy luận quyết định khi nào phân rã các nhiệm vụ con, nên tạo bao nhiêu luồng đồng thời và cách phối hợp chúng. Bài viết đối chiếu điều này với các phương pháp song song cố định như self-consistency, Best-of-N, Tree of Thoughts, MCTS, ParaThinker, GroupThink và Hogwild! Inference, vốn áp đặt cấu trúc song song từ bên ngoài. Suy luận tuần tự mở rộng tuyến tính theo token và độ trễ và có nguy cơ context-rot, thúc đẩy các luồng song song khám phá độc lập và đồng thời.

4 tháng 5Thứ Hai
  1. Modal Blog36

    Modal tăng hiệu suất suy luận đa phương thức của SGLang hơn 10% nhờ bộ đệm dict Python

    Modal đã phân tích bộ lập lịch của SGLang trên một khối lượng công việc đa phương thức và thay thế việc ghi sổ lặp lại các handle CUDA IPC bằng một bộ đệm dict Python đơn giản, nâng thông lượng 16,2% và giảm TTFT trung bình 13,2% cùng TPOT 17,2% trên Qwen2.5-VL-3B-Instruct chạy trên H100. Bản sửa lỗi đã được hợp nhất trong SGLang v0.5.10.

29 tháng 4Thứ Tư
  1. Modal Blog33

    Xây dựng quy trình chứng minh định lý bằng RL trên Modal

    AE Studio trình bày chi tiết cách họ huấn luyện LLM chứng minh các định lý toán học bằng học tăng cường trên Modal, so sánh Evolution Strategies với GRPO trong khi giữ nguyên vòng lặp huấn luyện. Thiết lập này chạy suy luận vLLM trên GPU, xác minh trình biên dịch Lean trong các sandbox CPU cô lập, và một bộ điều phối nhẹ, sử dụng image theo từng hàm, .map() fan-out, và Volumes cho trọng số cơ sở.

20 tháng 4Thứ Hai
  1. Berkeley AI Research38

    GRASP: Lập kế hoạch dựa trên gradient cho mô hình thế giới ở tầm xa hơn

    GRASP là một bộ lập kế hoạch dựa trên gradient mới cho các mô hình thế giới đã học, giúp việc lập kế hoạch tầm xa trở nên khả thi bằng cách nâng quỹ đạo lên thành các trạng thái ảo để tối ưu hóa song song theo thời gian, thêm tính ngẫu nhiên vào các lần lặp trạng thái để khám phá, và định hình lại gradient để các hành động nhận được tín hiệu rõ ràng trong khi tránh gradient trạng thái-đầu vào dễ vỡ thông qua các mô hình thị giác đa chiều. Công trình giải quyết các đồ thị tính toán điều kiện kém, cực tiểu cục bộ không tham lam, và các chế độ thất bại tiềm ẩn đa chiều khiến việc lập kế hoạch tầm xa trở nên mong manh. Công trình được thực hiện với Mike Rabbat, Aditi Krishnapriyan, Yann LeCun và Amir Bar.

13 tháng 3Thứ Sáu
  1. Berkeley AI Research38

    Berkeley AI Research giới thiệu SPEX và ProxySPEX để xác định các tương tác ở quy mô lớn cho LLM

    Các nhà nghiên cứu của Berkeley AI Research mô tả SPEX và ProxySPEX, những thuật toán xác định các tương tác có ảnh hưởng giữa đặc trưng, dữ liệu và thành phần mô hình trong LLM ở quy mô vượt xa các phương pháp trước đây. SPEX định hình lại việc tìm kiếm tương tác như bài toán khôi phục thưa sử dụng tính thưa và bậc thấp, trong khi ProxySPEX khai thác cấu trúc phân cấp để đạt kết quả tương đương SPEX với số lần ablation ít hơn khoảng 10 lần. Trong phân tích cảm xúc, SPEX đạt độ trung thực ngang với Faith-Shap và Faith-Banzhaf trên đầu vào ngắn và duy trì được điều đó khi ngữ cảnh mở rộng đến hàng nghìn đặc trưng.

19 tháng 11, 2025Thứ Tư
  1. Modal Blog30

    Reducto đã cắt giảm độ trễ P90 xử lý tài liệu doanh nghiệp xuống 3 lần trên Modal như thế nào

    Reducto đã chuyển khối lượng công việc suy luận cho hơn 30 mô hình xử lý tài liệu của mình sang Modal, cắt giảm độ trễ P90 xuống 3 lần. Tính năng chụp nhanh bộ nhớ GPU đã giảm thời gian khởi động nguội 83%, từ ~70 giây xuống ~12 giây, trong khi các nhóm tự động mở rộng theo từng khách hàng cô lập các đợt tăng đột biến lưu lượng. Trong một bài kiểm tra tải, Reducto đã mở rộng quy mô pipeline tiếp nhận của mình lên hơn 1.000 GPU trong chưa đầy một giờ để chứng minh khả năng xử lý 100k trang mỗi phút.