Tới nội dung
Chỉ Nghiên cứu#Dữ liệu / huấn luyện
13 tháng 11Thứ Sáu
  1. Hacker News · AI58

    Nghiên cứu phát hiện các ghim phiên bản lỗi thời kiểu AI trong 13,7% gói npm mới trong nửa đầu 2026

    Kobi Mozgori đã lấy mẫu 250.000 gói npm và phát hiện rằng các gói mới có phiên bản phụ thuộc được ghim chủ yếu là các số tròn x.0.0 đã bị thay thế đã tăng từ mức cơ sở 1–2,4% năm 2019 đến đầu 2024 lên 13,7% trong nửa đầu 2026, giảm xuống 7,6% trong nửa cuối 2026 tính đến đầu tháng 11. Phụ thuộc được ghim trung vị khoảng 155 ngày tuổi khi sinh ra trong giai đoạn 2021–2023 nhưng là 451 ngày trong quý 2 năm 2026, và tỷ lệ các gói sinh ra với về cơ bản tất cả các ghim đều ở bản phát hành mới nhất đã giảm từ khoảng 28% xuống khoảng 10%. Tác giả diễn giải mô hình này như một suy luận chứ không phải bằng chứng, vì siêu dữ liệu của registry không thể cho thấy ai hoặc cái gì đã viết một manifest, và lưu ý rằng sự sụt giảm từ giữa năm 2026 vẫn chưa được giải thích.

  2. Hacker News · AI85

    Phân tích pháp y liên kết sáu mô hình tiên phong của Trung Quốc với GPU NVIDIA Blackwell bị kiểm soát xuất khẩu

    Phân tích pháp y của Unemployment Labs trên các trọng số mô hình đã công bố phát hiện rằng sáu mô hình từ DeepSeek, Moonshot AI, MiniMax và Ant Group được khởi tạo trên phần cứng NVIDIA Blackwell, trong khi các mô hình trước đó từ cùng các phòng thí nghiệm khớp với Hopper. Phương pháp này khôi phục hạt giống ngẫu nhiên và bố cục luồng của từng mô hình từ các trọng số được lưu giữ, và tác giả cho biết các kết quả khớp đã được tái tạo trên chip H100, B300 và GB200 vật lý. Báo cáo ước tính mỗi lần chạy huấn luyện cần khoảng 500 đến 3.000 GPU Blackwell trong hai đến ba tháng, và lưu ý rằng bằng chứng không xác định được vị trí của các chip hoặc liệu các biện pháp kiểm soát xuất khẩu có bị vi phạm hay không.

    Vì sao đáng chú ý: Báo cáo chỉ rút ra bằng chứng phần cứng từ các trọng số mô hình đã công bố, cung cấp một phương pháp có thể tái tạo để truy vết GPU nào đã khởi tạo một mô hình mà không dựa vào rò rỉ.

12 tháng 11Thứ Năm
  1. MIT News34

    Các nhà nghiên cứu MIT phát triển kỹ thuật huấn luyện giúp mô phỏng khí hậu nhanh hơn và đáng tin cậy hơn

    Các nhà nghiên cứu MIT đã phát triển một kỹ thuật huấn luyện giúp tăng hiệu suất và khả năng thích ứng của các mô phỏng khí hậu AI trong khi chỉ sử dụng một phần nhỏ dữ liệu thường được yêu cầu. Phương pháp này tạo ra các kịch bản huấn luyện tổng hợp được tối ưu hóa với các biến động phát thải nhanh, cho phép một mô phỏng được huấn luyện với ít dữ liệu hơn nhiều dự đoán chính xác các kịch bản chưa từng thấy mà các mô phỏng truyền thống đã thất bại. Công trình được công bố trên Proceedings of the National Academy of Sciences.

  2. Google Research58

    Google Research sử dụng thiết bị đeo để xây dựng hồ sơ rủi ro CKM và huấn luyện cá nhân hóa

    Google Research đã giới thiệu một khung nghiên cứu chuyển dữ liệu từ thiết bị đeo tiêu dùng thành tuổi sức khỏe có thể huấn luyện và mô phỏng các quỹ đạo sức khỏe giả định cá nhân hóa trong 12 tuần. Mô hình thế giới SensorWM được tiền huấn luyện trên 2,28 triệu tuần-người dữ liệu Fitbit đã khử nhận dạng từ khoảng 100.000 người dùng và dự báo 20 chỉ dấu sinh lý dưới các chế độ đi bộ, ngủ và tim mạch khác nhau. Trong một nghiên cứu mù, các huấn luyện viên lối sống chọn kế hoạch dựa trên phản thực tế là tốt nhất tổng thể trong 71,4% đánh giá, và các bác sĩ đánh giá 99,2% kế hoạch nằm trong giới hạn cường độ tập luyện an toàn; các tác giả lưu ý các mô hình là nguyên mẫu nghiên cứu, không phải công cụ chẩn đoán lâm sàng.

11 tháng 11Thứ Tư
  1. inclusionAI Models40

    inclusionAI phát hành mô hình ZoomGain-9B và ZoomGain-4B cùng ZoomGainBench và dữ liệu huấn luyện RL

    inclusionAI đã phát hành các checkpoint mô hình thị giác-ngôn ngữ ZoomGain-9B và ZoomGain-4B, cùng với bộ đánh giá ZoomGainBench và dữ liệu huấn luyện RL ZoomGain. ZoomGain khai thác khoảng cách nhận thức từ toàn cục đến thu phóng để xây dựng giám sát thị giác chi tiết, và ZoomGain-9B đạt hiệu suất vượt trội trên nhiều bộ đánh giá nhận thức chi tiết và tổng quát. ZoomGainBench chứa 1.000 câu hỏi trên 941 hình ảnh, trong khi bộ dữ liệu RL có 9.000 bản ghi huấn luyện và 7.713 hình ảnh nguồn.

  2. inclusionAI Models38

    inclusionAI phát hành ZoomGain-4B và ZoomGain-9B cùng ZoomGainBench và dữ liệu huấn luyện RL

    inclusionAI đã phát hành bài báo arXiv, bộ đánh giá ZoomGainBench, tập dữ liệu huấn luyện RL và các checkpoint mô hình ZoomGain-4B/ZoomGain-9B. Mô hình tốt nhất trong 28 mô hình đạt 61,08 trên ZoomGainBench, trong khi ZoomGain-9B đạt hiệu suất vượt trội trên nhiều benchmark nhận thức tổng quát và chi tiết. ZoomGain khai thác khoảng cách nhận thức từ toàn cục đến thu phóng để xây dựng giám sát thị giác chi tiết cho các mô hình ngôn ngữ-thị giác.

  3. Microsoft Research75

    Các nhà nghiên cứu Microsoft mô tả Lazarus, một backdoor lập trình lại các neuron không hoạt động trong các tác nhân AI

    Các nhà nghiên cứu Microsoft đã mô tả Lazarus, một kỹ thuật backdoor lập trình lại ít hơn 10 neuron không hoạt động trong một LLM để một tác nhân xây dựng trên đó phát ra lệnh của kẻ tấn công khi một kích hoạt ẩn xuất hiện, mà không cần huấn luyện lại. Mô hình đã sửa đổi vẫn vượt qua các đánh giá tiêu chuẩn và hoạt động bình thường cho đến khi kích hoạt, có thể đơn giản như một thay đổi ngày tháng, và sau đó tác nhân chạy mã đã tải xuống với bất kỳ quyền truy cập nào được cấp. Các tác giả cho biết việc phát hiện đòi hỏi phải so sánh với trọng số gốc, và Microsoft Foundry đã liên kết các mô hình trọng số mở với nhà phát hành của chúng và quét các container của chúng, trong khi các bộ công cụ red-teaming, quét trọng số dựa trên tác nhân và các mô hình có chữ ký với nguồn gốc chống giả mạo đang được phát triển.

    Vì sao đáng chú ý: Các nhà nghiên cứu Microsoft cho thấy rằng việc lập trình lại ít hơn 10 neuron không hoạt động có thể tạo backdoor cho một tác nhân LLM mà không cần huấn luyện lại, điều này khiến nguồn gốc và tính toàn vẹn của trọng số trở thành một yêu cầu bảo mật thực tế.

10 tháng 11Thứ Ba
  1. Apple Machine Learning Research34

    Weighted State Souping cho Truy xuất Ngữ cảnh Dài Hiệu quả

    Các nhà nghiên cứu Apple và cộng tác viên Harvard đề xuất weighted state souping, một phương pháp học trọng số phụ thuộc truy vấn để tái tổ hợp các mã hóa trạng thái SSM đã lưu trong bộ nhớ đệm, cải thiện hiệu suất ngữ cảnh dài trên QA tài liệu đơn bước và đa bước, truy xuất needle-in-a-haystack, theo dõi biến và sử dụng công cụ. Một biến thể thưa đạt chi phí mã hóa gần như không đổi theo độ dài ngữ cảnh trong khi vẫn giữ nguyên hoặc đôi khi cải thiện hiệu suất. Bài báo đã được chấp nhận tại hội thảo PALM tại NeurIPS 2026.

  2. Apple Machine Learning Research38

    Nghiên cứu của Apple: Cơ chế gating giải thích tại sao SSM ghi nhớ thay vì học trong ngữ cảnh

    Một nghiên cứu của Apple và Harvard chỉ ra rằng cơ chế gating trong Mô hình Không gian Trạng thái (SSM) khiến chúng trước tiên học một giải pháp "ghi nhớ" trong trọng số, làm chậm trễ hoặc thậm chí ngăn cản việc hội tụ đến học trong ngữ cảnh đúng đắn. Điều này xảy ra ngay cả khi kiến trúc và dung lượng bộ nhớ không đặt ra giới hạn cơ bản nào. Tuy nhiên, gating thường cải thiện khả năng tổng quát hóa cho độ dài chuỗi dài.

  3. Apple Machine Learning Research31

    Nghiên cứu của Apple đánh giá các giám khảo LLM cho việc đánh giá phong cách viết cá nhân hóa

    Các nhà nghiên cứu của Apple đã kiểm tra mức độ mà các giám khảo LLM đánh giá xem văn bản được tạo có phù hợp với phong cách viết ưa thích của người dùng hay không, bằng cách tạo văn bản với bốn LLM trên ba tác vụ viết dài và so sánh chú thích của giám khảo với nhãn so sánh cặp của con người. Chất lượng giám khảo chỉ tương quan yếu với năng lực LLM tổng quát trên MMLU (Pearson's ρ ≤ 0.2) và thay đổi theo tác vụ viết và tiêu chí đánh giá, và so sánh cặp tỏ ra nhất quán hơn so với chấm điểm độc lập. Các LLM mạnh nhất không phải là những mô hình tái tạo đánh giá của con người một cách đáng tin cậy nhất, có thể do độ nhạy cảm quá mức với các chi tiết tinh tế.

  4. Goodfire Research62

    Goodfire nghiên cứu các neuron của Qwen3.6-35B-A3B như một nền tảng có thể diễn giải

    Goodfire Research đã công bố một nghiên cứu lập luận rằng các neuron MLP riêng lẻ trong Qwen3.6-35B-A3B có thể diễn giải được hơn so với giả định, dựa trên các công cụ thưa hóa, quy gán và các tác nhân nghiên cứu. Việc loại bỏ 92,2% kích hoạt neuron MoE yếu nhất mỗi lượt truyền xuôi chỉ làm tăng mất mát của mô hình ngôn ngữ thêm 2,9%, và 69% các cực neuron có một chế độ duy nhất chịu trách nhiệm cho ít nhất 90% hiệu ứng nhân quả của chúng. Các mô tả neuron bằng ngôn ngữ tự nhiên cho phép một mô hình giám khảo dự đoán việc kích hoạt với độ chính xác 95% so với văn bản ngẫu nhiên và phục hồi 73% thiệt hại do loại bỏ thông qua mô phỏng.

    Vì sao đáng chú ý: Nghiên cứu của Goodfire về các neuron của Qwen3.6-35B-A3B lập luận rằng chỉ riêng các kích hoạt mạnh đã mang phần lớn tính toán của mô hình, đưa ra một giải pháp thay thế cụ thể cho cách diễn giải bằng từ điển đặc trưng.

9 tháng 11Thứ Hai
  1. Hugging Face Blog38

    NVIDIA và Elith phát hành bộ dữ liệu tổng hợp Nemotron-Personas-Finance-Japan

    Elith và NVIDIA đã phát hành Nemotron-Personas-Finance-Japan, một bộ dữ liệu persona tổng hợp mở cho lĩnh vực tài chính Nhật Bản được xây dựng trên số liệu thống kê chính thức của chính phủ. Bộ dữ liệu chứa 9M persona (1M bản ghi × 9 persona) trên 50 lĩnh vực và ~1,5B token, được tạo bằng NeMo SDG-PGMs và NeMo Data Designer, và có sẵn theo giấy phép CC BY 4.0 cho mục đích thương mại.

  2. inclusionAI Repositories38

    ZoomGain: Khai thác khoảng cách nhận thức từ toàn cục đến thu phóng cho giám sát thị giác tinh vi

    ZoomGain xây dựng các câu hỏi về một hình ảnh đầy đủ từ những chi tiết thị giác chỉ trở nên rõ ràng khi thu phóng, sử dụng khoảng cách nhận thức từ toàn cục đến thu phóng này làm giám sát cho các mô hình ngôn ngữ-thị giác. Bản phát hành bao gồm bài báo arXiv, bộ đánh giá ZoomGainBench (1.000 câu hỏi trên 941 hình ảnh bao gồm nhận dạng thuộc tính, đếm và OCR), 9.000 bản ghi huấn luyện RL trên 7.713 hình ảnh nguồn, và các checkpoint ZoomGain-4B và ZoomGain-9B. Mô hình tốt nhất trong số 28 mô hình đạt 61,08 trên ZoomGainBench, trong khi ZoomGain-9B đạt hiệu suất vượt trội trên nhiều bộ đánh giá nhận thức tinh vi và tổng quát.

8 tháng 11Chủ Nhật
  1. Artificial Analysis Articles38

    Artificial Analysis Decision Index v2 ra mắt với Decision Score mới và các bài kiểm tra riêng tư

    Artificial Analysis đã phát hành Decision Index v2, với 45% của Index hiện được xây dựng trên các bộ dữ liệu riêng tư, tăng từ 25% ở v1. Drex Max v1.1 của Nace AI dẫn đầu sát sao các mô hình ra quyết định với 73 điểm, trong khoảng 1 điểm so với GLiDE v1.2 và Mammoth 27B. Decision Score mới thưởng cho cả tính chính xác và độ tin cậy được hiệu chỉnh, trong khi AA-Paperclip và AA-Symmetry bổ sung các bài kiểm tra tài liệu riêng tư và tính nhất quán.

6 tháng 11Thứ Sáu
  1. Hugging Face Blog58

    Ai2 phát hành ToyBlocks, một thế giới mô phỏng mở về thao tác khối cho robot học

    Ai2 đã phát hành ToyBlocks, một khung mô phỏng mở được xây dựng xoay quanh một cánh tay robot và các khối trên mặt bàn, là sản phẩm đầu tiên trong FoundationWorlds của họ dành cho việc học và đánh giá robot có kiểm soát. Khung này tự động tạo kỹ năng và bản trình diễn thông qua RL và lập kế hoạch chuyển động trong Isaac Lab, đạt tốc độ lên tới 24 lần thời gian thực trên một GPU, và đi kèm 85.336 bản trình diễn tầm xa bao phủ gần 1.600 giờ và 144 triệu khung hình. Trong các thí nghiệm của mình, tỷ lệ thành công của kỹ năng nguyên tử ManiFlow là 80,0% trong mô phỏng và 81,1% trên Franka FR3 thực tế, trong khi hệ thống Molmo 2 kết hợp ManiFlow thành công trong 55,5% tập mô phỏng và 50,0% tập thực tế.

  2. vLLM Blog77

    REINFORCE Zero: Căn chỉnh kernel cho phép Async RL ổn định ở Policy Lag 64, mở rộng sang DeepSeek-V4.1 và Kimi K3.1

    Bài báo REINFORCE Zero của NVIDIA Research và Inferact cho thấy việc căn chỉnh kernel của rollout và trainer cho phép lấy mẫu quan trọng ở mức token không cắt (unclipped token-level importance sampling) hiệu chỉnh độ trễ trọng số còn lại, huấn luyện ổn định qua 20.000 lần cập nhật ở policy lag 64 và đạt thông lượng bước huấn luyện gấp 2,40 lần so với huấn luyện đồng bộ với kernel đã căn chỉnh. Với kernel tiêu chuẩn, KL trung vị từ rollout đến learner tăng 83,33 lần trong suốt quá trình chạy và pass@1 trực tuyến trên AIME24 giảm từ 34,27% xuống 13,96%, trong khi một sequence gate giúp ổn định huấn luyện nhưng loại bỏ 24,48% chuỗi tính đến 1.000 lần cập nhật cuối. Thiết lập zero-mismatch hiện bao phủ DeepSeek-V4.1-Flash, Kimi K3.1 vào ngày phát hành, cùng DeepSeek-V4-Flash và Kimi K3.1 trên AMD MI355X, với mã nguồn tại Inferact/zero-mismatch-rl và NVIDIA-NeMo/labs-molt.

    Vì sao đáng chú ý: NVIDIA Research và Inferact tách khoảng cách giữa rollout và learner trong async RL thành độ trễ trọng số và sự không khớp kernel, cho thấy việc căn chỉnh kernel cho phép lấy mẫu quan trọng không cắt duy trì huấn luyện ổn định ở policy lag 64.

5 tháng 11Thứ Năm
  1. Apple Machine Learning Research38

    Hàm hỗ trợ học được của Apple tăng tốc truy xuất RAG

    Các nhà nghiên cứu của Apple đã trình bày "Amortizing Maximum Inner Product Search with Learned Support Functions" tại ICML 2026, huấn luyện các mạng nơ-ron nhỏ ngoại tuyến để định tuyến truy vấn tới các khóa khớp nhất một cách nhanh hơn. SupportNet học hàm hỗ trợ thông qua mạng nơ-ron lồi đầu vào (ICNN) để cải thiện định tuyến cụm, trong khi KeyNet trực tiếp xuất ra vectơ khóa khớp nhất, được giữ neo về mặt hình học nhờ hàm mất mát nhất quán từ định lý Euler. Cả hai đều được huấn luyện trên phân phối truy vấn thực tế, đánh đổi chi phí khấu hao ban đầu để lấy truy xuất nhanh hơn, chính xác hơn tại thời điểm suy luận.

  2. Google Research47

    Agile Deliberation của Google Research giúp con người định nghĩa các danh mục AI mang tính chủ quan

    Google Research giới thiệu Agile Deliberation, một framework biến việc tạo bộ phân loại AI mang tính chủ quan thành một cuộc trò chuyện lặp đi lặp lại, trong đó AI giúp người dùng làm sắc nét các định nghĩa của chính họ. Framework chia nhiệm vụ thành phạm vi khái niệm và lặp lại khái niệm, sử dụng các mô hình ngôn ngữ - thị giác để làm nổi bật các hình ảnh ranh giới và đưa phản hồi vào một vòng tối ưu hóa lời nhắc tự động. Trong 18 phiên người dùng trực tiếp kéo dài 1,5 giờ, phương pháp này giảm mệt mỏi và lo lắng cho người dùng, đồng thời tạo ra các mô hình nhất quán hơn, vượt trội so với các baseline tiêu chuẩn; mã nguồn được mở trên GitHub.

  3. Anthropic Research58

    Anthropic nghiên cứu cách các nhà nghiên cứu sử dụng Claude trong các lĩnh vực và tác vụ khoa học

    Anthropic đã phân tích 207.049 phiên nghiên cứu trên Claude và Claude Code từ ngày 2 tháng 8 đến ngày 30 tháng 9 năm 2026, bằng các bộ phân loại bảo vệ quyền riêng tư, và phát hiện các nhà khoa học sử dụng Claude nhiều nhất cho phân tích dữ liệu và viết lách, ít nhất cho thu thập dữ liệu và hình thành ý tưởng. Phân tích dữ liệu chiếm 33,7% số phiên Claude và 48,1% số phiên Claude Code, so với 27,6% thời gian của nhà nghiên cứu, trong khi hình thành ý tưởng chiếm 4,2% và 2,1% số phiên so với 7,1% thời gian của nhà nghiên cứu. Báo cáo ước tính rằng việc áp dụng rộng rãi các năng lực hiện tại có thể gần như nhân đôi sản lượng nghiên cứu ở một số lĩnh vực, và tự động hóa hoàn toàn công việc phi vật lý có thể nâng các lĩnh vực như khoa học máy tính và thống kê lên tới 15 lần.

  4. Goodfire Research58

    Goodfire Research đề xuất định hình cơ chế để điều hướng mô hình thông qua các biểu diễn nội tại

    Goodfire Research đề xuất định hình cơ chế, một khung làm việc thêm các hình phạt lên các hướng khái niệm nội tại của mô hình trong quá trình huấn luyện để nó học cách dựa vào hoặc biểu đạt các khái niệm cụ thể thay vì chỉ tối đa hóa phần thưởng nhiệm vụ. Trong các thí nghiệm X-quang ngực, một tác nhân LLM đã sử dụng các đặc trưng autoencoder thưa để tìm các hướng tắt giống ống, và việc định hình sự phụ thuộc đã vượt qua cả huấn luyện tiêu chuẩn và một đường cơ sở dữ liệu cân bằng.

4 tháng 11Thứ Tư
  1. Anthropic Research66

    Phòng thí nghiệm sinh học của Anthropic báo cáo cấu trúc hạt vault prokaryote đầu tiên, được giải bằng Claude

    Phòng nghiên cứu sinh học của Anthropic báo cáo cấu trúc 3D đầu tiên của một hạt vault tìm thấy trong tế bào prokaryote, một protein phage tên L05 được tạo từ 96 bản sao với khối lượng khoảng 9,5 megadalton. Dưới sự chỉ đạo của nhóm, Claude đã tìm kiếm một cơ sở dữ liệu khoảng 15 tỷ protein dự đoán, thiết kế các cấu trúc DNA, tối ưu hóa một phương pháp phân lập sắc ký loại trừ kích thước giúp rút ngắn quá trình tinh chế từ ba ngày xuống còn khoảng 90 phút, và chạy xử lý cryo-EM bằng RELION để tạo ra mô hình đầy đủ đầu tiên trong 34 giờ. Bản preprint đã được gửi lên bioRxiv, và nhóm cho biết chức năng sinh học của các vault vẫn chưa được biết.

    Vì sao đáng chú ý: Phòng thí nghiệm sinh học của Anthropic báo cáo cấu trúc 3D đầu tiên của một hạt vault từ prokaryote, với Claude đảm nhận việc tìm kiếm cơ sở dữ liệu, thiết kế cấu trúc, tinh chế và xử lý cryo-EM.

3 tháng 11Thứ Ba
  1. Ai2 · Allen Institute for AI55

    Ai2 phát hành StateBench để kiểm tra cách các mô hình ngôn ngữ theo dõi thay đổi trạng thái trong tài liệu dài

    Ai2 giới thiệu StateBench, một bộ đánh giá với bốn mức độ khó cho việc theo dõi trạng thái trong ngữ cảnh dài, từ gán bất biến đến cập nhật tự tham chiếu và tham chiếu chéo. Trong các bài kiểm tra, Gemini 3.8 Flash, Claude Opus 5.5, và GPT-6 Sol và Luna xử lý được các mức dễ hơn nhưng giảm xuống còn 13% hoặc thấp hơn trên các bài toán hữu hạn tổng quát dài nhất, trong khi Gated DeltaNet 275M tham số và các mô hình lai được huấn luyện từ đầu tổng quát hóa gần như hoàn hảo ở ba mức đầu tiên và các transformer không bao giờ học được mức khó nhất.

  2. Apple Machine Learning Research32

    Attention to Mamba: Công thức cho chưng cất liên kiến trúc

    Các nhà nghiên cứu của Apple đề xuất một công thức hai giai đoạn để chưng cất một Transformer thành kiến trúc Mamba thuần không có bất kỳ khối Attention nào. Phương pháp này trước tiên chưng cất một Transformer đã được huấn luyện trước thành một mô hình Attention tuyến tính hóa thông qua một kỹ thuật kernel được điều chỉnh, sau đó chưng cất mô hình đó thành một mô hình Mamba được điều chỉnh. Mamba được chưng cất thu được giữ lại phần lớn hiệu năng của Pythia-1B, đạt perplexity 14,01 so với 13,86 của mô hình giáo viên, với một số khoảng cách trên các tác vụ dựa vào khả năng nhớ trong ngữ cảnh.

2 tháng 11Thứ Hai
  1. SemiAnalysis58

    SemiAnalysis ra mắt bộ đánh giá GDPx cho năng lực tác nhân tiên tiến trên các lĩnh vực giá trị cao

    SemiAnalysis đã phát hành GDPx, một bộ đánh giá bao gồm thiết kế chip, an ninh mạng, sinh học, tài chính, pháp lý, giao dịch định lượng, RSI, thiết kế phần cứng, khoa học vật liệu, căn chỉnh và kỹ thuật phần mềm, được xây dựng với 14 đối tác môi trường RL chuyên biệt. Ngay cả mô hình tốt nhất cũng chỉ đạt 12%, với Opus 5.5 giành chiến thắng ở giao dịch định lượng, phần cứng và thiết kế chip, Gemini 4 Carbon dẫn đầu về sinh học và kỹ thuật phần mềm, và GPT-6 Astra đứng đầu về RSI và khoa học vật liệu. Mỗi nhiệm vụ đều chạy trong một môi trường mô phỏng thực tế, chẳng hạn như một phòng giao dịch cổ phần tư nhân với ~4.000 tệp hoặc các dải an ninh mạng đa dịch vụ trực tiếp, khác với GDPval của OpenAI, mà SemiAnalysis lập luận rằng cung cấp ngữ cảnh sẵn và thiếu môi trường.

30 tháng 10Thứ Sáu
  1. Microsoft Research40

    Microsoft xây dựng nền tảng dữ liệu doanh nghiệp tổng hợp để đánh giá Copilot

    Nền tảng Tạo Dữ liệu Đánh giá Ngành của Microsoft tạo ra các môi trường doanh nghiệp tổng hợp quy mô đầy đủ để đánh giá Microsoft Copilot mà không sử dụng dữ liệu khách hàng. Dựa trên các nguồn công khai như dữ liệu nghề nghiệp O*NET, tin tuyển dụng và hồ sơ nộp lên SEC, nền tảng này tạo ra các tenant thực tế với người dùng, cuộc họp, email và tài liệu, cùng với các pipeline truy vấn tự động và các khung chất lượng. Microsoft cho biết điều này thiết lập đường cơ sở đánh giá chuẩn hóa đầu tiên cho Copilot.

  2. Amazon Science38

    Tăng tốc LLM cho các ứng dụng du lịch: Medusa kết hợp chưng cất tri thức

    Kết hợp chưng cất tri thức với khung Medusa giúp một học trò TinyLlama 1,1 tỷ tham số đạt chất lượng tương đương giáo viên Llama-3.1 70 tỷ tham số trong khi chạy nhanh gấp 10 đến 20 lần với chi phí dưới một phần ba. Khi làm việc với Booking.com trên AI Trip Planner, Smart Filters và tạo mô tả chỗ ở, pipeline đã thu hẹp hơn 90% khoảng cách chất lượng và tăng thêm tốc độ gấp 2 đến 3,6 lần nhờ các đầu Medusa.

28 tháng 10Thứ Tư
  1. Google Research58

    Khung "giấc ngủ" của Google Research giúp LLM củng cố kiến thức mới mà không bị quên thảm khốc

    Google Research đã giới thiệu một khung "giấc ngủ" cho học liên tục, xen kẽ tương tác chủ động với củng cố bộ nhớ ngoại tuyến, cho phép LLM tiếp thu các sự kiện mới vào tham số Mixture-of-Experts mở rộng thay vì mất kiến thức trước đó. Cách tiếp cận kết hợp mở rộng tham số, chưng cất on-policy với mô phỏng dựa trên học tăng cường, và một giai đoạn mơ tạo và lọc các mẫu huấn luyện tổng hợp. Các tác giả báo cáo mức giảm hiệu suất gần bằng không trong dịch liên tục cho các ngôn ngữ chưa thấy như Manchu và Kalamang, khả năng mở rộng gần hoàn hảo lên 10M token trên BABILong, kết quả 48,9% đơn nhiệm vụ và 46,2% CPT trên việc tích hợp sự kiện dựa trên SQuAD, và 79,2%, 69,0% và 46,1% trên AIME 24/25 và HMMT 25.

27 tháng 10Thứ Ba
  1. Ai2 · Allen Institute for AI58

    Nghiên cứu của Ai2 kiểm tra liệu LLM có thể đánh giá đáng tin cậy tính mới của ý tưởng nghiên cứu hay không

    Ai2 đã công bố Old Ideas, Novel Problems, một nghiên cứu và bộ đánh giá kiểm tra mức độ đáng tin cậy của LLM khi đánh giá tính mới của các ý tưởng nghiên cứu, cùng với dữ liệu, mã nguồn và một pipeline để xây dựng các bộ đánh giá mới. Qua sáu giám khảo gồm GPT-5.1, GPT-5.2, GPT-5.4, Claude Sonnet 4.5, Claude Opus 4.5 và Claude Opus 4.6, những thay đổi nhỏ trong prompt đã làm độ chính xác dịch chuyển hơn 50 điểm phần trăm trên các ý tưởng do AI tạo ra, và một baseline Claude Opus 4.6 đơn giản với prompt đạt macro-F1 0,854 với chi phí 2,59 USD, so với 0,642 với chi phí 30,66 USD của Idea Novelty Checker và 0,772 với chi phí 82,05 USD của AI Scientist do Sakana AI phát triển.

  2. Epoch AI · Gradient Updates58

    Epoch AI thử nghiệm AI trên chính các nhiệm vụ nghiên cứu của mình, các mô hình hàng đầu đạt 65% và trượt tất cả

    Epoch AI đã mở rộng nỗ lực trước đó nhằm tự động hóa công việc của một nhà nghiên cứu cấp cao thành Epoch Automation Reports, đánh giá AI trên các nhiệm vụ thực tế của Epoch như thiết kế đồ họa và lập kế hoạch nghiên cứu theo cùng tiêu chuẩn áp dụng cho nhân viên con người. 1 và GPT-6 Astra đạt trung bình 65% theo rubric, nhưng điểm 65% vẫn bị tính là nhiệm vụ thất bại, vì mọi bài nộp sẽ bị từ chối hoặc yêu cầu sửa lại nếu do con người thực hiện.

23 tháng 10Thứ Sáu
  1. Ai2 · Allen Institute for AI31

    LitPivot: Hệ thống của Ai2 giúp các nhà nghiên cứu chuyển hướng ý tưởng nghiên cứu thông qua tài liệu

    Các nhà nghiên cứu của Ai2 và Đại học Pennsylvania đã xây dựng LitPivot, một hệ thống tổ chức các bài báo được truy xuất theo khía cạnh của một đề xuất nghiên cứu đang được chỉnh sửa và gợi ý các chỉnh sửa dựa trên tài liệu. Trong một nghiên cứu với 17 nhà nghiên cứu, các chuyên gia trong lĩnh vực đánh giá những ý tưởng được phát triển với LitPivot có nền tảng tài liệu vững chắc hơn so với những ý tưởng được xây dựng bằng trình soạn thảo văn bản và một công cụ trò chuyện AI. Những người tham gia cũng cho biết các ý tưởng đã chỉnh sửa của họ mới lạ và hữu ích hơn, và LitPivot sẽ được trình bày tại UIST 2026.

22 tháng 10Thứ Năm
  1. Microsoft Research64

    Microsoft Research và đồng tác giả chứng minh giả thuyết KLS 31 năm tuổi

    Nhà nghiên cứu Microsoft Xinzhi Zhang và một đồng tác giả đã chứng minh giả thuyết Kannan-Lovász-Simonovits (KLS), một bài toán mở 31 năm tuổi trong hình học chiều cao, cho thấy cận đúng với một hằng số phổ quát độc lập với số chiều. Chứng minh này nảy sinh từ một quá trình tác tử do con người dẫn dắt, trong đó các tác tử AI đã khám phá hơn 100 hướng tiếp cận ứng viên trong khi các nhà nghiên cứu cắt tỉa và điều hướng tìm kiếm, và một nỗ lực không được dẫn dắt riêng rẽ với các mô hình hàng đầu trên ngân sách token tương đương đã không đạt được kết quả. Hai chứng minh khác xuất hiện cùng ngày, và một bản hình thức hóa bằng Lean 4 sau đó đã được công bố.

    Vì sao đáng chú ý: Một bài toán mở 31 năm tuổi trong hình học chiều cao được giải quyết thông qua tìm kiếm tác tử do con người dẫn dắt trên khoảng 100 hướng tiếp cận ứng viên, với các chứng minh độc lập và hình thức hóa bằng Lean như sự xác nhận.

21 tháng 10Thứ Tư
  1. Apple Machine Learning Research26

    TEAL: Học chủ động hiệu quả trong không gian token cho phân đoạn ngữ nghĩa ngân sách thấp

    Các nhà nghiên cứu Apple (cùng Đại học Waterloo) giới thiệu TEAL, khung học chủ động cấp điểm ảnh đầu tiên được xây dựng trên biểu diễn ViT đóng băng, chọn trực tiếp các ứng viên đa dạng trên lưới token gốc thông qua chiến lược MaxHerding hai cấp cùng tinh chỉnh độ bất định dựa trên margin. Với một điểm ảnh được gán nhãn mỗi ảnh, TEAL vượt baseline mạnh nhất tới +24,36 mIoU trên CamVid, Cityscapes, ADE20K và Pascal Context, đạt tới 97% hiệu năng học có giám sát đầy đủ chỉ với 10 px.

17 tháng 10Thứ Bảy
  1. Google Research71

    Google Research phác thảo VERID và quy trình tác nhân vòng kín cho phòng thí nghiệm ướt tự động

    Google Research mô tả ba dự án nhằm đưa các tác nhân AI gắn với thực nghiệm phòng thí nghiệm ướt thực tế, bao gồm khuôn khổ VERID, một bản sao số ngữ nghĩa của một workcell phòng thí nghiệm được xây dựng trên khuôn khổ PyLabRobot mã nguồn mở, theo dõi bố cục deck, thể tích giếng và tồn kho đầu tip, đồng thời chạy thử khô các giao thức trước khi thực thi.

    Vì sao đáng chú ý: Google Research phác thảo ba dự án kết nối các tác nhân AI với phần cứng phòng thí nghiệm ướt thực tế, cho thấy cách chạy thử khô mô phỏng và thí nghiệm vòng kín cho phép tác nhân tự sửa các quy tắc thiết kế của mình.

15 tháng 10Thứ Năm
  1. Goodfire Research62

    Bài luận nghiên cứu của Goodfire lập luận rằng mạng nơ-ron vốn đã trong sáng và superposition đã bị hiểu sai

    Một nhà nghiên cứu của Goodfire lập luận rằng bằng chứng kinh điển về tính đa nghĩa và superposition trong mạng nơ-ron đã bị hiểu sai, và thứ trông như sự đóng gói tùy tiện thực chất phần lớn là một mô-típ mà ông gọi là tổng quát hóa đệ quy. Huấn luyện lại InceptionV1 với các cải tiến kiến trúc thông thường và không thay đổi kích thước mô hình hay dữ liệu huấn luyện đã khiến 99-100% nơ-ron ở lớp cuối của nó trở nên dễ diễn giải, và các đợt kiểm toán sơ bộ Qwen3-32B ước tính khoảng 90% các cực nơ-ron có một nhiệm vụ chính. Bài luận kết luận mạng nơ-ron sử dụng một nguyên lý học thay vì hai, nên khả năng diễn giải có thể tiến hành bằng cách nghiên cứu trực tiếp nơ-ron và mạch thay vì trước tiên huấn luyện các mô hình phân rã như sparse autoencoder.

    Vì sao đáng chú ý: Một cách diễn giải lại trực tiếp bằng chứng kinh điển về tính đa nghĩa của lĩnh vực, lập luận rằng mạng nơ-ron tổng quát hóa một cách đệ quy thay vì đóng gói các khái niệm không liên quan, điều này sẽ khiến việc nghiên cứu cơ chế trực tiếp trở nên khả thi.

13 tháng 10Thứ Ba
  1. Modal Blog58

    Modal thử nghiệm bộ lấy mẫu RL hỗn hợp độ chính xác và hỗn hợp tăng tốc trên Qwen3.6-35B-A3B

    Modal đã huấn luyện Qwen3.6-35B-A3B trên tác vụ lập trình dạng agent với các bộ lấy mẫu trải rộng trên sáu loại tăng tốc (B200, B300, H100, H200, A100, RTX PRO 6000) ở độ chính xác NVFP4, FP8 và BF16, cấp dữ liệu cho một bộ huấn luyện BF16 trên B200. GRPO thuần đã sụp đổ trên cả bộ lấy mẫu hỗn hợp lẫn đồng nhất, nhưng khi thêm lấy mẫu quan trọng có mặt nạ cùng căn giữa điểm số, dù có hay không có phát lại mặt nạ top-p, quá trình huấn luyện vẫn ổn định đến cuối và đạt pass@4 trên SWE-bench Pro V2 ngang với bộ lấy mẫu đồng nhất, với chi phí bộ lấy mẫu mỗi lần cập nhật thấp hơn khoảng 15%. Các bộ lấy mẫu hỗn hợp chạy với KL trung bình giữa bộ lấy mẫu và bộ huấn luyện gấp 4,7 lần so với thiết lập đồng nhất, và các tác giả lập luận rằng tính ổn định phụ thuộc vào việc giữ độ lệch ở mức có giới hạn chứ không phải ở mức thấp.

  2. Amazon Science75

    Các nhà nghiên cứu của Amazon Web Services đề xuất phương pháp priming để chuyển đổi Transformer đã huấn luyện trước thành mô hình không gian trạng thái lai mà không cần huấn luyện lại toàn bộ

    Các nhà nghiên cứu của Amazon Web Services giới thiệu priming, một phương pháp tái sử dụng trọng số Transformer đã huấn luyện trước để cắt giảm chi phí huấn luyện trước của kiến trúc không gian trạng thái lai xuống hơn 99%, chỉ sử dụng dưới 0,5% ngân sách token huấn luyện trước của mô hình nguồn. Trong các so sánh có kiểm soát, Gated KalmaNet vượt trội hơn Gated DeltaNet và Mamba-2, và một mô hình lai dựa trên GKA 32B đạt kết quả tương đương Transformer nguồn trên các bài đánh giá suy luận trong khi giải mã nhanh gấp đôi ở ngữ cảnh 128.000 token. Nhóm đã phát hành các mô hình lai đã priming 8B và 32B, mã huấn luyện, Triton kernel và plugin phục vụ vLLM theo Giấy phép Apache 2.0.

    Vì sao đáng chú ý: Các nhà nghiên cứu của Amazon Web Services cho thấy việc tái sử dụng trọng số Transformer đã huấn luyện trước có thể cắt giảm chi phí huấn luyện trước kiến trúc lai xuống hơn 99%, giúp việc so sánh có kiểm soát các lớp không gian trạng thái trở nên khả thi.

10 tháng 10Thứ Bảy
  1. Epoch AI · Gradient Updates65

    InnovationEval của Epoch AI phát hiện các agent tiên phong chỉ đạt 15% mức cải thiện của SDPO trong R&D AI tự động

    6 Sol và Fable 5 với việc độc lập tái phát hiện một kỹ thuật hậu huấn luyện mới lạ tương đương với Self-Distillation Policy Optimization (SDPO), cấp cho mỗi bên 3.000 GPU-giờ trong một sandbox không có truy cập internet. Phương pháp của 6 Sol, phần lớn sao chép từ công trình trước đó, đạt 15% mức cải thiện của SDPO sau khi điều chỉnh cho việc huấn luyện chậm hơn, trong khi kỹ thuật của Fable 5 không cải thiện được hiệu suất.

8 tháng 10Thứ Năm
  1. Zyphra Research36

    Zyphra Research: Ghép nối chuyên gia cắt giảm thông tin liên lạc khi tiền huấn luyện MoE

    Zyphra Research chỉ ra rằng định tuyến MoE có cấu trúc cao, với các chuyên gia được chọn cùng nhau có tương quan trong một lớp và lựa chọn chuyên gia của một token dự đoán định tuyến lớp sau. Khai thác điều này thông qua bố trí chuyên gia tương quan và xáo trộn token giúp cắt giảm thời gian liên lạc all-to-all lên đến 2,63× và cải thiện thời gian bước huấn luyện end-to-end lên đến 1,41× trong các thí nghiệm Megatron-LM trên GPU MI300X, mà không thay đổi kiến trúc hay quyết định định tuyến.

  2. Waymo Blog30

    Nghiên cứu của Waymo: Người lái xe tỉnh táo vẫn đối mặt nguy cơ tai nạn chết người vào ban đêm cao gần gấp 4 lần

    Nghiên cứu đã qua bình duyệt của Waymo phát hiện rằng ngay cả những người lái xe hoàn toàn tỉnh táo cũng đối mặt nguy cơ tai nạn chết người vào ban đêm cao gấp 3,1 đến 3,9 lần so với ban ngày, và việc loại bỏ những người lái xe bị suy giảm do rượu giúp giảm 23% tỷ lệ dính vào tai nạn chết người trung bình ở đô thị, từ 1,42 xuống 1,10 trên 100 triệu dặm. Một nghiên cứu thứ hai trên 37.654 trường hợp tử vong trong cơ sở dữ liệu FARS 2023 cho thấy chỉ 8,2% chỉ liên quan đến các yếu tố hành vi thuần túy của con người. Waymo trình bày các phát hiện này như là sự ủng hộ cho Phương pháp Tiếp cận Hệ thống An toàn và cho việc đánh giá chuẩn lái xe tự động dựa trên đường cơ sở con người có nồng độ cồn bằng không.

3 tháng 10Thứ Bảy
  1. Epoch AI · Gradient Updates58

    Epoch AI: Năng lực tính toán được xây dựng trong hai năm tới có thể vận hành hàng trăm triệu AI agent

    Epoch AI ước tính rằng năng lực tính toán AI được tạo ra trong hai năm tới có thể hỗ trợ hàng chục đến hàng trăm triệu agent đồng thời chạy các mô hình mạnh nhất hiện nay, hoặc hàng tỷ agent chạy các mô hình rẻ hơn. Sử dụng dự báo lượng xuất hàng HBM từ năm 2025 đến năm 2027, phân tích đếm số GPU tương đương GB300 và phát hiện rằng các agent hàng đầu chạy không ngừng nghỉ có thể cung cấp số giờ hàng tuần của khoảng 140 triệu đến 700 triệu nhân viên toàn thời gian, trong khi các chỉ số đánh giá do DeepSeek V4 Pro phục vụ ngụ ý khoảng 1,9 tỷ agent đồng thời. Báo cáo lưu ý rằng yếu tố bất định chính là liệu nhu cầu có tăng đủ nhanh để biện minh cho việc xây dựng hay để lại tình trạng dư thừa agent.