Tới nội dung
Chỉ Nghiên cứu#Mã nguồn mở / repo
13 tháng 11Thứ Sáu
  1. Hacker News · AI58

    Nghiên cứu phát hiện các ghim phiên bản lỗi thời kiểu AI trong 13,7% gói npm mới trong nửa đầu 2026

    Kobi Mozgori đã lấy mẫu 250.000 gói npm và phát hiện rằng các gói mới có phiên bản phụ thuộc được ghim chủ yếu là các số tròn x.0.0 đã bị thay thế đã tăng từ mức cơ sở 1–2,4% năm 2019 đến đầu 2024 lên 13,7% trong nửa đầu 2026, giảm xuống 7,6% trong nửa cuối 2026 tính đến đầu tháng 11. Phụ thuộc được ghim trung vị khoảng 155 ngày tuổi khi sinh ra trong giai đoạn 2021–2023 nhưng là 451 ngày trong quý 2 năm 2026, và tỷ lệ các gói sinh ra với về cơ bản tất cả các ghim đều ở bản phát hành mới nhất đã giảm từ khoảng 28% xuống khoảng 10%. Tác giả diễn giải mô hình này như một suy luận chứ không phải bằng chứng, vì siêu dữ liệu của registry không thể cho thấy ai hoặc cái gì đã viết một manifest, và lưu ý rằng sự sụt giảm từ giữa năm 2026 vẫn chưa được giải thích.

  2. Hacker News · AI26

    Erik Hoel giới thiệu Qualiaphobic AI nhằm thiết kế máy móc phi ý thức

    Erik Hoel đã giới thiệu Qualiaphobic AI, một chương trình nghiên cứu xây dựng các kiến trúc nơ-ron được thiết kế để đẩy lùi ý thức, tương tự cách các chất kỵ nước đẩy lùi nước. Đề xuất này khám phá ba hướng tiếp cận: chưng cất, biến đổi hoặc loại bỏ AI dựa trên các lý thuyết ý thức phổ biến, chuyển dịch kiến trúc về phía các "điểm neo" như bảng tra cứu, và phân mảnh hiện tượng luận tiềm năng. Hoel dự định xây dựng và mã nguồn mở các kỹ thuật này, lập luận rằng chúng có thể giải quyết phúc lợi AI và biến con người thành những thực thể đạo đức duy nhất.

  3. Hacker News · AI58

    Bao nhiêu phần trong số công cụ AI được gắn sao nhiều nhất trên GitHub là do các tác nhân lập trình viết ra?

    Một phân tích toàn bộ lịch sử git của 52 kho lưu trữ công cụ AI được gắn sao nhiều nhất trên GitHub, bao gồm 324.088 commit, cho thấy ở kho lưu trữ trung vị, 16,9% số commit trong 180 ngày hoạt động gần nhất mang dấu hiệu AI, và 21 trong số 52 kho đạt từ 25% trở lên. Số sao và tỷ lệ commit có dấu hiệu AI không cho thấy mối liên hệ nào có thể phát hiện được (Spearman ρ = -0,05, p = 0,72), và 85,3% trong số 36.892 commit có dấu hiệu đến từ Claude, công cụ của nó mặc định thêm một trailer. Tác giả lưu ý rằng việc sử dụng AI nhiều tập trung ở các dự án bắt đầu từ năm 2025 trở đi, nên mẫu không thể tách biệt việc sử dụng AI khỏi tính gần đây, và mọi tỷ lệ phần trăm AI đều là giới hạn dưới.

11 tháng 11Thứ Tư
  1. inclusionAI Models40

    inclusionAI phát hành mô hình ZoomGain-9B và ZoomGain-4B cùng ZoomGainBench và dữ liệu huấn luyện RL

    inclusionAI đã phát hành các checkpoint mô hình thị giác-ngôn ngữ ZoomGain-9B và ZoomGain-4B, cùng với bộ đánh giá ZoomGainBench và dữ liệu huấn luyện RL ZoomGain. ZoomGain khai thác khoảng cách nhận thức từ toàn cục đến thu phóng để xây dựng giám sát thị giác chi tiết, và ZoomGain-9B đạt hiệu suất vượt trội trên nhiều bộ đánh giá nhận thức chi tiết và tổng quát. ZoomGainBench chứa 1.000 câu hỏi trên 941 hình ảnh, trong khi bộ dữ liệu RL có 9.000 bản ghi huấn luyện và 7.713 hình ảnh nguồn.

  2. inclusionAI Models38

    inclusionAI phát hành ZoomGain-4B và ZoomGain-9B cùng ZoomGainBench và dữ liệu huấn luyện RL

    inclusionAI đã phát hành bài báo arXiv, bộ đánh giá ZoomGainBench, tập dữ liệu huấn luyện RL và các checkpoint mô hình ZoomGain-4B/ZoomGain-9B. Mô hình tốt nhất trong 28 mô hình đạt 61,08 trên ZoomGainBench, trong khi ZoomGain-9B đạt hiệu suất vượt trội trên nhiều benchmark nhận thức tổng quát và chi tiết. ZoomGain khai thác khoảng cách nhận thức từ toàn cục đến thu phóng để xây dựng giám sát thị giác chi tiết cho các mô hình ngôn ngữ-thị giác.

9 tháng 11Thứ Hai
  1. Hugging Face Blog38

    NVIDIA và Elith phát hành bộ dữ liệu tổng hợp Nemotron-Personas-Finance-Japan

    Elith và NVIDIA đã phát hành Nemotron-Personas-Finance-Japan, một bộ dữ liệu persona tổng hợp mở cho lĩnh vực tài chính Nhật Bản được xây dựng trên số liệu thống kê chính thức của chính phủ. Bộ dữ liệu chứa 9M persona (1M bản ghi × 9 persona) trên 50 lĩnh vực và ~1,5B token, được tạo bằng NeMo SDG-PGMs và NeMo Data Designer, và có sẵn theo giấy phép CC BY 4.0 cho mục đích thương mại.

  2. Hugging Face Blog40

    HOPE: Cắt tỉa bậc cao các chuyên gia trong mô hình ngôn ngữ Mixture-of-Experts

    Các nhà nghiên cứu giới thiệu HOPE, một phương pháp cắt tỉa chuyên gia bậc hai cho các mô hình ngôn ngữ Mixture-of-Experts, có tính đến tương tác cặp giữa các chuyên gia cùng kích hoạt thay vì chấm điểm từng chuyên gia một cách độc lập. Ở mức cắt tỉa 50%, HOPE đạt thứ hạng trung bình tốt nhất trong số mọi phương pháp, với mức cải thiện lên tới +6,1% trên các tác vụ lập trình dạng agent so với phương pháp cắt tỉa tốt thứ hai. Công trình nhắm vào nút thắt bộ nhớ ở các mô hình như Qwen3.5-122B, nơi các MLP chuyên gia chiếm 95% trong tổng dung lượng khoảng 250 GB.

  3. inclusionAI Repositories38

    ZoomGain: Khai thác khoảng cách nhận thức từ toàn cục đến thu phóng cho giám sát thị giác tinh vi

    ZoomGain xây dựng các câu hỏi về một hình ảnh đầy đủ từ những chi tiết thị giác chỉ trở nên rõ ràng khi thu phóng, sử dụng khoảng cách nhận thức từ toàn cục đến thu phóng này làm giám sát cho các mô hình ngôn ngữ-thị giác. Bản phát hành bao gồm bài báo arXiv, bộ đánh giá ZoomGainBench (1.000 câu hỏi trên 941 hình ảnh bao gồm nhận dạng thuộc tính, đếm và OCR), 9.000 bản ghi huấn luyện RL trên 7.713 hình ảnh nguồn, và các checkpoint ZoomGain-4B và ZoomGain-9B. Mô hình tốt nhất trong số 28 mô hình đạt 61,08 trên ZoomGainBench, trong khi ZoomGain-9B đạt hiệu suất vượt trội trên nhiều bộ đánh giá nhận thức tinh vi và tổng quát.

6 tháng 11Thứ Sáu
  1. Hugging Face Blog58

    Ai2 phát hành ToyBlocks, một thế giới mô phỏng mở về thao tác khối cho robot học

    Ai2 đã phát hành ToyBlocks, một khung mô phỏng mở được xây dựng xoay quanh một cánh tay robot và các khối trên mặt bàn, là sản phẩm đầu tiên trong FoundationWorlds của họ dành cho việc học và đánh giá robot có kiểm soát. Khung này tự động tạo kỹ năng và bản trình diễn thông qua RL và lập kế hoạch chuyển động trong Isaac Lab, đạt tốc độ lên tới 24 lần thời gian thực trên một GPU, và đi kèm 85.336 bản trình diễn tầm xa bao phủ gần 1.600 giờ và 144 triệu khung hình. Trong các thí nghiệm của mình, tỷ lệ thành công của kỹ năng nguyên tử ManiFlow là 80,0% trong mô phỏng và 81,1% trên Franka FR3 thực tế, trong khi hệ thống Molmo 2 kết hợp ManiFlow thành công trong 55,5% tập mô phỏng và 50,0% tập thực tế.

  2. Ai2 · Allen Institute for AI58

    Ai2 phát hành ToyBlocks, một thế giới mô phỏng có kiểm soát cho việc học và đánh giá robot

    Ai2 đã phát hành ToyBlocks, một khung mô phỏng mở được xây dựng xoay quanh một cánh tay robot và các khối trên mặt bàn, là sản phẩm đầu tiên trong FoundationWorlds của họ dành cho nghiên cứu học robot có kiểm soát. ToyBlocks tự động tạo nhiệm vụ và bản trình diễn thông qua RL và lập kế hoạch chuyển động trong Isaac Lab, đạt tốc độ tạo dữ liệu lên tới 24 lần thời gian thực trên một GPU duy nhất, và đi kèm với 85.336 bản trình diễn tầm xa bao phủ gần 1.600 giờ và 144 triệu khung hình. Trong các thử nghiệm thực tế trên Franka FR3, tỷ lệ thành công của kỹ năng nguyên tử của ManiFlow là 80,0% trong mô phỏng và 81,1% trên phần cứng, trong khi hệ thống Molmo 2 kết hợp ManiFlow thành công trong 55,5% số tập mô phỏng và 50,0% số tập thực tế.

  3. vLLM Blog77

    REINFORCE Zero: Căn chỉnh kernel cho phép Async RL ổn định ở Policy Lag 64, mở rộng sang DeepSeek-V4.1 và Kimi K3.1

    Bài báo REINFORCE Zero của NVIDIA Research và Inferact cho thấy việc căn chỉnh kernel của rollout và trainer cho phép lấy mẫu quan trọng ở mức token không cắt (unclipped token-level importance sampling) hiệu chỉnh độ trễ trọng số còn lại, huấn luyện ổn định qua 20.000 lần cập nhật ở policy lag 64 và đạt thông lượng bước huấn luyện gấp 2,40 lần so với huấn luyện đồng bộ với kernel đã căn chỉnh. Với kernel tiêu chuẩn, KL trung vị từ rollout đến learner tăng 83,33 lần trong suốt quá trình chạy và pass@1 trực tuyến trên AIME24 giảm từ 34,27% xuống 13,96%, trong khi một sequence gate giúp ổn định huấn luyện nhưng loại bỏ 24,48% chuỗi tính đến 1.000 lần cập nhật cuối. Thiết lập zero-mismatch hiện bao phủ DeepSeek-V4.1-Flash, Kimi K3.1 vào ngày phát hành, cùng DeepSeek-V4-Flash và Kimi K3.1 trên AMD MI355X, với mã nguồn tại Inferact/zero-mismatch-rl và NVIDIA-NeMo/labs-molt.

    Vì sao đáng chú ý: NVIDIA Research và Inferact tách khoảng cách giữa rollout và learner trong async RL thành độ trễ trọng số và sự không khớp kernel, cho thấy việc căn chỉnh kernel cho phép lấy mẫu quan trọng không cắt duy trì huấn luyện ổn định ở policy lag 64.

5 tháng 11Thứ Năm
  1. Zyphra Research36

    ZYFA: Nhân tính toán Attention FP8 nhanh và chính xác trên AMD MI355X

    Zyphra Research đã phát hành ZYFA, các nhân tính toán attention prefill nhân quả BF16 và FP8 cho MI355X của AMD (CDNA4, gfx950), hỗ trợ head dimension 128 và hình dạng MLA của DeepSeek-V2. Trên các activation từ Mistral-7B, Qwen3-8B và DeepSeek-V2-Lite ở 16K token, các nhân FP8 của ZYFA đạt thông lượng 1,16–1,76× so với AITER, và trên đầu vào Gaussian ở 32K token đạt 1,26–1,37× ở head dimension 128 và 1,99× ở hình dạng MLA. Sai số FP8 thấp hơn 62–78% so với AITER ở head dimension 128.

  2. Google Research47

    Agile Deliberation của Google Research giúp con người định nghĩa các danh mục AI mang tính chủ quan

    Google Research giới thiệu Agile Deliberation, một framework biến việc tạo bộ phân loại AI mang tính chủ quan thành một cuộc trò chuyện lặp đi lặp lại, trong đó AI giúp người dùng làm sắc nét các định nghĩa của chính họ. Framework chia nhiệm vụ thành phạm vi khái niệm và lặp lại khái niệm, sử dụng các mô hình ngôn ngữ - thị giác để làm nổi bật các hình ảnh ranh giới và đưa phản hồi vào một vòng tối ưu hóa lời nhắc tự động. Trong 18 phiên người dùng trực tiếp kéo dài 1,5 giờ, phương pháp này giảm mệt mỏi và lo lắng cho người dùng, đồng thời tạo ra các mô hình nhất quán hơn, vượt trội so với các baseline tiêu chuẩn; mã nguồn được mở trên GitHub.

29 tháng 10Thứ Năm
  1. inclusionAI Repositories52

    IDM của Inclusion AI khớp các đặc trưng EMA của generator để tăng tốc tạo ảnh từ văn bản một bước và hai bước

    Inclusion AI và các cộng tác viên học thuật đã phát hành IDM, một phương pháp chưng cất kết hợp khớp phân phối nội tại với khớp mô-men trong không gian đặc trưng EMA của chính generator, loại bỏ nhu cầu về một bộ mã hóa đặc trưng bên ngoài. Ở 2 NFE, IDM (Z-Image) đạt 94,25% trên LongText-CN và 90,20% trên LongText-EN, và IDM đầy đủ tham số (Z-Image) chạy trong 0,25 giây ở 1 NFE và 0,30 giây ở 2 NFE trên một A100 duy nhất ở BF16. Cùng một checkpoint đã huấn luyện hỗ trợ cả lấy mẫu 1-NFE và 2-NFE, và mã được phát hành theo Apache 2.0, trong khi các checkpoint được ghi là sắp ra mắt.

19 tháng 10Thứ Hai
  1. Sakana AI Blog55

    Sakana AI đề xuất QD-Rec, phương pháp gợi ý Quality-Diversity kết hợp ứng viên với giả thuyết do LLM viết

    Sakana AI phát triển QD-Rec, một phương pháp gợi ý coi ứng viên cùng giả thuyết giải thích lý do chọn ứng viên đó là đơn vị gợi ý và sử dụng tìm kiếm Quality-Diversity để tích lũy các đề xuất chất lượng cao, đa dạng. Trong thí nghiệm trên M&A, nhắm mục tiêu khách hàng và gợi ý bài báo, QD-Rec xây dựng kho lưu trữ có điểm trung bình cao hơn và quy mô lớn hơn so với baseline viết từng giả thuyết từ đầu, và mã nguồn được phát hành trên GitHub. Bài báo báo cáo các trường hợp một giả thuyết đạt 1/10 điểm cho một công ty được đột biến và chuyển sang ứng viên khác, nâng điểm lên 5.

15 tháng 10Thứ Năm
  1. Goodfire Research62

    Bài luận nghiên cứu của Goodfire lập luận rằng mạng nơ-ron vốn đã trong sáng và superposition đã bị hiểu sai

    Một nhà nghiên cứu của Goodfire lập luận rằng bằng chứng kinh điển về tính đa nghĩa và superposition trong mạng nơ-ron đã bị hiểu sai, và thứ trông như sự đóng gói tùy tiện thực chất phần lớn là một mô-típ mà ông gọi là tổng quát hóa đệ quy. Huấn luyện lại InceptionV1 với các cải tiến kiến trúc thông thường và không thay đổi kích thước mô hình hay dữ liệu huấn luyện đã khiến 99-100% nơ-ron ở lớp cuối của nó trở nên dễ diễn giải, và các đợt kiểm toán sơ bộ Qwen3-32B ước tính khoảng 90% các cực nơ-ron có một nhiệm vụ chính. Bài luận kết luận mạng nơ-ron sử dụng một nguyên lý học thay vì hai, nên khả năng diễn giải có thể tiến hành bằng cách nghiên cứu trực tiếp nơ-ron và mạch thay vì trước tiên huấn luyện các mô hình phân rã như sparse autoencoder.

    Vì sao đáng chú ý: Một cách diễn giải lại trực tiếp bằng chứng kinh điển về tính đa nghĩa của lĩnh vực, lập luận rằng mạng nơ-ron tổng quát hóa một cách đệ quy thay vì đóng gói các khái niệm không liên quan, điều này sẽ khiến việc nghiên cứu cơ chế trực tiếp trở nên khả thi.

13 tháng 10Thứ Ba
  1. Amazon Science75

    Các nhà nghiên cứu của Amazon Web Services đề xuất phương pháp priming để chuyển đổi Transformer đã huấn luyện trước thành mô hình không gian trạng thái lai mà không cần huấn luyện lại toàn bộ

    Các nhà nghiên cứu của Amazon Web Services giới thiệu priming, một phương pháp tái sử dụng trọng số Transformer đã huấn luyện trước để cắt giảm chi phí huấn luyện trước của kiến trúc không gian trạng thái lai xuống hơn 99%, chỉ sử dụng dưới 0,5% ngân sách token huấn luyện trước của mô hình nguồn. Trong các so sánh có kiểm soát, Gated KalmaNet vượt trội hơn Gated DeltaNet và Mamba-2, và một mô hình lai dựa trên GKA 32B đạt kết quả tương đương Transformer nguồn trên các bài đánh giá suy luận trong khi giải mã nhanh gấp đôi ở ngữ cảnh 128.000 token. Nhóm đã phát hành các mô hình lai đã priming 8B và 32B, mã huấn luyện, Triton kernel và plugin phục vụ vLLM theo Giấy phép Apache 2.0.

    Vì sao đáng chú ý: Các nhà nghiên cứu của Amazon Web Services cho thấy việc tái sử dụng trọng số Transformer đã huấn luyện trước có thể cắt giảm chi phí huấn luyện trước kiến trúc lai xuống hơn 99%, giúp việc so sánh có kiểm soát các lớp không gian trạng thái trở nên khả thi.

1 tháng 9Thứ Ba
  1. Zyphra Research48

    Zyphra phát hành PUFFER, hệ thống khử trùng lặp mờ tăng dần cho kho ngữ liệu huấn luyện đang phát triển

    Zyphra đã phát hành PUFFER, một hệ thống khử trùng lặp mờ tăng dần nhận biết nguồn gốc mã nguồn mở dành cho kho ngữ liệu huấn luyện LLM liên tục mở rộng, theo giấy phép Apache 2.0. Hệ thống này đạt tốc độ nhanh hơn 11x-35x so với các phương pháp khử trùng lặp dựa trên CPU hiện có và xử lý một tỷ tài liệu trong 1,75 giờ trên một tiến trình duy nhất, với triển khai thực tế trên hơn 30 tỷ tài liệu. PUFFER lưu giữ lịch sử MinHash-LSH trên đĩa để có thể thêm tập dữ liệu mới, khôi phục các tác vụ bị gián đoạn một cách xác định, và rút từng tập dữ liệu mà không cần xây dựng lại toàn bộ chỉ mục kho ngữ liệu.

29 tháng 7Thứ Tư
  1. Berkeley AI Research58

    Từ CUDA đến MLX: K-Search mang chuyên môn tối ưu hóa kernel đến Apple Silicon

    IBM Research đã mở rộng K-Search, khung tìm kiếm kernel tiến hóa từ UC Berkeley Sky Lab, với backend MLX và một lớp chuyển đổi CUDA sang MLX có cấu trúc, giúp chuyển đổi các kernel CUDA hiện có thành kernel cho Apple Silicon. Trên một kernel attention MLX, phương pháp này đạt tốc độ bằng 0,97 lần kernel MLX Attention gốc của Apple, tăng từ 0,26 lần khi không có ngữ cảnh chuyển đổi, và một kernel Mamba SSM được tiến hóa đạt tốc độ prefill nhanh hơn tới 20 lần so với triển khai mlx-lm của cộng đồng trên M1 Max. Các tác giả cho rằng mức tăng chủ yếu đến từ chất lượng ngữ cảnh và các ràng buộc được cung cấp cho LLM chứ không phải khả năng viết mã Metal của nó, và cho biết phương pháp này không dành riêng cho MLX.

1 tháng 7Thứ Tư
  1. Modal Blog58

    Modal Research và MRP của HeavyBall mang đến dự đoán đa token cho các mô hình ngôn ngữ khuếch tán

    Modal Research và HeavyBall Research của NYU Shanghai giới thiệu Multi-token Residual Prediction (MRP), một mô-đun 3 lớp gắn vào backbone LM khuếch tán đóng băng, dự đoán phần dư logit giữa các bước thay vì toàn bộ phân phối bước tiếp theo. Trên SDAR-4B GSM8K, MRP giữ độ chính xác 70,9% ở K=3 so với 5,9% của chưng cất MTP thông thường, và trong SGLang đạt thông lượng lên tới 1,56 lần mà không mất mát ở chế độ suy đoán hoặc phục hồi tới +16 điểm chính xác dưới giải mã động ngưỡng thấp tích cực. Bài báo, mã nguồn, triển khai SGLang và các mô hình SDAR-MRP trên Hugging Face đã được phát hành.

29 tháng 4Thứ Tư
  1. Factory58

    Factory đánh giá 13 mô hình trên code review, nhận thấy GPT-5.2 tốt nhất và MiniMax M2.7 rẻ nhất

    Factory đã xây dựng một benchmark mã nguồn mở thử nghiệm 13 mô hình trên 50 pull request thực tế từ Sentry, Grafana, Keycloak, Discourse và Cal.com, với mỗi mô hình review mỗi PR ít nhất ba lần ở mức nỗ lực suy luận cao và một giám khảo LLM chấm điểm các phát hiện so với một golden set do con người tuyển chọn. GPT-5.2 dẫn đầu với 60,5% F1 với $1,25 mỗi PR, trước Claude Opus 4.6 với 59,8% F1 và $3,11 mỗi PR, trong khi MiniMax M2.7 đạt 45,6% F1 với $0,15 mỗi PR và Kimi K2.5 đạt 51,9% F1 với $0,41. Factory cho biết chi phí chỉ giải thích khoảng 21% phương sai chất lượng, và họ đã mã nguồn mở golden set, các script đánh giá và một Droid Action GitHub Action hỗ trợ cả 13 mô hình.

13 tháng 3Thứ Sáu
  1. Berkeley AI Research38

    Berkeley AI Research giới thiệu SPEX và ProxySPEX để xác định các tương tác ở quy mô lớn cho LLM

    Các nhà nghiên cứu của Berkeley AI Research mô tả SPEX và ProxySPEX, những thuật toán xác định các tương tác có ảnh hưởng giữa đặc trưng, dữ liệu và thành phần mô hình trong LLM ở quy mô vượt xa các phương pháp trước đây. SPEX định hình lại việc tìm kiếm tương tác như bài toán khôi phục thưa sử dụng tính thưa và bậc thấp, trong khi ProxySPEX khai thác cấu trúc phân cấp để đạt kết quả tương đương SPEX với số lần ablation ít hơn khoảng 10 lần. Trong phân tích cảm xúc, SPEX đạt độ trung thực ngang với Faith-Shap và Faith-Banzhaf trên đầu vào ngắn và duy trì được điều đó khi ngữ cảnh mở rộng đến hàng nghìn đặc trưng.