Tới nội dung
Chỉ Nghiên cứu#Hệ sinh thái mã nguồn mở
12 tháng 11Thứ Năm
  1. Epoch AI · Gradient Updates64

    Epoch Brief: GLM 5.3 tự động xây dựng exploit Firefox từ lỗ hổng bản vá với chi phí khoảng 1.000 USD mỗi cái

    Các nhà nghiên cứu của Epoch AI báo cáo rằng trong các thí nghiệm sandbox ngoại tuyến, mô hình trọng số mở GLM 5.3 đã tự động xâm nhập sáu phiên bản Firefox gần đây, một trình duyệt có hơn 200 triệu người dùng hoạt động, với chi phí khoảng 1.000 USD mỗi exploit bằng cách kỹ nghệ đảo ngược các cuộc tấn công từ những bản vá chưa đến tay người dùng. Mô hình đã tạo ra các trang web có thể đọc tệp từ máy tính của khách truy cập và gửi chúng đến kẻ tấn công mà không cần con người can thiệp; nhóm nghiên cứu không thể tái tạo điều này với Chrome. Bản tóm tắt tương tự cũng ghi nhận rằng Claude Fable 5.2 của Anthropic, phát hành ngày 9 tháng 11, đã lập kỷ lục mới của Chỉ số Năng lực Epoch là 174, cao hơn mức 169 của GPT-6 Astra.

10 tháng 11Thứ Ba
  1. Goodfire Research62

    Goodfire nghiên cứu các neuron của Qwen3.6-35B-A3B như một nền tảng có thể diễn giải

    Goodfire Research đã công bố một nghiên cứu lập luận rằng các neuron MLP riêng lẻ trong Qwen3.6-35B-A3B có thể diễn giải được hơn so với giả định, dựa trên các công cụ thưa hóa, quy gán và các tác nhân nghiên cứu. Việc loại bỏ 92,2% kích hoạt neuron MoE yếu nhất mỗi lượt truyền xuôi chỉ làm tăng mất mát của mô hình ngôn ngữ thêm 2,9%, và 69% các cực neuron có một chế độ duy nhất chịu trách nhiệm cho ít nhất 90% hiệu ứng nhân quả của chúng. Các mô tả neuron bằng ngôn ngữ tự nhiên cho phép một mô hình giám khảo dự đoán việc kích hoạt với độ chính xác 95% so với văn bản ngẫu nhiên và phục hồi 73% thiệt hại do loại bỏ thông qua mô phỏng.

    Vì sao đáng chú ý: Nghiên cứu của Goodfire về các neuron của Qwen3.6-35B-A3B lập luận rằng chỉ riêng các kích hoạt mạnh đã mang phần lớn tính toán của mô hình, đưa ra một giải pháp thay thế cụ thể cho cách diễn giải bằng từ điển đặc trưng.

9 tháng 11Thứ Hai
  1. Artificial Analysis Articles58

    Artificial Analysis phát hành Chỉ số Độ chính xác Endpoint v1.1 với khoảng tin cậy long-context chặt chẽ hơn và phạm vi bao phủ sáu mô hình

    Artificial Analysis đã ra mắt Chỉ số Độ chính xác Endpoint v1.1, thu hẹp khoảng tin cậy AA-LCR-25 và bổ sung phạm vi bao phủ cho GLM-5.3 Flash và Muse Spark Open. Trong số 103 endpoint serverless được đánh giá chuẩn, 24 endpoint có điểm số thấp hơn đáng kể về mặt thống kê so với tham chiếu tự lưu trữ, với các nguyên nhân bao gồm giới hạn token đầu ra, giảm suy luận, lỗi định dạng gọi công cụ và hết thời gian yêu cầu. Việc nâng AA-LCR-25 lên 25 lần lặp lại mỗi câu hỏi thu hẹp khoảng tin cậy 95% trung bình từ ±4,7 xuống ±2,6 điểm, và khoảng tin cậy của chỉ số tổng hợp từ ±5,5 xuống ±4,3 điểm trên 45 endpoint được chấm điểm theo cả hai phiên bản.

6 tháng 11Thứ Sáu
  1. SemiAnalysis75

    SemiAnalysis đánh giá Google TPUv7 Ironwood trên suy luận tác tử so với GPU NVIDIA

    SemiAnalysis công bố kết quả suy luận tác tử đa lượt, ngữ cảnh dài đầu tiên trên InferenceX/AgentX cho Google TPUv7 Ironwood trên bốn mô hình, nhận thấy nó cạnh tranh về hiệu năng trên mỗi đô la hoặc đạt mức tiên tiến trong một số trường hợp. Trên GLM-5.2 ở FP8, TPUv7 đạt 1,2x đến 2,7x số token trên mỗi đô la so với B200, B300 và MI355X từ 60 đến 300 tok/s/người dùng, trong khi GPU FP4 vẫn dẫn đầu trên GLM-5.3 vì TPUv7 thiếu hỗ trợ FP4 gốc cho đến TPUv8 vào Q1 2027. Bài viết cũng lập luận rằng bộ máy quan liêu của NVIDIA làm chậm các đóng góp driver và hệ sinh thái so với AMD và Google.

2 tháng 11Thứ Hai
  1. Zyphra Research58

    Zyphra giới thiệu ZHA hierarchical attention, một phương pháp thưa với định tuyến dưới bậc hai

    Zyphra đã giới thiệu Zyphra Hierarchical Attention (ZHA), một phương pháp attention thưa xây dựng một cây các bản tóm tắt KV-cache nén và định tuyến các truy vấn từ trên xuống qua cây đó, mang lại độ phức tạp dưới bậc hai với các ngưỡng top-p phù hợp. Các mô hình đã được huấn luyện trước hiện có thể được thích nghi thông qua một giai đoạn chưng cất KL ngắn chỉ sử dụng vài tỷ token; trên Qwen3.6-35B-A3B, ZHA thêm 81.920 tham số có thể huấn luyện, khoảng 0,00024% của mô hình cơ sở. Trên RULER-13 ở 256K token, mô hình cây rộng đạt 96,2% so với 96,0% của dense attention, và cây sâu sáu tầng đạt 63,4% trên LongBench v2 so với 58,0% của dense trong khi chỉ chú ý đến khoảng 1,1% của KV cache; một mô hình roofline trên GPU dự báo tốc độ nhanh hơn 32-35 lần so với dense attention ở 10M token.

30 tháng 10Thứ Sáu
  1. Epoch AI · Gradient Updates82

    Epoch AI phát hiện GLM 5.3 có thể biến các bản vá Firefox đã công bố thành exploit hoạt động trước khi người dùng cập nhật

    Epoch AI báo cáo rằng GLM 5.3, một mô hình trọng số mở do Z.ai phát hành vào tháng 8, đã tự động xây dựng các exploit hoạt động từ các bản vá bảo mật của Mozilla đã được công bố nhưng chưa phát hành tới người dùng, xâm phạm cả sáu phiên bản Firefox phát hành từ ngày 17 tháng 9 đến ngày 26 tháng 10. Sau khoảng 100.000 USD chi phí thiết lập và API, mỗi cuộc tấn công thành công tốn khoảng 1.000 USD chi phí tính toán, và nỗ lực nhanh nhất mất 12 giờ trong ngân sách 48 giờ. Các cuộc tấn công tương tự nhắm vào Chrome đã không thành công, và các nhà nghiên cứu cho biết không có biện pháp bảo vệ hay từ chối nào của nhà cung cấp bị kích hoạt; một lỗ hổng chưa công bố riêng biệt mà họ phát hiện đã được vá trong bản phát hành Firefox 159.0 ngày 27 tháng 10.

    Vì sao đáng chú ý: Thí nghiệm của Epoch AI cho thấy một mô hình trọng số mở tự động vũ khí hóa các bản vá Firefox đã công bố nhưng chưa phát hành, đưa ra con số cụ thể về chi phí và thời gian cho khoảng trống vá lỗi.

24 tháng 10Thứ Bảy
  1. Epoch AI · Gradient Updates42

    Epoch Brief: Thử nghiệm tự động hóa công việc bằng AI, Chuẩn đánh giá SpireClimb và bước tiến biên giới của Gemini 4 Argon

    Epoch AI đã thử nghiệm sáu mô hình hàng đầu trên 11 nhiệm vụ công việc thực tế của Epoch và nhận thấy không mô hình nào có thể đáp ứng đáng tin cậy tiêu chuẩn chất lượng của mình, với Claude Fable 5.1 và GPT-6 Astra gần như ngang bằng nhau ở vị trí dẫn đầu. Chuẩn đánh giá SpireClimb mới của họ cho thấy các mô hình biên giới đã đi từ chỗ chật vật với Slay the Spire đến chỗ thắng hơn 90% các lượt chơi ở độ khó cơ bản trong sáu tháng, với GPT-6 Astra đạt 98%. Gemini 4 Argon đạt 166 điểm trên Chỉ số Năng lực Epoch, ngang bằng với Claude Fable 5.1 và xếp sau Claude Opus 5.5 và GPT-6 Astra ở mức 169.

8 tháng 10Thứ Năm
  1. Goodfire Research71

    Goodfire huấn luyện và triển khai các bộ giám sát lạm dụng không gian mạng dựa trên probe trên Kimi K3 và GLM 5.3

    3 và triển khai chúng trên một ngăn xếp suy luận production, nơi một probe rẻ tiền lọc các lượt và chỉ những trao đổi đáng ngờ mới đến một LLM judge. Tỷ lệ gián đoạn phiên lành tính 5%, chi phí 65 đô la cho mỗi triệu lượt không có suy luận của judge và 185 đô la khi có nó, và không thêm tổn thất thông lượng đo được nào bên trong SGLang.

    Vì sao đáng chú ý: Goodfire cho thấy một chuỗi probe-cộng-judge có thể giám sát lạm dụng không gian mạng tác tử với chi phí thấp hơn khoảng 50 lần mà không có tổn thất thông lượng đo được, một công thức cụ thể để phục vụ các mô hình mở một cách an toàn.