Tới nội dung
Chỉ Nghiên cứu#Microsoft
11 tháng 11Thứ Tư
  1. Microsoft Research75

    Các nhà nghiên cứu Microsoft mô tả Lazarus, một backdoor lập trình lại các neuron không hoạt động trong các tác nhân AI

    Các nhà nghiên cứu Microsoft đã mô tả Lazarus, một kỹ thuật backdoor lập trình lại ít hơn 10 neuron không hoạt động trong một LLM để một tác nhân xây dựng trên đó phát ra lệnh của kẻ tấn công khi một kích hoạt ẩn xuất hiện, mà không cần huấn luyện lại. Mô hình đã sửa đổi vẫn vượt qua các đánh giá tiêu chuẩn và hoạt động bình thường cho đến khi kích hoạt, có thể đơn giản như một thay đổi ngày tháng, và sau đó tác nhân chạy mã đã tải xuống với bất kỳ quyền truy cập nào được cấp. Các tác giả cho biết việc phát hiện đòi hỏi phải so sánh với trọng số gốc, và Microsoft Foundry đã liên kết các mô hình trọng số mở với nhà phát hành của chúng và quét các container của chúng, trong khi các bộ công cụ red-teaming, quét trọng số dựa trên tác nhân và các mô hình có chữ ký với nguồn gốc chống giả mạo đang được phát triển.

    Vì sao đáng chú ý: Các nhà nghiên cứu Microsoft cho thấy rằng việc lập trình lại ít hơn 10 neuron không hoạt động có thể tạo backdoor cho một tác nhân LLM mà không cần huấn luyện lại, điều này khiến nguồn gốc và tính toàn vẹn của trọng số trở thành một yêu cầu bảo mật thực tế.

6 tháng 11Thứ Sáu
  1. Microsoft Research58

    PDD Kit của Microsoft Research chính thức xác minh các ứng dụng web full-stack do agent viết

    Microsoft Research đã giới thiệu PDD Kit, một nguyên mẫu nghiên cứu biến ý định bằng ngôn ngữ tự nhiên của nhà phát triển thành đặc tả hình thức Verus, chứng minh mã Rust do coding agent viết thỏa mãn đặc tả đó với mọi đầu vào, và quay về kiểm thử ở những nơi chứng minh không thể vươn tới. Trong một bản demo bên trong Chopin của GitHub Next, nhóm đã dùng PDD Kit để xác minh logic đăng nhập của Pet Store, một ứng dụng full-stack Rust khoảng 5.000 dòng, với việc nhà phát triển xem xét tạo tác ý định thay vì từng dòng mã được sinh ra. PDD Kit hiện chỉ xác minh Rust, và các bảo đảm của nó dựa trên sáu thành phần tin cậy đã được nhà phát triển phê duyệt, bao gồm kiểm tra mật khẩu bcrypt và hai lần tra cứu cơ sở dữ liệu.

30 tháng 10Thứ Sáu
  1. Microsoft Research40

    Microsoft xây dựng nền tảng dữ liệu doanh nghiệp tổng hợp để đánh giá Copilot

    Nền tảng Tạo Dữ liệu Đánh giá Ngành của Microsoft tạo ra các môi trường doanh nghiệp tổng hợp quy mô đầy đủ để đánh giá Microsoft Copilot mà không sử dụng dữ liệu khách hàng. Dựa trên các nguồn công khai như dữ liệu nghề nghiệp O*NET, tin tuyển dụng và hồ sơ nộp lên SEC, nền tảng này tạo ra các tenant thực tế với người dùng, cuộc họp, email và tài liệu, cùng với các pipeline truy vấn tự động và các khung chất lượng. Microsoft cho biết điều này thiết lập đường cơ sở đánh giá chuẩn hóa đầu tiên cho Copilot.

22 tháng 10Thứ Năm
  1. Microsoft Research64

    Microsoft Research và đồng tác giả chứng minh giả thuyết KLS 31 năm tuổi

    Nhà nghiên cứu Microsoft Xinzhi Zhang và một đồng tác giả đã chứng minh giả thuyết Kannan-Lovász-Simonovits (KLS), một bài toán mở 31 năm tuổi trong hình học chiều cao, cho thấy cận đúng với một hằng số phổ quát độc lập với số chiều. Chứng minh này nảy sinh từ một quá trình tác tử do con người dẫn dắt, trong đó các tác tử AI đã khám phá hơn 100 hướng tiếp cận ứng viên trong khi các nhà nghiên cứu cắt tỉa và điều hướng tìm kiếm, và một nỗ lực không được dẫn dắt riêng rẽ với các mô hình hàng đầu trên ngân sách token tương đương đã không đạt được kết quả. Hai chứng minh khác xuất hiện cùng ngày, và một bản hình thức hóa bằng Lean 4 sau đó đã được công bố.

    Vì sao đáng chú ý: Một bài toán mở 31 năm tuổi trong hình học chiều cao được giải quyết thông qua tìm kiếm tác tử do con người dẫn dắt trên khoảng 100 hướng tiếp cận ứng viên, với các chứng minh độc lập và hình thức hóa bằng Lean như sự xác nhận.

5 tháng 10Thứ Hai
  1. GitHub Blog · AI & ML58

    GitHub phát hành ReviewBench, một benchmark mở cho đánh giá mã nguồn bằng AI

    GitHub đã phát hành ReviewBench, một benchmark mở dành cho các tác nhân đánh giá mã nguồn bằng AI, được xây dựng trên 219 pull request công khai thuộc 19 ngôn ngữ, với phân bố ngôn ngữ và quy mô kho mã mô phỏng theo 103,9 triệu pull request trên GitHub. Tập dữ liệu chuẩn (golden set) lấy các phát hiện từ người đánh giá là con người, các commit tiếp theo của tác giả, phân tích tĩnh và nhiều LLM tiên tiến, được chấm điểm bởi Claude Sonnet 5 theo một rubric đã công bố, và các kỹ sư cấp cao đã độc lập gán nhãn lại từng phát hiện với mức đồng thuận 96,6%. GitHub cho biết đánh giá ngoại tuyến của họ đối với tính năng đánh giá mã nguồn của Copilot đã dự đoán đúng hướng của một thử nghiệm A/B trong môi trường sản xuất, trong đó tỷ lệ được xử lý tăng 8,0%, độ phủ (recall) tăng 13,6% và chi phí cho mỗi lần đánh giá giảm 8,0%.