Bài báo về lớp phía máy chủ AXI báo cáo kết quả kiểm thử đăng ký trước
Bắt đầu từ đây
Rajnish Choubey và Shalendra Gaur đã công bố một bài báo báo cáo các bài kiểm thử đăng ký trước của AXI, một lớp phía máy chủ giữ trạng thái chính xác của một tác vụ AI bên ngoài cuộc trò chuyện và kiểm tra từng phản hồi bằng một cổng tất định trước khi áp dụng. Các tác giả báo cáo trạng thái chính xác trên 1.500 trong 1.500 bước, lời nhắc nhỏ hơn trung bình 169 lần, và một bước chính xác rẻ hơn 4,5 đến 9,3 lần. Các bài kiểm thử bao gồm Gemini 3.8 Flash, các mô hình mở, GPU NVIDIA T4 và L4, và một TPU v6e của Google. Cùng các lần chạy đó báo cáo số phiên nhiều hơn tới 185 lần trên mỗi chip nhờ dư địa bộ nhớ. Các tác giả nói rằng các dự đoán đã được khóa bằng hàm băm trước mỗi lần chạy và mọi con số đều có thể tính lại từ các tệp đã lưu; đây là các kết quả được bài báo báo cáo, không phải các kết quả đã được xác minh độc lập.
Tạo từ các bài viết · cập nhật 12 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIKhung AXI: Một lớp phía máy chủ để cắt giảm chi phí tác vụ AI
AXI là một lớp phía máy chủ giữ trạng thái chính xác của một tác vụ AI bên ngoài cuộc trò chuyện và kiểm tra từng phản hồi bằng một cổng tất định trước khi áp dụng nó. Các bài kiểm tra đăng ký trước trên Gemini 3.8 Flash, các mô hình mở, NVIDIA T4 và L4, và Google TPU v6e báo cáo trạng thái chính xác trên 1.500 trong số 1.500 bước, prompt nhỏ hơn trung bình 169 lần, và một bước chính xác rẻ hơn 4,5 đến 9,3 lần. Cùng các bài kiểm tra đó báo cáo số phiên nhiều hơn tới 185 lần trên mỗi chip nhờ dư địa bộ nhớ, với các dự đoán được khóa bằng hàm băm trước mỗi lần chạy.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 7
- Đỉnh, trong khoảng so sánh được
- 1016 tháng 11 05:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.