Kiểm toán Lean phát hiện lỗi làm tròn dấu phẩy động trong các toán tử của PyTorch, JAX và TensorFlow
Bắt đầu từ đây
Một cuộc kiểm toán dựa trên Lean đối với 162 mục toán tử TorchLean, được đối chiếu với PyTorch, JAX, TensorFlow, NumPy, CuPy, ONNX Runtime và MLX trên khoảng 780 triệu đầu ra, đã phát hiện lỗi làm tròn dấu phẩy động trong mã được sử dụng rộng rãi, bao gồm PyTorch, JAX, TensorFlow Probability, diffusers, PyTorch Geometric và xLSTM; một số lỗi chưa từng được báo cáo trước đây. Trong đợt quét Lean, 57.547 đầu ra (96,8%) khớp với kết quả chính xác được làm tròn một lần, trong khi 1.329 đầu ra khớp với chuỗi phép toán làm tròn được chỉ định của TorchLean. Cuộc kiểm toán được xây dựng dựa trên FloatLib, một thư viện Lean cho số học dấu phẩy động độ chính xác tùy ý, với chiến thuật roundoff chứng minh các giới hạn sai số. Tác giả lưu ý rằng việc chứng minh một công thức đúng trên số thực không thiết lập được độ chính xác dấu phẩy động của nó.
Tạo từ các bài viết · cập nhật 20 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Hacker News · AIKiểm toán dựa trên Lean phát hiện lỗi làm tròn trong softmax và các toán tử khác trên PyTorch, JAX và TensorFlow
Một cuộc kiểm toán dựa trên Lean đối với 162 mục toán tử TorchLean, so sánh với PyTorch, JAX, TensorFlow, NumPy, CuPy, ONNX Runtime và MLX trên khoảng 780 triệu đầu ra, đã phát hiện lỗi làm tròn dấu phẩy động trong mã được sử dụng rộng rãi bao gồm PyTorch, JAX, TensorFlow Probability, diffusers, PyTorch Geometric và xLSTM, trong đó nhiều lỗi chưa từng được báo cáo trước đây. Trong đợt quét Lean, 57.547 đầu ra (96,8%) khớp với kết quả chính xác được làm tròn một lần, trong khi 1.329 đầu ra khớp với chuỗi phép toán làm tròn được chỉ định của TorchLean. Công trình này xây dựng trên FloatLib, một thư viện Lean cho số học dấu phẩy động độ chính xác tùy ý với chiến lược roundoff chứng minh các giới hạn sai số, và tác giả lưu ý rằng việc chứng minh một công thức đúng trên số thực không thiết lập được độ chính xác dấu phẩy động của nó.
Độ nóng của sự việc này
- Hiện tại, trong khoảng so sánh được
- 6
- Đỉnh, trong khoảng so sánh được
- 1017 tháng 11 13:00
- Thay đổi trong 24 giờ
- –
Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.