Tới nội dung
Sự việc nóngĐang diễn ra

inclusionAI phát hành đầu dò guardrail dạng streaming cho Ling-3.1-flash-1019

1 bài viết1 nguồn đưa tinCập nhật 16 giờ trước

Bắt đầu từ đây

Tóm tắt AI

inclusionAI đã phát hành Ling-3.1-flash-1019-singprobe, một đầu dò guardrail dạng streaming gắn vào mô hình Ling-3.1-flash-1019 và chấm điểm ý định truy vấn, mức không an toàn của phản hồi và rủi ro ảo giác tại mỗi token. Đầu dò đọc các trạng thái ẩn tại lớp 23, 47 và 71 và có 8,13M tham số; trọng số được phát hành dùng bfloat16, với ngưỡng hiệu chỉnh là 0,5 cho mức không an toàn của phản hồi và 0,5 cho ảo giác. inclusionAI báo cáo F1 là 0,8687 trên ý định truy vấn và 0,8707 trên an toàn phản hồi, cùng với AUC phản hồi 0,9844 và AUC token 0,9411 trên an toàn streaming, với tỷ lệ dương tính giả 0,008% trên các phản hồi lành tính. Đây là các số liệu của chính nhà phát hành và chưa được xác minh độc lập.

Tạo từ các bài viết · cập nhật 7 giờ trước

Dòng thời gian bài viết

Theo các bài viết để thấy sự việc từ nhiều phía.

19 tháng 11
  1. inclusionAI Models
    Ling-3.1-flash-1019-singprobe: Một đầu dò hàng rào bảo vệ dạng luồng cho Ling-3.1-flash-1019

    Ling-3.1-flash-1019-singprobe là một hàng rào bảo vệ dạng luồng nội tại cho Ling-3.1-flash-1019, khai thác các trạng thái ẩn tại lớp 23, 47 và 71 bằng một đầu dò 8,13M tham số để chấm điểm ý định truy vấn, tính không an toàn của phản hồi và rủi ro ảo giác tại mỗi token. Nó đạt F1 0,8687 về ý định truy vấn và 0,8707 về an toàn phản hồi, cùng với AUC phản hồi 0,9844 và AUC token 0,9411 về an toàn dạng luồng, với tỷ lệ dương tính giả trên phản hồi lành tính là 0,008%.

Độ nóng của sự việc này

Hiện tại, trong khoảng so sánh được
6
Đỉnh, trong khoảng so sánh được
819 tháng 11 20:00
Thay đổi trong 24 giờ
–

Xu hướng so sánh cùng một nhóm người tham gia trong những giờ được quan sát liên tục, nên khoảng của nó có thể hẹp hơn số độ nóng hiện tại. Rê chuột hoặc chạm vào biểu đồ để xem độ nóng theo giờ; các phím mũi tên di chuyển qua biểu đồ.