inclusionAI เปิดตัว SingProbe Streaming Guardrail สำหรับ DeepSeek-V4.1-Flash
เริ่มตรงนี้
inclusionAI เปิดตัว SingProbe ซึ่งเป็นโพรบกันชนแบบสตรีมมิ่งสำหรับ DeepSeek-V4.1-Flash-1017 ที่อ่านสถานะซ่อนสามชั้นของโมเดลฐานระหว่างการสร้าง และให้คะแนนเจตนาของคำถาม ความไม่ปลอดภัยของคำตอบ และความเสี่ยงของการสร้างข้อมูลเท็จในแต่ละโทเคน โพรบขนาด 10.10M พารามิเตอร์นี้เข้าถึงเลเยอร์ที่ 12, 25 และ 39 ด้วย 8 attention heads ขนาดมิติหัว 64 และหน้าต่าง 2,048 โทเคน น้ำหนัก bfloat16 ของมันเปิดเผยต่อสาธารณะ inclusionAI รายงานค่า F1 ที่ 0.8756 สำหรับเจตนาของคำถาม และ 0.8668 สำหรับความปลอดภัยของคำตอบ โดยมี streaming AUC ที่ 0.9907 และ hallucination AUC ที่ 0.7951 เกณฑ์การเปิดตัวถูกปรับเทียบที่ 0.5 สำหรับความไม่ปลอดภัยของคำตอบ และ 0.5 สำหรับการสร้างข้อมูลเท็จ การรันต้องใช้บิลด์ token-probe จาก SGLang สาขา 261029 ติดตั้ง wheel เมานต์ไดเรกทอรีโมเดลทั้งสอง และใช้ GPU H20 แปดตัว
สร้างจากรายงาน · อัปเดต 7 ชม. ที่แล้ว
ไทม์ไลน์รายงาน
ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน
- inclusionAI ModelsDeepSeek-V4.1-Flash-1017-singprobe: เปิดตัว SingProbe การ์ดเรลสตรีมมิ่ง
SingProbe เป็นการ์ดเรลสตรีมมิ่งแบบอินทรินซิกสำหรับ DeepSeek-V4.1-Flash-1017 ที่อ่านสถานะซ่อนสามชั้นของโมเดลฐานระหว่างการสร้าง และให้คะแนนเจตนาของคำถาม ความไม่ปลอดภัยของคำตอบ และความเสี่ยงของการหลอนที่แต่ละโทเค็น โพรบขนาด 10.10M พารามิเตอร์นี้แตะเลเยอร์ 12, 25 และ 39 ด้วย 8 หัวความสนใจ มิติหัว 64 และหน้าต่าง 2,048 โทเค็น และเปิดเผยน้ำหนัก bfloat16 แล้ว โดยได้คะแนน F1 0.8756 สำหรับเจตนาของคำถาม และ 0.8668 สำหรับความปลอดภัยของคำตอบ พร้อม AUC แบบสตรีมมิ่ง 0.9907 และ AUC ของการหลอน 0.7951
ความร้อนแรงของเหตุการณ์นี้
- ช่วงปัจจุบันที่เทียบได้
- 6
- จุดสูงสุดในช่วงที่เทียบได้
- 819 พฤศจิกายน 20:00
- การเปลี่ยนแปลงใน 24 ชั่วโมง
- –
แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู