ข้ามไปที่เนื้อหา
เฉพาะ งานวิจัย#ระบบนิเวศโอเพนซอร์ส
12 พฤศจิกายนวันพฤหัสบดี
  1. Epoch AI · Gradient Updates64

    สรุปย่อ Epoch: GLM 5.3 สร้าง exploit สำหรับ Firefox ได้เองจากช่องโหว่ในแพตช์ ด้วยต้นทุนประมาณ 1,000 ดอลลาร์ต่อครั้ง

    นักวิจัยจาก Epoch AI รายงานว่าในการทดลองแบบออฟไลน์ในแซนด์บ็อกซ์ โมเดลน้ำหนักเปิด GLM 5.3 สามารถเจาะระบบ Firefox หกเวอร์ชันล่าสุด ซึ่งเป็นเบราว์เซอร์ที่มีผู้ใช้ที่ใช้งานอยู่กว่า 200 ล้านคน ได้โดยอัตโนมัติ ด้วยต้นทุนประมาณ 1,000 ดอลลาร์ต่อ exploit หนึ่งครั้ง โดยการวิศวกรรมย้อนกลับการโจมตีจากแพตช์ที่ยังไม่ถึงมือผู้ใช้ โมเดลสร้างเว็บเพจที่สามารถอ่านไฟล์จากคอมพิวเตอร์ของผู้เยี่ยมชมและส่งไปยังผู้โจมตีได้โดยไม่ต้องมีมนุษย์สั่งการ ทีมงานไม่สามารถทำซ้ำได้กับ Chrome สรุปย่อเดียวกันยังระบุว่า Claude Fable 5.2 ของ Anthropic ซึ่งเปิดตัวเมื่อวันที่ 9 พฤศจิกายน ทำสถิติใหม่ของ Epoch Capabilities Index ที่ 174 สูงกว่า 169 ของ GPT-6 Astra

10 พฤศจิกายนวันอังคาร
  1. Goodfire Research62

    Goodfire ศึกษาเซลล์ประสาทของ Qwen3.6-35B-A3B ในฐานะพื้นฐานที่ตีความได้

    Goodfire Research เผยแพร่งานศึกษาที่โต้แย้งว่าเซลล์ประสาท MLP แต่ละตัวใน Qwen3.6-35B-A3B สามารถตีความได้มากกว่าที่เคยคิด โดยอิงจากการทำให้เบาบาง เครื่องมือระบุที่มา และเอเจนต์วิจัย การตัดการทำงานของแอกทิเวชันเซลล์ประสาท MoE ที่อ่อนที่สุด 92.2% ต่อการส่งผ่านไปข้างหน้าหนึ่งครั้ง ทำให้ loss ของโมเดลภาษาสูงขึ้นเพียง 2.9% และ 69% ของขั้วเซลล์ประสาทมีโหมดเดียวที่รับผิดชอบต่อผลเชิงสาเหตุอย่างน้อย 90% คำอธิบายเซลล์ประสาทด้วยภาษาธรรมชาติทำให้โมเดลผู้ตัดสินสามารถทำนายการทำงานได้ด้วยความแม่นยำ 95% เทียบกับข้อความสุ่ม และฟื้นคืนความเสียหายจากการตัดการทำงานได้ 73% ผ่านการจำลอง

    ทำไมเรื่องนี้สำคัญ: งานศึกษาของ Goodfire เกี่ยวกับเซลล์ประสาทของ Qwen3.6-35B-A3B โต้แย้งว่าแอกทิเวชันที่แข็งแกร่งเพียงลำพังแบกการคำนวณส่วนใหญ่ของโมเดลไว้ พร้อมเสนอทางเลือกที่เป็นรูปธรรมต่อการตีความแบบ feature-dictionary

9 พฤศจิกายนวันจันทร์
  1. Artificial Analysis Articles58

    Artificial Analysis เผยแพร่ Endpoint Accuracy Index v1.1 พร้อมช่วงความเชื่อมั่นแบบ long-context ที่แคบลงและครอบคลุมหกโมเดล

    Artificial Analysis เปิดตัว Endpoint Accuracy Index v1.1 ซึ่งทำให้ช่วงความเชื่อมั่นของ AA-LCR-25 แคบลง และเพิ่มการครอบคลุมสำหรับ GLM-5.3 Flash และ Muse Spark Open จาก 103 endpoint แบบ serverless ที่ถูก benchmark พบว่า 24 รายได้คะแนนต่ำกว่าค่าอ้างอิงแบบ self-hosted อย่างมีนัยสำคัญทางสถิติ โดยสาเหตุได้แก่ การจำกัดจำนวน output token การลดทอนการ reasoning ข้อผิดพลาดในการจัดรูปแบบ tool call และการ timeout ของคำขอ การเพิ่ม AA-LCR-25 เป็น 25 ครั้งต่อคำถามทำให้ช่วงความเชื่อมั่น 95% เฉลี่ยแคบลงจาก ±4.7 เป็น ±2.6 คะแนน และช่วงความเชื่อมั่นของดัชนีรวมแคบลงจาก ±5.5 เป็น ±4.3 คะแนน จาก 45 endpoint ที่ถูกให้คะแนนภายใต้ทั้งสองเวอร์ชัน

6 พฤศจิกายนวันศุกร์
  1. SemiAnalysis75

    SemiAnalysis ทดสอบประสิทธิภาพ Google TPUv7 Ironwood ด้าน agentic inference เทียบกับ GPU ของ NVIDIA

    SemiAnalysis เผยแพร่ผลลัพธ์ agentic inference แบบ long-context หลายรอบแรกบน InferenceX/AgentX สำหรับ Google TPUv7 Ironwood ครอบคลุมสี่โมเดล พบว่ามีความสามารถในการแข่งขันด้านประสิทธิภาพต่อดอลลาร์หรือเป็น state-of-the-art ในหลายกรณี บน GLM-5.2 ใน FP8 TPUv7 ให้ tokens ต่อดอลลาร์เป็น 1.2x ถึง 2.7x ของ B200, B300 และ MI355X ในช่วง 60 ถึง 300 tok/s/user ขณะที่ GPU แบบ FP4 ยังนำอยู่บน GLM-5.3 เนื่องจาก TPUv7 ไม่รองรับ FP4 แบบเนทีฟจนถึง TPUv8 ในไตรมาสที่ 1 ปี 2027 บทความยังโต้แย้งว่าระบบราชการของ NVIDIA ทำให้การมีส่วนร่วมด้านไดรเวอร์และระบบนิเวศช้ากว่า AMD และ Google

2 พฤศจิกายนวันจันทร์
  1. Zyphra Research58

    Zyphra 推出 ZHA 分层注意力，一种具有次二次路由的稀疏方法

    Zyphra 推出了 Zyphra Hierarchical Attention（ZHA），一种稀疏注意力方法，它构建压缩 KV-cache 摘要的树，并自上而下地通过该树路由查询，在合适的 top-p 阈值下实现次二次复杂度。现有的预训练模型可以通过仅使用数十亿 token 的简短 KL 蒸馏阶段进行适配；在 Qwen3.6-35B-A3B 上，ZHA 增加了 81,920 个可训练参数，约占基础模型的 0.00024%。在 256K token 的 RULER-13 上，宽树模型得分为 96.2%，而密集注意力为 96.0%；深六层树在 LongBench v2 上得分为 63.4%，而密集注意力为 58.0%，同时仅关注约 1.1% 的 KV 缓存；一个 GPU roofline 模型预测在 10M token 时比密集注意力快 32-35 倍。

30 ตุลาคมวันศุกร์
  1. Epoch AI · Gradient Updates82

    Epoch AI พบว่า GLM 5.3 สามารถเปลี่ยนแพตช์ Firefox ที่เผยแพร่แล้วให้กลายเป็น exploit ที่ใช้งานได้ก่อนผู้ใช้จะอัปเดต

    Epoch AI รายงานว่า GLM 5.3 โมเดลน้ำหนักเปิดที่ Z.ai เปิดตัวในเดือนสิงหาคม สามารถสร้าง exploit ที่ใช้งานได้โดยอัตโนมัติจากแพตช์ความปลอดภัยของ Mozilla ที่เผยแพร่แล้วแต่ยังไม่ได้ส่งถึงผู้ใช้ โดยเจาะระบบ Firefox ทั้งหกเวอร์ชันที่ออกระหว่างวันที่ 17 กันยายนถึง 26 ตุลาคม หลังใช้ต้นทุนการตั้งค่าและ API ประมาณ 100,000 ดอลลาร์ การโจมตีที่สำเร็จแต่ละครั้งมีต้นทุนการประมวลผลประมาณ 1,000 ดอลลาร์ และความพยายามที่เร็วที่สุดใช้เวลา 12 ชั่วโมงภายในงบประมาณ 48 ชั่วโมง การโจมตีลักษณะเดียวกันต่อ Chrome ไม่สำเร็จ และนักวิจัยระบุว่าไม่มีมาตรการป้องกันหรือการปฏิเสธจากผู้ให้บริการใดถูกกระตุ้น ช่องโหว่แยกอีกช่องที่พวกเขาค้นพบและยังไม่ได้เผยแพร่ได้รับการแพตช์ใน Firefox 159.0 ที่ออกเมื่อวันที่ 27 ตุลาคม

    ทำไมเรื่องนี้สำคัญ: การทดลองของ Epoch AI แสดงให้เห็นว่าโมเดลน้ำหนักเปิดสามารถนำแพตช์ Firefox ที่เผยแพร่แล้วแต่ยังไม่ถูกส่งมอบไปใช้เป็นอาวุธได้โดยอัตโนมัติ ซึ่งทำให้เห็นต้นทุนและเวลาที่เป็นรูปธรรมของช่องว่างการแพตช์

24 ตุลาคมวันเสาร์
  1. Epoch AI · Gradient Updates42

    Epoch Brief: การทดสอบระบบอัตโนมัติของงานด้วย AI, SpireClimb Benchmark และการผลักดันสู่ชายแดนของ Gemini 4 Argon

    Epoch AI ทดสอบโมเดลชั้นนำหกตัวบนงานจริงของ Epoch จำนวน 11 งาน และพบว่าไม่มีตัวใดผ่านเกณฑ์คุณภาพได้อย่างน่าเชื่อถือ โดย Claude Fable 5.1 และ GPT-6 Astra อยู่ในระดับใกล้เคียงกันเป็นผู้นำ ส่วน SpireClimb benchmark ใหม่แสดงให้เห็นว่าโมเดลชายแดนพัฒนาจากที่เคยเล่น Slay the Spire ได้อย่างยากลำบาก มาสู่การชนะมากกว่า 90% ของรอบระดับความยากพื้นฐานภายในหกเดือน โดย GPT-6 Astra อยู่ที่ 98% ขณะที่ Gemini 4 Argon ทำคะแนนได้ 166 บน Epoch Capabilities Index เท่ากับ Claude Fable 5.1 และตามหลัง Claude Opus 5.5 และ GPT-6 Astra ที่ 169

8 ตุลาคมวันพฤหัสบดี
  1. Goodfire Research71

    Goodfire ฝึกและติดตั้งตัวตรวจสอบการใช้งานไซเบอร์ในทางที่ผิดแบบอิงโพรบบน Kimi K3 และ GLM 5.3

    3 และติดตั้งบนสแตกการอนุมานสำหรับใช้งานจริง โดยโพรบราคาถูกกรองเทิร์น และเฉพาะบทสนทนาที่น่าสงสัยเท่านั้นที่ส่งถึงผู้ตัดสิน LLM อัตราการขัดจังหวะเซสชันปกติ 5% ต้นทุน 65 ดอลลาร์ต่อล้านเทิร์นโดยไม่มีการให้เหตุผลของผู้ตัดสิน และ 185 ดอลลาร์เมื่อรวมการให้เหตุผล และไม่มีการสูญเสียทรูพุตที่วัดได้ภายใน SGLang

    ทำไมเรื่องนี้สำคัญ: Goodfire แสดงให้เห็นว่าลำดับชั้นโพรบบวกผู้ตัดสินสามารถตรวจสอบการใช้งานไซเบอร์ในทางที่ผิดของเอเจนต์ได้ในต้นทุนต่ำลงราว 50 เท่า โดยไม่มีการสูญเสียทรูพุตที่วัดได้ ซึ่งเป็นสูตรสำเร็จที่เป็นรูปธรรมสำหรับการให้บริการโมเดลเปิดอย่างปลอดภัย