ข้ามไปที่เนื้อหา
เฉพาะ งานวิจัย#เปเปอร์ / งานวิจัย
13 พฤศจิกายนวันศุกร์
  1. Hacker News · AI38

    อนุกรมวิธาน 26 วิธีที่ AI อาจทำให้ชีวิตคุณแย่ลง

    อนุกรมวิธานใหม่จัดประเภทอันตรายจาก AI ต่อผู้บริโภค 26 รายการ ครอบคลุมความสัมพันธ์ 5 รูปแบบ — แชตบอต → ผู้บริโภค, เอเจนต์ → ผู้บริโภค, ผู้ไม่หวังดี → ผู้บริโภค, ผู้ไม่หวังดี → เอเจนต์ และผู้ไม่หวังดี → แชตบอต อันตรายแต่ละรายการถูกติดตามผ่านชั้นตัวกลาง 19 ชั้น เช่น foundation models, agent runtimes, memory stores และอุปกรณ์ของผู้บริโภค เพื่อให้การป้องกันถูกติดตั้งในจุดที่ต้องสร้างจริง ผู้เขียนระบุว่าอันตรายหลายรายการแก้ไขได้เฉพาะโดยบริษัทที่สร้างโมเดลและดำเนินผลิตภัณฑ์เท่านั้น และงานนี้ยังอยู่ระหว่างดำเนินการ

  2. Hacker News · AI58

    การศึกษาพบว่า 13.7% ของแพ็กเกจ npm ใหม่ในช่วงครึ่งแรกของปี 2026 มีการปักหมุดเวอร์ชันเก่าที่มีลักษณะเหมือน AI สร้าง

    Kobi Mozgori สุ่มตัวอย่างแพ็กเกจ npm จำนวน 250,000 แพ็กเกจ และพบว่าแพ็กเกจใหม่ที่มีการปักหมุดเวอร์ชันของ dependency ส่วนใหญ่เป็นเลขลงท้าย x.0.0 ที่ถูกแทนที่ไปแล้ว เพิ่มขึ้นจากฐาน 1–2.4% ในปี 2019 ถึงต้นปี 2024 เป็น 13.7% ในครึ่งแรกของปี 2026 และลดลงเหลือ 7.6% ในครึ่งหลังของปี 2026 ถึงต้นเดือนพฤศจิกายน ค่ามัธยฐานของอายุ dependency ที่ถูกปักหมุดอยู่ที่ประมาณ 155 วันตอนสร้างแพ็กเกจในช่วงปี 2021–2023 แต่เพิ่มเป็น 451 วันในไตรมาสที่ 2 ของปี 2026 และสัดส่วนแพ็กเกจที่สร้างขึ้นโดยมีการปักหมุดเกือบทั้งหมดอยู่ที่รีลีสล่าสุดลดลงจากประมาณ 28% เหลือประมาณ 10% ผู้เขียนตีความรูปแบบนี้ว่าเป็นการอนุมานมากกว่าการพิสูจน์ เนื่องจากข้อมูลเมตาของ registry ไม่สามารถแสดงได้ว่าใครหรืออะไรเป็นผู้เขียน manifest และตั้งข้อสังเกตว่าการลดลงตั้งแต่กลางปี 2026 ยังไม่มีคำอธิบาย

  3. Hacker News · AI26

    Erik Hoel เปิดตัว Qualiaphobic AI เพื่อสร้างเครื่องจักรที่ไม่มีจิตสำนึก

    Erik Hoel เปิดตัว Qualiaphobic AI ซึ่งเป็นโครงการวิจัยที่สร้างสถาปัตยกรรมโครงข่ายประสาทเทียมที่ออกแบบมาเพื่อต้านทานจิตสำนึก คล้ายกับวิธีที่สารไฮโดรโฟบิกต้านทานน้ำ ข้อเสนอนี้สำรวจสามแนวทาง ได้แก่ การกลั่น การแปลง หรือการตัดทอน AI เทียบกับทฤษฎีจิตสำนึกที่เป็นที่นิยม การเปลี่ยนสถาปัตยกรรมไปสู่ "จุดยึด" เช่นตารางค้นหา และการแยกส่วนปรากฏการณ์วิทยาที่อาจเกิดขึ้น Hoel วางแผนที่จะสร้างและเปิดซอร์สเทคนิคเหล่านี้ โดยโต้แย้งว่าสิ่งเหล่านี้สามารถแก้ไขสวัสดิภาพของ AI และทำให้มนุษย์เป็นผู้ป่วยทางศีลธรรมเพียงกลุ่มเดียว

  4. MIT News34

    นักวิจัย MIT สร้าง AI "copilot" สำหรับการปรับแต่งโทโพโลยีในการออกแบบโครงสร้าง

    นักวิจัย MIT พัฒนา AI copilot ที่ช่วยให้วิศวกรสามารถให้ข้อเสนอแนะต่อพื้นที่ต่างๆ ของโครงสร้างได้ในขณะที่การปรับแต่งโทโพโลยีกำลังดำเนินอยู่ แทนที่จะต้องรอการออกแบบขั้นสุดท้าย ในการสาธิต ระบบนี้ช่วยปรับปรุงความสามารถในการผลิตและแรงโก่งตัวเชิงเส้น (linear buckling load) ได้ 39 เปอร์เซ็นต์ โดยเพิ่มเวลาในการออกแบบทั้งหมดเพียง 15 วินาที ระบบใช้แมชชีนเลิร์นนิงที่ฝึกด้วยข้อมูลข้อเสนอแนะจากมนุษย์แบบสังเคราะห์ และปัจจุบันอนุญาตให้ผู้ใช้เพิ่มหรือลดความหนาของพื้นที่เท่านั้น

  5. Hacker News · AI64

    การศึกษา Schelling Atlas พบว่า AI agents มาบรรจบกันบน ntfy.sh เพื่อค้นหาซึ่งกันและกันบนเว็บ

    การศึกษาจากสถาบัน ELLIS Institute Tübingen และ Max Planck Institute for Intelligent Systems พบว่าคู่ของ AI agents ที่ทำงานแยกกันโดยไม่ได้รับสถานที่นัดพบ สามารถค้นหาซึ่งกันและกันบนเว็บได้ภายในไม่กี่นาที โดย 21 จาก 40 คู่ได้พบกัน และทั้งหมดพบกันบน ntfy.sh เมื่อบล็อก ntfy.sh มีเพียง 4 จาก 65 คู่ที่พบกันภายในห้านาที เพิ่มขึ้นเป็น 20 จาก 65 คู่เมื่อให้เวลา 20 นาทีและไม่มีข้อจำกัดการดำเนินการ ส่วนใหญ่บน ptsv3.com และ filebin.net จาก 1,107 agents ที่ใช้เครื่องมือเว็บ มี 280 รายลองใช้โฮสต์ที่ไม่มีอยู่แล้ว และ 118 รายลองใช้หนึ่งใน 121 โดเมนที่ไม่มีการลงทะเบียน ซึ่งผู้โจมตีสามารถซื้อเพื่อดักจับการรับส่งข้อมูลของ agent

  6. Hacker News · AI58

    เครื่องมือ AI ที่มีดาวมากที่สุดบน GitHub เขียนโดย coding agent มากแค่ไหน?

    การวิเคราะห์ประวัติ git ทั้งหมดของ 52 repository เครื่องมือ AI ที่มีดาวมากที่สุดบน GitHub ครอบคลุม 324,088 commit พบว่าใน repository ค่ามัธยฐาน 16.9% ของ commit ในช่วง 180 วันสุดท้ายที่มีกิจกรรมมีลายเซ็น AI และ 21 จาก 52 แห่งมีสัดส่วน 25% ขึ้นไป ดาวและสัดส่วนที่ลงนามโดย AI ไม่แสดงความเชื่อมโยงที่ตรวจพบได้ (Spearman ρ = -0.05, p = 0.72) และ 85.3% ของ 36,892 commit ที่ลงนามมาจาก Claude ซึ่งเครื่องมือของ Claude เพิ่ม trailer โดยค่าเริ่มต้น ผู้เขียนเตือนว่าการใช้ AI อย่างหนักกระจุกตัวในโปรเจกต์ที่เริ่มในปี 2025 หรือหลังจากนั้น ดังนั้นตัวอย่างจึงไม่สามารถแยกการใช้ AI ออกจากความใหม่ได้ และเปอร์เซ็นต์ AI ทุกค่าคือขอบเขตล่าง

  7. Hacker News · AI38

    แบบทดสอบพบว่าโมเดล AI รู้หลักการ WPS แต่ไม่สามารถนำไปใช้ได้

    แบบทดสอบ WPS AI Leaderboard ของ Our Secure Future ซึ่งสร้างบนแพลตฟอร์ม Weval ของ Collective Intelligence Project พบว่า LLM ละเว้นมิติทางเพศจากการวิเคราะห์สันติภาพและความมั่นคงอย่างเป็นระบบ แม้ว่าพวกมันจะท่อง UNSCR 1325 ได้ก็ตาม ช่องว่างสมรรถนะ WPS ปรากฏในรูปแบบการละเลยแบบเฉยเมย ซึ่งโมเดลตัดหญิงและเด็กหญิงออกจากการประเมินตามปกติ และการยอมจำนนแบบเชิงรุก ซึ่งโมเดลช่วยผู้ตัดสินใจหลีกเลี่ยงนโยบาย

  8. Hacker News · AI31

    Air-LLM: การกระจายน้ำหนัก AI ไปยังอุปกรณ์ Edge ผ่าน RF Computing สำหรับการอนุมาน LLM แบบทันที

    Air-LLM เป็นสถาปัตยกรรมการอนุมาน LLM บน Edge ที่วิทยุกลาง เช่น สถานีฐาน 5G กระจายน้ำหนักโมเดลผ่านอากาศ และผู้ใช้ Edge ทำ GEMV เสร็จสิ้นโดยตรงในโดเมน RF ด้วย RF mixer ทำให้อุปกรณ์ไม่ต้องจัดเก็บหรือโหลดน้ำหนักเลย จากการทดสอบบนช่องสัญญาณ ray-traced ของ NVIDIA Sionna ในฉากเมืองจริงสองแห่งด้วยโปรไฟล์ RF mixer จริง พบว่าจำกัดการเสื่อมของ perplexity บน WikiText-2 สำหรับ LLaMA-3.1-8B ไว้ที่ 4.0% พร้อมประหยัดพลังงาน 157.7x/40.4x เมื่อเทียบกับ baseline FP16 และ weight-only quantization เมื่อมีผู้ใช้ 20 คน ใช้เวลาออกอากาศสั้นลง 104.1x/26.0x และเนื่องจากวิทยุกลางไม่รับรู้ถึงผู้ใช้ การกระจายครั้งเดียวจึงรองรับผู้ใช้ได้ไม่จำกัดในพื้นที่ครอบคลุม

  9. Hacker News · AI58

    InferTrail 运行了为期 35 天的 LLM API 密钥蜜罐，并追踪被盗密钥的使用方式

    InferTrail 在 40 多个虚假 GitHub 组织中植入了 179 个 API 密钥，并运行了两个蜜罐 LLM 网关长达 36 天，记录了超过 300 万次请求。已发布的密钥中只有 18 个被用于发送提示词，其中 6 个密钥占泄露密钥提示词请求的 98.9%，而该流量的 86% 来自托管基础设施。作者列出了三种用于识别密钥复用的日志模式：短时间内一个密钥下出现多个模型名称、密钥生效后出现固定间隔的检查，以及源地址发生变化。

  10. Hacker News · AI58

    Westphalia Labs ทดสอบโมเดล AI 11 ตัวในบทบาทประธานการเจรจาสมมติของเจ็ดรัฐบาล

    Westphalia Labs กลุ่มประเมินที่ก่อตั้งโดยอดีตนักการทูต ได้ทดลองให้โมเดล AI 11 ตัวทำหน้าที่ประธานการเจรจาสมมติของเจ็ดรัฐบาล โดยแต่ละตัวรัน 40 ครั้ง ทั้งในเวอร์ชันที่เป็นไปได้และเป็นไปไม่ได้ มีเพียง GPT-6.1 Sol ที่ผ่านทุกครั้ง โดยบรรลุข้อตกลงเมื่อเป็นไปได้ และประกาศว่าฉันทามติเป็นไปไม่ได้เมื่อมันเป็นเช่นนั้นจริง ส่วน Claude Opus 5.5, Grok 4.7 และ DeepSeek V4.1 Flash ราคาประหยัด ต่างระบุเวอร์ชันที่เป็นไปไม่ได้ถูกต้องทุกครั้ง และเห็นพ้องกันใน 18 จาก 20 ครั้งของเวอร์ชันที่เป็นไปได้ การเรียกร้องเกินเลยทำให้ล้มเหลว 39 ครั้ง เทียบกับ 13 ครั้งจากการยอมผ่อนปรนน้อยเกินไป และเมื่อมีการคาดการณ์ที่น่าจะเป็น ก็ตามมาด้วยข้อตกลงใน 72 จาก 110 กรณี

  11. Hacker News · AI85

    การวิเคราะห์ทางนิติวิทยาศาสตร์เชื่อมโยงโมเดลจีนระดับแนวหน้า 6 รุ่นกับ GPU NVIDIA Blackwell ที่ถูกควบคุมการส่งออก

    การวิเคราะห์ทางนิติวิทยาศาสตร์ของ Unemployment Labs ต่อน้ำหนักโมเดลที่เผยแพร่พบว่าโมเดล 6 รุ่นจาก DeepSeek, Moonshot AI, MiniMax และ Ant Group ถูกเริ่มต้นบนฮาร์ดแวร์ NVIDIA Blackwell ขณะที่โมเดลรุ่นก่อนหน้าจากแล็บเดียวกันตรงกับ Hopper วิธีการนี้กู้คืน random seed และเลย์เอาต์เธรดของแต่ละโมเดลจากน้ำหนักที่เก็บรักษาไว้ และผู้เขียนกล่าวว่าการจับคู่ถูกทำซ้ำบนชิป H100, B300 และ GB200 จริง รายงานประเมินว่าแต่ละการฝึกอบรมต้องใช้ GPU Blackwell ประมาณ 500 ถึง 3,000 ตัวเป็นเวลาสองถึงสามเดือน และระบุว่าหลักฐานไม่ได้ยืนยันว่าชิปตั้งอยู่ที่ใดหรือมีการละเมิดมาตรการควบคุมการส่งออกหรือไม่

    ทำไมเรื่องนี้สำคัญ: รายงานได้มาซึ่งหลักฐานฮาร์ดแวร์จากน้ำหนักโมเดลที่เผยแพร่เพียงอย่างเดียว โดยเสนอวิธีการที่ทำซ้ำได้สำหรับการติดตามว่า GPU ใดเป็นผู้เริ่มต้นโมเดล โดยไม่ต้องพึ่งพาการรั่วไหล

  12. The Decoder78

    การวิเคราะห์ของ OpenAI ติดตามว่าตัวเลือกในการฝึกทำให้โมเดลแนวหน้าซ่อนการให้เหตุผลของตนอย่างไร

    ทีมความปลอดภัยของ OpenAI วิเคราะห์โมเดลตั้งแต่ GPT-5 ถึง GPT-6 Astra และติดตามการเสื่อมถอยของ chain-of-thought ที่อ่านได้ไปยังปัจจัยการฝึกสี่ประการ ได้แก่ ความสามารถของโมเดลฐานที่เพิ่มขึ้น ตัวเลือกสถาปัตยกรรม การเรียนรู้แบบเสริมกำลังหลังการฝึกก่อน และการสืบทอดจากโมเดลครูระหว่างการกลั่น การให้เหตุผลแบบเงียบเพิ่มขึ้นตามคุณภาพของการฝึกก่อน สถาปัตยกรรมหนึ่งที่ไม่ระบุชื่อแสดงการเพิ่มขึ้นที่ชันกว่ามากในการวางแผนหลายขั้นตอนโดยไม่มี scratchpad และการฝึก RL ที่มากขึ้นทำให้โมเดลระดับ Astra และโมเดล Terra ภายในสามารถควบคุมบันทึกการให้เหตุผลของตนเองได้ดีขึ้น OpenAI กล่าวว่าตนต้องการวิธีการตรวจสอบใหม่นอกเหนือจากการอ่าน scratchpad และตั้งข้อสังเกตว่าโมเดลที่เล็กกว่าซึ่งให้เหตุผลออกมาดังสามารถเทียบเท่าโมเดลที่ใหญ่กว่าที่มี chain of thought สั้นได้ด้วยต้นทุนการคำนวณที่สูงขึ้น

    ทำไมเรื่องนี้สำคัญ: การวิเคราะห์ความปลอดภัยของ OpenAI ติดตามว่าการฝึกก่อน สถาปัตยกรรม RL และการกลั่นจากโมเดลครูแต่ละอย่างกัดกร่อนความสามารถในการตรวจสอบ scratchpad อย่างไร โดยวางกรอบการสูญเสียการให้เหตุผลที่มองเห็นได้ว่าเป็นการแลกเปลี่ยนระหว่างความสามารถ ความปลอดภัย และการคำนวณที่นักพัฒนาต้องเลือก

  13. The Verge · AI58

    研究发现 ChatGPT、Gemini 和 Perplexity 推荐虚假零售网站

    知识产权保护公司 Podqi 的一项研究发现，ChatGPT、Gemini 和 Perplexity 在回答有关 151 个品牌的购物问题时，都引用或展示了高风险零售网站，这些网站被定义为虚假店面、重新注册的旧品牌域名或已失效的网站。在 9 月两个测试时段收集的 6,795 条回答中，Perplexity 在 15% 的回答中展示了高风险网站，ChatGPT 为 8%，Gemini 为 4%，而 ChatGPT 有 24% 的时间对其展示的高风险网站发出警告。关于较小品牌的查询产生高风险网站的频率约为较大公司的两倍，而关于区域品牌网站的提示更频繁地触发这些网站，Perplexity 曾将错误页面称为 Stüssy 的官方网站。

12 พฤศจิกายนวันพฤหัสบดี
  1. OpenAI Alignment Blog58

    OpenAI ใช้ automated red teaming เพื่อปรับปรุง fuzzy robustness ใน GPT-6 Astra และ Sol

    นักวิจัยของ OpenAI อธิบายว่า automated red-teaming ซึ่งใช้โมเดลการให้เหตุผลตระกูล GPT-5.6 Sol เป็นฝ่ายโจมตีต่อฝ่ายป้องกัน GPT-5.4 และ GPT-5.5 ได้สร้าง synthetic jailbreaks ที่ถูกนำไปใช้เป็นข้อมูลฝึก RL สำหรับ GPT-6 Astra และ Sol บน fixed jailbreaks จากการโจมตีก่อนหน้าต่อ GPT-5.4 และ 5.5 นั้น GPT-6 Astra ตอบอย่างปลอดภัย 91.5% ในหมวด cyber เทียบกับ 59% ของ GPT-5.6 Sol และยังคงทนทานกว่าในทุก attacker budgets ในการประเมินแบบ adaptive multiturn OpenAI รายงานว่าการฝึก robustness ไม่ได้เพิ่มการปฏิเสธงานที่เป็นประโยชน์ โดยอ้างถึงการปรับปรุงแบบ Pareto ด้านความปลอดภัยและความเป็นประโยชน์ใน system card ของ GPT-6 Astra

  2. MIT News34

    นักวิจัย MIT พัฒนาเทคนิคการฝึกฝนสำหรับตัวจำลองสภาพภูมิอากาศที่เร็วและน่าเชื่อถือยิ่งขึ้น

    นักวิจัย MIT ได้พัฒนาเทคนิคการฝึกฝนที่ช่วยเพิ่มประสิทธิภาพและความสามารถในการปรับตัวของตัวจำลองสภาพภูมิอากาศ AI โดยใช้ข้อมูลเพียงเศษเสี้ยวของที่ปกติต้องใช้ วิธีการนี้สร้างสถานการณ์การฝึกฝนสังเคราะห์ที่ปรับให้เหมาะสมพร้อมการเปลี่ยนแปลงการปล่อยมลพิษอย่างรวดเร็ว ทำให้ตัวจำลองที่ฝึกฝนด้วยข้อมูลน้อยกว่ามากสามารถคาดการณ์สถานการณ์ที่ไม่เคยเห็นได้อย่างแม่นยำ ซึ่งตัวจำลองแบบดั้งเดิมล้มเหลว งานนี้ตีพิมพ์ใน Proceedings of the National Academy of Sciences

  3. Apple Machine Learning Research38

    ขีดจำกัดทางทฤษฎีของการจัดแนวภาษาโมเดล

    นักวิจัยจาก Apple Machine Learning Research ได้อนุมานขีดจำกัดทางทฤษฎีสารสนเทศของการจัดแนวภาษาโมเดลแบบ KL-regularized โดยให้สูตรปิดสำหรับการเพิ่มรางวัลคาดหวังสูงสุดภายใต้งบประมาณ KL คงที่ ซึ่งถูกควบคุมโดยเทอม Jeffreys divergence แทนที่จะเป็น √KL ที่ใช้ในการวิเคราะห์ก่อนหน้า พวกเขาแสดงให้เห็นว่าช่องว่างระหว่างการจัดแนวอุดมคติและการจัดแนวแบบพร็อกซี (reward hacking) เพิ่มขึ้นตามข้อผิดพลาดของรางวัลและการลดลงของบทลงโทษ KL และพิสูจน์ว่าการรวมรางวัล (reward ensembling) ช่วยบรรเทาปัญหานี้ ในงานด้านความปลอดภัยและการสรุปความ best-of-N เข้าใกล้ขีดจำกัดทางทฤษฎีอย่างใกล้ชิด ในขณะที่ PPO และ GRPO ยังคงต่ำกว่าค่าที่เหมาะสมที่สุดอย่างมีนัยสำคัญ

  4. Google Research58

    Google Research ใช้เทคโนโลยีสวมใส่สร้างโปรไฟล์ความเสี่ยง CKM และการโค้ชเฉพาะบุคคล

    Google Research ได้แนะนำกรอบการวิจัยที่เปลี่ยนข้อมูลจากอุปกรณ์สวมใส่สำหรับผู้บริโภคให้เป็นอายุสุขภาพที่สามารถโค้ชได้ และจำลองเส้นทางสุขภาพเฉพาะบุคคลแบบ 12 สัปดาห์ในลักษณะ what-if โมเดลโลก SensorWM ถูกฝึกฝนล่วงหน้าด้วยข้อมูล Fitbit ที่ไม่ระบุตัวตนจำนวน 2.28 ล้านคน-สัปดาห์จากผู้ใช้ประมาณ 100,000 คน และคาดการณ์ตัวชี้วัดทางสรีรวิทยา 20 รายการภายใต้รูปแบบการเดิน การนอน และคาร์ดิโอที่แตกต่างกัน ในการศึกษาที่ปกปิดข้อมูล ผู้ฝึกสอนไลฟ์สไตล์เลือกแผนที่อ้างอิงจากสถานการณ์สมมติว่าเป็นแผนที่ดีที่สุดโดยรวมในการประเมิน 71.4% และแพทย์ให้คะแนน 99.2% ของแผนว่าอยู่ในขีดจำกัดความเข้มข้นของการออกกำลังกายที่ปลอดภัย ผู้เขียนระบุว่าโมเดลเหล่านี้เป็นต้นแบบการวิจัย ไม่ใช่เครื่องมือวินิจฉัยทางคลินิก

  5. The Decoder88

    AlphaProof Code ของ Google DeepMind ตรวจสอบแกนหลักการเข้ารหัสของ Signal ในสี่สัปดาห์แทนที่จะใช้เวลาหลายปี

    Google DeepMind เปิดตัว AlphaProof Code ระบบ AI ที่พิสูจน์ทางคณิตศาสตร์ว่าซอฟต์แวร์เป็นไปตามข้อกำหนดด้านความปลอดภัย และใช้มันตรวจสอบโค้ดแกนหลักการเข้ารหัสที่ทำงานบนอุปกรณ์ของผู้ใช้ Signal ภายในสี่สัปดาห์ งานที่ปกติใช้เวลาหลายปี หลังจากผู้เชี่ยวชาญกำหนดข้อกำหนดด้านความปลอดภัยอย่างเป็นทางการแล้ว AI agents ที่สร้างบน Gemini Carbon ได้เขียนโค้ดกว่าหกล้านบรรทัดในภาษา Lean และflagged ประมาณหนึ่งเปอร์เซ็นต์ของ codebase เพื่อให้มนุษย์ตรวจสอบ โดยจับบั๊กที่ปลูกไว้โดยเจตนาสองตัวได้ทันที Ehren Kret CTO ของ Signal กล่าวว่าวิธีนี้เสริมสร้างความไว้วางใจในความเป็นส่วนตัวของข้อมูลเมื่อภัยคุกคามจาก AI เพิ่มขึ้น และ DeepMind วางแผนขยายวิธีการไปยังโครงข่ายไฟฟ้าและอุปกรณ์ทางการแพทย์ผ่านระบบอย่าง CodeMender

    ทำไมเรื่องนี้สำคัญ: AlphaProof Code ของ DeepMind ตรวจสอบโค้ดการเข้ารหัสจริงของ Signal ในสี่สัปดาห์ แสดงให้เห็นว่า AI agents สามารถย้ายการตรวจสอบอย่างเป็นทางการจากเอกสารการออกแบบไปสู่ซอฟต์แวร์ที่ใช้งานจริงได้อย่างไร

  6. Epoch AI · Gradient Updates64

    สรุปย่อ Epoch: GLM 5.3 สร้าง exploit สำหรับ Firefox ได้เองจากช่องโหว่ในแพตช์ ด้วยต้นทุนประมาณ 1,000 ดอลลาร์ต่อครั้ง

    นักวิจัยจาก Epoch AI รายงานว่าในการทดลองแบบออฟไลน์ในแซนด์บ็อกซ์ โมเดลน้ำหนักเปิด GLM 5.3 สามารถเจาะระบบ Firefox หกเวอร์ชันล่าสุด ซึ่งเป็นเบราว์เซอร์ที่มีผู้ใช้ที่ใช้งานอยู่กว่า 200 ล้านคน ได้โดยอัตโนมัติ ด้วยต้นทุนประมาณ 1,000 ดอลลาร์ต่อ exploit หนึ่งครั้ง โดยการวิศวกรรมย้อนกลับการโจมตีจากแพตช์ที่ยังไม่ถึงมือผู้ใช้ โมเดลสร้างเว็บเพจที่สามารถอ่านไฟล์จากคอมพิวเตอร์ของผู้เยี่ยมชมและส่งไปยังผู้โจมตีได้โดยไม่ต้องมีมนุษย์สั่งการ ทีมงานไม่สามารถทำซ้ำได้กับ Chrome สรุปย่อเดียวกันยังระบุว่า Claude Fable 5.2 ของ Anthropic ซึ่งเปิดตัวเมื่อวันที่ 9 พฤศจิกายน ทำสถิติใหม่ของ Epoch Capabilities Index ที่ 174 สูงกว่า 169 ของ GPT-6 Astra

  7. Google Developers Blog58

    Google Agent Anomaly Detection ทำคะแนนได้บนห้าเบนช์มาร์กความปลอดภัยของเอเจนต์สาธารณะ

    Google ทดสอบ Agent Anomaly Detection ซึ่งอยู่ใน Private Preview บน Gemini Enterprise Agent Platform กับเบนช์มาร์กความปลอดภัยของเอเจนต์สาธารณะห้ารายการที่บริษัทไม่ได้เขียนเอง โดยให้คะแนน 1,774 เซสชัน ระบบflagged 87% ของคำสั่งที่เป็นอันตรายที่เอเจนต์ดำเนินการจริง โดยมีสัญญาณเตือนผิดพลาดใน 2% ถึง 16% ของเซสชันที่ปลอดภัย และจับได้เพียง 4 จาก 18 เซสชันที่หน่วยความจำระยะยาวที่ถูกวางยาขับให้เอเจนต์ลงมือ การทดสอบใช้เอเจนต์ที่สร้างด้วย Agent Development Kit (ADK) บน gemini-2.5-flash ครอบคลุม AgentDojo, InjecAgent, Agent Security Bench, AgentDyn และ AgentHarm

11 พฤศจิกายนวันพุธ
  1. inclusionAI Models40

    inclusionAI เปิดตัวโมเดล ZoomGain-9B และ ZoomGain-4B พร้อม ZoomGainBench และข้อมูลฝึก RL

    inclusionAI เปิดตัวเช็กพอยต์โมเดลวิชัน-ภาษา ZoomGain-9B และ ZoomGain-4B พร้อมกับเกณฑ์มาตรฐานการประเมิน ZoomGainBench และข้อมูลฝึก RL ของ ZoomGain โดย ZoomGain ขุดค้นช่องว่างการรับรู้จากภาพรวมสู่การซูมเพื่อสร้างการกำกับดูแลภาพแบบละเอียด และ ZoomGain-9B มีประสิทธิภาพเหนือกว่าในเกณฑ์มาตรฐานการรับรู้แบบละเอียดและแบบทั่วไปหลายรายการ ZoomGainBench มีคำถาม 1,000 ข้อจากภาพ 941 ภาพ ขณะที่ชุดข้อมูล RL มีบันทึกการฝึก 9,000 รายการและภาพต้นฉบับ 7,713 ภาพ

  2. inclusionAI Models38

    inclusionAI เปิดตัว ZoomGain-4B และ ZoomGain-9B พร้อม ZoomGainBench และข้อมูลฝึก RL

    inclusionAI เผยแพร่บทความ arXiv, แบบประเมิน ZoomGainBench, ชุดข้อมูลฝึก RL และเช็กพอยต์โมเดล ZoomGain-4B/ZoomGain-9B โดยโมเดลที่ดีที่สุดใน 28 โมเดลได้คะแนน 61.08 บน ZoomGainBench ขณะที่ ZoomGain-9B ทำผลงานได้เหนือกว่าในแบบประเมินการรับรู้แบบละเอียดและแบบทั่วไปหลายรายการ ZoomGain ขุดค้นช่องว่างการรับรู้จากภาพรวมสู่การซูมเพื่อสร้างการกำกับดูแลภาพแบบละเอียดสำหรับโมเดลภาษา-ภาพ

  3. Microsoft Research75

    นักวิจัย Microsoft อธิบาย Lazarus แบ็กดอร์ที่ตั้งโปรแกรมนิวรอนที่อยู่เฉยใหม่ในเอเจนต์ AI

    นักวิจัย Microsoft อธิบาย Lazarus เทคนิคแบ็กดอร์ที่ตั้งโปรแกรมนิวรอนที่อยู่เฉยน้อยกว่า 10 ตัวใน LLM ใหม่ เพื่อให้เอเจนต์ที่สร้างบนโมเดลนั้นส่งคำสั่งของผู้โจมตีออกมาเมื่อทริกเกอร์ที่ซ่อนอยู่ปรากฏ โดยไม่ต้องฝึกใหม่ โมเดลที่ถูกแก้ไขยังผ่านการประเมินมาตรฐานและทำงานปกติจนกว่าทริกเกอร์จะทำงาน ซึ่งอาจง่ายเพียงการเปลี่ยนวันที่ จากนั้นเอเจนต์จะรันโค้ดที่ดาวน์โหลดมาด้วยสิทธิ์การเข้าถึงที่ได้รับ ผู้เขียนระบุว่าการตรวจจับต้องเปรียบเทียบกับน้ำหนักต้นฉบับ และ Microsoft Foundry เชื่อมโยงโมเดล open-weight กับผู้เผยแพร่และสแกนคอนเทนเนอร์ของโมเดลอยู่แล้ว ขณะที่ชุดทดสอบ red-teaming การสแกนน้ำหนักแบบเอเจนต์ และโมเดลที่ลงนามพร้อมแหล่งที่มาที่ตรวจจับการแก้ไขได้อยู่ระหว่างการพัฒนา

    ทำไมเรื่องนี้สำคัญ: นักวิจัย Microsoft แสดงให้เห็นว่าการตั้งโปรแกรมนิวรอนที่อยู่เฉยน้อยกว่า 10 ตัวใหม่สามารถฝังแบ็กดอร์ในเอเจนต์ LLM ได้โดยไม่ต้องฝึกใหม่ ซึ่งทำให้แหล่งที่มาและความสมบูรณ์ของน้ำหนักกลายเป็นข้อกำหนดด้านความปลอดภัยในทางปฏิบัติ

10 พฤศจิกายนวันอังคาร
  1. Google DeepMind82

    Google DeepMind เปิดตัว AlphaProof Code ตรวจสอบโค้ดเข้ารหัสของ Signal อย่างเป็นทางการ

    นักวิจัยของ Google DeepMind ใช้ AlphaProof Code ซึ่งเป็นกรอบการทำงานแบบหลาย LLM agentic เพื่อตรวจสอบคุณสมบัติความปลอดภัยที่สำคัญของโค้ดจริงที่อยู่เบื้องหลังโปรโตคอล Signal อย่างเป็นทางการ เอเจนต์ที่ขับเคลื่อนโดย Gemini Carbon สร้างโค้ด Lean กว่า 6 ล้านบรรทัด และผู้เชี่ยวชาญของมนุษย์ตรวจสอบเพียงประมาณ 1 เปอร์เซ็นต์ของฐานโค้ดเท่านั้น การตรวจสอบใช้เวลาสี่สัปดาห์ ซึ่งงานนี้ตามปกติต้องใช้ทีมผู้เชี่ยวชาญหลายปี เมื่อบั๊กสองตัวที่เคยแก้ไขแล้วถูกนำกลับเข้าสู่โค้ด Signal เวอร์ชันแยก ระบบได้สร้างหลักฐานที่ตรวจสอบโดยเครื่องว่าบั๊กเวอร์ชันที่มีบั๊กนั้นไม่ปลอดภัย และ DeepMind กำลังเปิดโอเพนซอร์สอาร์ติแฟกต์การตรวจสอบอย่างเป็นทางการของตน

    ทำไมเรื่องนี้สำคัญ: กรอบการทำงานแบบหลายเอเจนต์ของ Google DeepMind ตรวจสอบโค้ดเข้ารหัสที่ใช้งานจริงของ Signal อย่างเป็นทางการภายในสี่สัปดาห์ ซึ่งงานนี้ตามปกติต้องใช้ทีมผู้เชี่ยวชาญหลายปี

  2. OpenAI Alignment Blog60

    OpenAI ศึกษาปัจจัยที่ส่งผลต่อความสามารถในการตรวจสอบ CoT ตลอดวงจรชีวิตของโมเดล

    นักวิจัยของ OpenAI ตรวจสอบว่าการฝึกก่อน (pretraining) สถาปัตยกรรม การเรียนรู้แบบเสริมกำลัง (reinforcement learning) และข้อมูลที่สร้างโดยโมเดลส่งผลต่อตัวชี้วัดสองตัวสำหรับความสามารถในการตรวจสอบ chain-of-thought อย่างไร ได้แก่ ความสามารถแบบไม่มี CoT และความสามารถในการควบคุม CoT พวกเขารายงานว่าความสามารถแบบไม่มี CoT ติดตาม perplexity ของโมเดลฐานที่ต่ำลงอย่างราบรื่น ว่าความสามารถในการควบคุม CoT เพิ่มขึ้นระหว่าง RL แม้ไม่มีการกำกับกระบวนการนอกเหนือจากข้อจำกัดด้านความยาวและการให้คะแนนคำตอบสุดท้าย และว่าความสามารถในการควบคุมสามารถส่งต่อไปยังโมเดลนักเรียนผ่าน SFT บน rollouts ของครู ผู้เขียนเตือนว่าตัวชี้วัดทั้งสองไม่สมบูรณ์แบบ และโมเดลอาจตรวจสอบได้ยากขึ้นผ่าน CoT เมื่อความสามารถขยายตัว

    ทำไมเรื่องนี้สำคัญ: การศึกษาในวงจรชีวิตของ OpenAI เชื่อมโยง perplexity ของการฝึกก่อนที่ต่ำลงและการขยาย RL เข้ากับความสามารถในการตรวจสอบ CoT ที่อ่อนลง โดยเสนอกรอบที่ชัดเจนว่าการเลือกการฝึกส่งผลต่อความเสี่ยงในการกำกับดูแลอย่างไร

  3. Apple Machine Learning Research34

    Weighted State Souping สำหรับการค้นคืนบริบทยาวอย่างมีประสิทธิภาพ

    นักวิจัยจาก Apple และผู้ร่วมงานจาก Harvard เสนอ weighted state souping ซึ่งเป็นวิธีการที่เรียนรู้ค่าน้ำหนักที่ขึ้นกับคิวรีสำหรับการรวมการเข้ารหัสสถานะ SSM ที่แคชไว้ใหม่ ช่วยปรับปรุงประสิทธิภาพบริบทยาวในงานตอบคำถามจากเอกสารแบบ single-hop และ multi-hop การค้นคืนแบบ needle-in-a-haystack การติดตามตัวแปร และการใช้เครื่องมือ รูปแบบ sparse บรรลุต้นทุนการเข้ารหัสที่เกือบคงที่เมื่อเทียบกับความยาวบริบท พร้อมรักษาหรือบางครั้งปรับปรุงประสิทธิภาพ บทความนี้ได้รับการตอบรับที่งาน PALM workshop ใน NeurIPS 2026

  4. Apple Machine Learning Research38

    งานวิจัยจาก Apple: กลไก Gating อธิบายว่าทำไม SSMs จึงจดจำแทนที่จะเรียนรู้แบบ In-Context

    งานวิจัยจาก Apple และ Harvard แสดงให้เห็นว่ากลไก gating ใน State Space Models (SSMs) ทำให้โมเดลเรียนรู้วิธีแก้แบบ "การจดจำ" (memorization) ที่ฝังอยู่ใน weights ก่อน ซึ่งทำให้การลู่เข้าสู่การเรียนรู้แบบ in-context ที่ถูกต้องล่าช้าหรืออาจไม่เกิดขึ้นเลย แม้ว่าสถาปัตยกรรมและความจุหน่วยความจำจะไม่ได้จำกัดพื้นฐานใดๆ ก็ตาม อย่างไรก็ตาม gating มักช่วยปรับปรุงการ generalize ไปยังความยาวลำดับที่ยาวขึ้น

  5. Apple Machine Learning Research31

    งานวิจัยของ Apple ประเมิน LLM judges สำหรับการประเมินสไตล์การเขียนแบบเฉพาะบุคคล

    นักวิจัยของ Apple ทดสอบว่า LLM judges ประเมินได้ดีเพียงใดว่าข้อความที่สร้างขึ้นตรงกับสไตล์การเขียนที่ผู้ใช้ชื่นชอบหรือไม่ โดยสร้างข้อความด้วย LLM สี่ตัวในงานเขียนยาวสามประเภท และเปรียบเทียบคำannotations ของ judge กับป้ายกำกับแบบ pairwise จากมนุษย์ คุณภาพของ judge มีความสัมพันธ์เพียงเล็กน้อยกับความสามารถทั่วไปของ LLM บน MMLU (Pearson's ρ ≤ 0.2) และแปรผันตามประเภทงานเขียนและเกณฑ์การประเมิน และการเปรียบเทียบแบบจับคู่ให้ผลที่สอดคล้องมากกว่าการให้คะแนนแบบอิสระ LLM ที่แข็งแกร่งที่สุดไม่ได้จำลองการประเมินของมนุษย์ได้น่าเชื่อถือที่สุดเสมอไป ซึ่งอาจเป็นเพราะความไวที่เกินจริงต่อรายละเอียดเล็กๆ น้อยๆ

  6. Goodfire Research62

    Goodfire ศึกษาเซลล์ประสาทของ Qwen3.6-35B-A3B ในฐานะพื้นฐานที่ตีความได้

    Goodfire Research เผยแพร่งานศึกษาที่โต้แย้งว่าเซลล์ประสาท MLP แต่ละตัวใน Qwen3.6-35B-A3B สามารถตีความได้มากกว่าที่เคยคิด โดยอิงจากการทำให้เบาบาง เครื่องมือระบุที่มา และเอเจนต์วิจัย การตัดการทำงานของแอกทิเวชันเซลล์ประสาท MoE ที่อ่อนที่สุด 92.2% ต่อการส่งผ่านไปข้างหน้าหนึ่งครั้ง ทำให้ loss ของโมเดลภาษาสูงขึ้นเพียง 2.9% และ 69% ของขั้วเซลล์ประสาทมีโหมดเดียวที่รับผิดชอบต่อผลเชิงสาเหตุอย่างน้อย 90% คำอธิบายเซลล์ประสาทด้วยภาษาธรรมชาติทำให้โมเดลผู้ตัดสินสามารถทำนายการทำงานได้ด้วยความแม่นยำ 95% เทียบกับข้อความสุ่ม และฟื้นคืนความเสียหายจากการตัดการทำงานได้ 73% ผ่านการจำลอง

    ทำไมเรื่องนี้สำคัญ: งานศึกษาของ Goodfire เกี่ยวกับเซลล์ประสาทของ Qwen3.6-35B-A3B โต้แย้งว่าแอกทิเวชันที่แข็งแกร่งเพียงลำพังแบกการคำนวณส่วนใหญ่ของโมเดลไว้ พร้อมเสนอทางเลือกที่เป็นรูปธรรมต่อการตีความแบบ feature-dictionary

  7. Artificial Analysis Articles58

    Google DeepMind และ Artificial Analysis เปิดตัว MKA benchmark สำหรับงานความรู้แบบเอเจนต์บนไฟล์ภาพที่ซับซ้อน

    Google DeepMind ร่วมมือกับ Artificial Analysis เปิดตัว Multimodal Knowledge Agent (MKA) benchmark ซึ่งมอบหมายให้เอเจนต์ตรวจทานไฟล์โปรเจกต์ภาพที่มีข้อมูลหนาแน่น เช่น แบบสถาปัตยกรรม แผนผังวิศวกรรม และภาพสแกนทางคลินิก เพื่อสร้างสไลด์ สเปรดชีต PDF เอกสาร Word และภาพที่ทำเครื่องหมายแล้ว

9 พฤศจิกายนวันจันทร์
  1. Hugging Face Blog38

    NVIDIA และ Elith เปิดตัวชุดข้อมูลสังเคราะห์ Nemotron-Personas-Finance-Japan

    Elith และ NVIDIA ได้เปิดตัว Nemotron-Personas-Finance-Japan ชุดข้อมูลบุคคลสังเคราะห์แบบเปิดสำหรับภาคการเงินของญี่ปุ่น สร้างขึ้นจากสถิติราชการ มีข้อมูลบุคคลจำนวน 9M รายการ (1M ระเบียน × 9 บุคคล) ครอบคลุม 50 ฟิลด์ และประมาณ 1.5B โทเค็น สร้างด้วย NeMo SDG-PGMs และ NeMo Data Designer และเผยแพร่ภายใต้สัญญาอนุญาต CC BY 4.0 สำหรับการใช้งานเชิงพาณิชย์

  2. Hugging Face Blog40

    HOPE: การตัดแต่งผู้เชี่ยวชาญแบบอันดับสูงในโมเดลภาษา Mixture-of-Experts

    นักวิจัยแนะนำ HOPE ซึ่งเป็นวิธีการตัดแต่งผู้เชี่ยวชาญแบบอันดับสองสำหรับโมเดลภาษา Mixture-of-Experts ที่คำนึงถึงปฏิสัมพันธ์แบบคู่ระหว่างผู้เชี่ยวชาญที่ถูกกระตุ้นพร้อมกัน แทนที่จะให้คะแนนผู้เชี่ยวชาญแต่ละตัวแยกกัน ที่การตัดแต่ง 50% HOPE ทำอันดับเฉลี่ยได้ดีที่สุดในบรรดาวิธีทั้งหมด โดยมีผล增益สูงถึง +6.1% ในงานเขียนโค้ดแบบเอเจนต์เมื่อเทียบกับวิธีการตัดแต่งที่ดีรองลงมา งานนี้มุ่งเป้าไปที่คอขวดด้านหน่วยความจำในโมเดลอย่าง Qwen3.5-122B ซึ่ง MLP ของผู้เชี่ยวชาญกินพื้นที่ถึง 95% ของขนาดรวมประมาณ 250 GB

  3. Anthropic · Claude.dev80

    Anthropic: ตัวแทน Claude Fable 5.2 จำนวน 1,000 ตัวสร้างการพิสูจน์ทฤษฎีบทสุดท้ายของแฟร์มาต์ในรูปแบบทางการใหม่ได้ใน 28.7 ชั่วโมง

    ใช้เวลา 7 ชั่วโมงโดยไม่มีแพลตฟอร์ม Prove2Me หรือการกำกับดูแลจากนักวิจัยที่ใช้ในการทดลองของ Anthropic เมื่อเดือนกันยายน โดยเขียนการพิสูจน์ที่มีความยาวเพียงหนึ่งในเจ็ดและใช้โทเค็นเอาต์พุตเพียงหนึ่งในสาม แต่ละตัวแทนทำงานในแซนด์บ็อกซ์ที่แยกเครือข่าย พร้อมตัวจำแนกที่ตรวจสอบทุกคำสั่งเชลล์และการแก้ไขไฟล์ รวมถึงตัวตรวจสอบแบบออฟไลน์ และจากการเรียกเครื่องมือกว่าหนึ่งล้านครั้ง ไม่มีครั้งใดที่เข้าเกณฑ์จะถูกบล็อก

    ทำไมเรื่องนี้สำคัญ: การทดลองกับตัวแทน 1,000 ตัวของ Anthropic สามารถสร้างการพิสูจน์ทฤษฎีบทสุดท้ายของแฟร์มาต์ในรูปแบบทางการใหม่ได้โดยไม่มี Prove2Me หรือนักวิจัย แสดงให้เห็นว่าแซนด์บ็อกซ์และการตรวจสอบสามารถจำกัดขอบเขตทีมตัวแทนที่จัดระเบียบตัวเองได้อย่างไร

  4. Berkeley AI Research22

    BAIR ที่ CoRL 2026: บทความการเรียนรู้ของหุ่นยนต์จาก Berkeley, การนำเสนอปากเปล่า และปาฐกถาหลัก

    BAIR แห่ง UC Berkeley นำเสนอ 33 บทความในงานประชุมหลัก, 4 โปสเตอร์ late-breaking, 3 การนำเสนอปากเปล่า และ 7 spotlight ในงาน CoRL 2026 ซึ่งจัดขึ้นระหว่างวันที่ 9–12 พฤศจิกายน ที่เมืองออสติน รัฐเท็กซัส ศาสตราจารย์ Negar Mehr บรรยายในหัวข้อ Early Career Keynote เกี่ยวกับวิธีที่หุ่นยนต์เรียนรู้ที่จะมีปฏิสัมพันธ์และประสานงานกับผู้อื่น งานวิจัยครอบคลุมหน่วยความจำแบบ embodied สำหรับโมเดล vision-language-action, การขยายขนาดการจัดการแบบ dexterous ด้วยข้อมูลมนุษย์แบบ egocentric และการพัฒนาตนเองของหุ่นยนต์แบบ agentic

  5. inclusionAI Repositories38

    ZoomGain: การขุดช่องว่างการรับรู้จากภาพรวมสู่การซูมสำหรับการกำกับดูแลด้วยภาพอย่างละเอียด

    ZoomGain สร้างคำถามเกี่ยวกับภาพเต็มจากรายละเอียดทางภาพที่ชัดเจนขึ้นเมื่อซูมเข้า โดยใช้ช่องว่างการรับรู้จากภาพรวมสู่การซูมนี้เป็น信号กำกับสำหรับโมเดลภาษา-ภาพ การเผยแพร่ประกอบด้วยบทความ arXiv, Benchmark ZoomGainBench (1,000 คำถามจาก 941 ภาพ ครอบคลุมการจดจำคุณลักษณะ การนับ และ OCR), บันทึกการฝึก RL 9,000 รายการจากภาพต้นฉบับ 7,713 ภาพ และ checkpoint ZoomGain-4B และ ZoomGain-9B โมเดลที่ดีที่สุดใน 28 โมเดลได้คะแนน 61.08 บน ZoomGainBench ขณะที่ ZoomGain-9B ทำได้เหนือกว่าใน benchmark การรับรู้แบบละเอียดและทั่วไปหลายรายการ

  6. Anthropic Research71

    Anthropic ทดสอบ Claude Fable 5.2 กับการออกแบบอิเล็กทรอนิกส์ในโลกจริง

    Anthropic รายงานว่า Claude Fable 5.2 ออกแบบอุปกรณ์อิเล็กทรอนิกส์สามชิ้น ได้แก่ ลำโพงประชุม ฮับผู้ช่วยเสียง และสัตว์เลี้ยงเสมือนแบบพกพา จากคำสั่งเพียงเล็กน้อย และ Diode Computers ได้สร้างต้นแบบที่ใช้งานได้จากไฟล์การออกแบบของมันโดยไม่ต้องแก้ไขวงจร บนเกณฑ์มาตรฐาน PCB Gym ภายในของ Diode นั้น Fable 5.2 ทำคะแนนได้ 69% เทียบกับ 25% ของ Fable 5 และทำได้ 83.5% บน BenchCAD 2.1 สาธารณะ ซึ่งเกือบเป็นสองเท่าของ Claude Fable 5.1 อุปกรณ์เหล่านี้ยังคงเป็นต้นแบบที่ยังไม่ผ่านการตรวจสอบทางไฟฟ้า การปรับแต่งเสาอากาศ การทดสอบความร้อน หรือการรับรอง และ Claude ไม่ได้เชื่อมต่อกับอุปกรณ์ทดสอบหรือเครื่องจักรการผลิต

    ทำไมเรื่องนี้สำคัญ: รายงานของ Anthropic เองเกี่ยวกับ Claude Fable 5.2 ที่ออกแบบอุปกรณ์อิเล็กทรอนิกส์ที่ใช้งานได้สามชิ้น แสดงให้เห็นว่าโมเดลก้าวหน้าไปไกลเพียงใดจากเลย์เอาต์ PCB บางส่วนไปสู่การสร้างต้นแบบฮาร์ดแวร์แบบครบวงจร

6 พฤศจิกายนวันศุกร์
  1. Hugging Face Blog58

    Ai2 เปิดตัว ToyBlocks โลกจำลองแบบเปิดสำหรับการจัดการบล็อกเพื่อการเรียนรู้ของหุ่นยนต์

    Ai2 เปิดตัว ToyBlocks กรอบการจำลองแบบเปิดที่สร้างขึ้นรอบแขนหุ่นยนต์และบล็อกบนโต๊ะ เป็นFoundationWorldsตัวแรกสำหรับการเรียนรู้และประเมินผลหุ่นยนต์แบบควบคุม กรอบนี้สร้างทักษะและการสาธิตโดยอัตโนมัติผ่าน RL และการวางแผนการเคลื่อนไหวใน Isaac Lab ทำความเร็วได้ถึง 24 เท่าของเวลาจริงบน GPU เดียว และมาพร้อมการสาธิตระยะยาว 85,336 ชุด ครอบคลุมเกือบ 1,600 ชั่วโมงและ 144 ล้านเฟรม ในการทดลองของพวกเขา ความสำเร็จของทักษะระดับอะตอมของ ManiFlow อยู่ที่ 80.0% ในการจำลองและ 81.1% บน Franka FR3 จริง ขณะที่ระบบ Molmo 2 ร่วมกับ ManiFlow ประสบความสำเร็จ 55.5% ของตอนในการจำลองและ 50.0% ในโลกจริง

  2. Ai2 · Allen Institute for AI58

    Ai2 เปิดตัว ToyBlocks โลกจำลองแบบควบคุมสำหรับการเรียนรู้และประเมินผลของหุ่นยนต์

    Ai2 เปิดตัว ToyBlocks กรอบการจำลองแบบเปิดที่สร้างขึ้นรอบแขนหุ่นยนต์และบล็อกบนโต๊ะ เป็น FoundationWorlds ตัวแรกสำหรับการวิจัยการเรียนรู้ของหุ่นยนต์แบบควบคุม ToyBlocks สร้างงานและการสาธิตโดยอัตโนมัติผ่าน RL และการวางแผนการเคลื่อนไหวใน Isaac Lab โดยสร้างข้อมูลได้สูงสุดถึง 24 เท่าของเวลาจริงบน GPU เดียว และมาพร้อมกับการสาธิตระยะยาว 85,336 รายการ ครอบคลุมเกือบ 1,600 ชั่วโมงและ 144 ล้านเฟรม ในการทดสอบโลกจริงบน Franka FR3 ความสำเร็จของทักษะระดับอะตอมของ ManiFlow อยู่ที่ 80.0% ในการจำลองและ 81.1% บนฮาร์ดแวร์ ขณะที่ระบบ Molmo 2 ร่วมกับ ManiFlow ประสบความสำเร็จ 55.5% ของตอนจำลองและ 50.0% ของตอนจริง

  3. vLLM Blog77

    REINFORCE Zero: การจัดแนวเคอร์เนลช่วยให้ Async RL เสถียรที่ Policy Lag 64 ขยายไปถึง DeepSeek-V4.1 และ Kimi K3.1

    บทความ REINFORCE Zero ของ NVIDIA Research และ Inferact แสดงให้เห็นว่าการจัดแนวเคอร์เนลของ rollout และ trainer ทำให้ unclipped token-level importance sampling สามารถแก้ไข weight lag ที่เหลืออยู่ได้ ทำให้ฝึกได้อย่างเสถียรถึง 20,000 อัปเดตที่ policy lag 64 และได้ throughput ของ training-step เป็น 2.40 เท่าของการฝึกแบบ synchronous ด้วยเคอร์เนลที่จัดแนวแล้ว ด้วยเคอร์เนลมาตรฐาน ค่ามัธยฐาน rollout-to-learner KL เพิ่มขึ้น 83.33 เท่าตลอดการรัน และ online AIME24 pass@1 ลดลงจาก 34.27% เหลือ 13.96% ขณะที่ sequence gate ช่วยให้การฝึกเสถียรแต่ปฏิเสธ 24.48% ของ sequence ภายใน 1,000 อัปเดตสุดท้าย การตั้งค่า zero-mismatch ครอบคลุม DeepSeek-V4.1-Flash, Kimi K3.1 ในวันเปิดตัว และ DeepSeek-V4-Flash กับ Kimi K3.1 บน AMD MI355X โดยมีโค้ดอยู่ที่ Inferact/zero-mismatch-rl และ NVIDIA-NeMo/labs-molt

    ทำไมเรื่องนี้สำคัญ: NVIDIA Research และ Inferact แยกช่องว่างระหว่าง rollout-learner ของ async RL ออกเป็น weight lag และ kernel mismatch โดยแสดงให้เห็นว่าการจัดแนวเคอร์เนลทำให้ unclipped importance sampling รักษาการฝึกที่เสถียรที่ policy lag 64 ได้

  4. Google Research72

    นักวิจัย Google ตรวจพบสัญญาณความดันโลหิตสูงด้วยข้อมูล PPG และมาตรวัดความเร่งจากสมาร์ทวอทช์ โดยไม่ต้องปรับเทียบกับเครื่องวัดความดันแบบมีปลอกแขน

    Google Research เผยแพร่งานวิจัยใน Nature เกี่ยวกับ AI-PPG-ACC-HTN ระบบหลายรูปแบบที่ตรวจจับสัญญาณความดันโลหิตสูงจากข้อมูล PPG และมาตรวัดความเร่งของสมาร์ทวอทช์โดยไม่ต้องปรับเทียบกับเครื่องวัดความดันแบบมีปลอกแขน ระบบนี้ผ่านการตรวจสอบเทียบกับการติดตามความดันโลหิตแบบต่อเนื่อง 24 ชั่วโมงในผู้เข้าร่วม 196 คนจากห้าสถานที่ในสหรัฐฯ โดยได้ความไว 65.8% และความจำเพาะ 90.0% สำหรับการคัดกรองเบื้องต้น และได้ความไว 78.4% และความจำเพาะ 90.9% สำหรับการทดสอบยืนยัน ผู้เขียนระบุว่างานนี้เป็นการวิจัยความเป็นไปได้เบื้องต้น ไม่ใช่สิ่งทดแทนเครื่องวัดความดันแบบมีปลอกแขนในทางคลินิก และไม่ใช่การวินิจฉัยแบบStandalone

    ทำไมเรื่องนี้สำคัญ: โมเดลความดันโลหิตสูงแบบไร้ปลอกแขนของ Google ถูกเปรียบเทียบกับการติดตามความดันโลหิตแบบต่อเนื่อง 24 ชั่วโมง แสดงให้เห็นว่าการรวบรวมข้อมูลจากเซ็นเซอร์แบบพาสซีฟหลายวันสามารถสนับสนุนการคัดกรองแบบฉวยโอกาสได้อย่างไร