ข้ามไปที่เนื้อหา
เฉพาะ งานวิจัย#Microsoft
11 พฤศจิกายนวันพุธ
  1. Microsoft Research75

    นักวิจัย Microsoft อธิบาย Lazarus แบ็กดอร์ที่ตั้งโปรแกรมนิวรอนที่อยู่เฉยใหม่ในเอเจนต์ AI

    นักวิจัย Microsoft อธิบาย Lazarus เทคนิคแบ็กดอร์ที่ตั้งโปรแกรมนิวรอนที่อยู่เฉยน้อยกว่า 10 ตัวใน LLM ใหม่ เพื่อให้เอเจนต์ที่สร้างบนโมเดลนั้นส่งคำสั่งของผู้โจมตีออกมาเมื่อทริกเกอร์ที่ซ่อนอยู่ปรากฏ โดยไม่ต้องฝึกใหม่ โมเดลที่ถูกแก้ไขยังผ่านการประเมินมาตรฐานและทำงานปกติจนกว่าทริกเกอร์จะทำงาน ซึ่งอาจง่ายเพียงการเปลี่ยนวันที่ จากนั้นเอเจนต์จะรันโค้ดที่ดาวน์โหลดมาด้วยสิทธิ์การเข้าถึงที่ได้รับ ผู้เขียนระบุว่าการตรวจจับต้องเปรียบเทียบกับน้ำหนักต้นฉบับ และ Microsoft Foundry เชื่อมโยงโมเดล open-weight กับผู้เผยแพร่และสแกนคอนเทนเนอร์ของโมเดลอยู่แล้ว ขณะที่ชุดทดสอบ red-teaming การสแกนน้ำหนักแบบเอเจนต์ และโมเดลที่ลงนามพร้อมแหล่งที่มาที่ตรวจจับการแก้ไขได้อยู่ระหว่างการพัฒนา

    ทำไมเรื่องนี้สำคัญ: นักวิจัย Microsoft แสดงให้เห็นว่าการตั้งโปรแกรมนิวรอนที่อยู่เฉยน้อยกว่า 10 ตัวใหม่สามารถฝังแบ็กดอร์ในเอเจนต์ LLM ได้โดยไม่ต้องฝึกใหม่ ซึ่งทำให้แหล่งที่มาและความสมบูรณ์ของน้ำหนักกลายเป็นข้อกำหนดด้านความปลอดภัยในทางปฏิบัติ

6 พฤศจิกายนวันศุกร์
  1. Microsoft Research58

    PDD Kit ของ Microsoft Research พิสูจน์อย่างเป็นทางการสำหรับเว็บแอปฟูลสแตกที่เขียนโดยเอเจนต์

    Microsoft Research เปิดตัว PDD Kit ซึ่งเป็นต้นแบบงานวิจัยที่เปลี่ยนเจตนาในภาษาธรรมชาติของนักพัฒนาให้เป็นข้อกำหนดรูปแบบ Verus พิสูจน์ว่าโค้ด Rust ที่เอเจนต์เขียนขึ้นเป็นไปตามข้อกำหนดนั้นสำหรับทุกอินพุต และถอยกลับไปใช้การทดสอบในจุดที่การพิสูจน์ไปไม่ถึง ในการสาธิตภายใน Chopin ของ GitHub Next ทีมงานใช้ PDD Kit ตรวจสอบตรรกะการเข้าสู่ระบบของ Pet Store ซึ่งเป็นแอปฟูลสแตก Rust ขนาดประมาณ 5,000 บรรทัด โดยนักพัฒนาตรวจสอบเอกสารเจตนาแทนการตรวจโค้ดที่สร้างขึ้นทีละบรรทัด ปัจจุบัน PDD Kit ตรวจสอบได้เฉพาะ Rust และการรับประกันของมันขึ้นอยู่กับชิ้นส่วนที่เชื่อถือได้หกชิ้นซึ่งนักพัฒนาให้การรับรอง รวมถึงการตรวจสอบรหัสผ่านด้วย bcrypt และการค้นฐานข้อมูลสองครั้ง

30 ตุลาคมวันศุกร์
  1. Microsoft Research40

    Microsoft สร้างแพลตฟอร์มข้อมูลองค์กรสังเคราะห์เพื่อประเมิน Copilot

    แพลตฟอร์ม Industry Evaluation Data Generation Platform ของ Microsoft สร้างสภาพแวดล้อมองค์กรสังเคราะห์แบบครบวงจรเพื่อประเมิน Microsoft Copilot โดยไม่ใช้ข้อมูลลูกค้า โดยอ้างอิงจากแหล่งข้อมูลสาธารณะ เช่น ข้อมูลอาชีพ O*NET ประกาศรับสมัครงาน และเอกสารที่ยื่นต่อ SEC ระบบจะสร้าง tenant ที่สมจริงพร้อมผู้ใช้ การประชุม อีเมล และเอกสาร รวมถึงไปป์ไลน์การสอบถามอัตโนมัติและกรอบการประเมินคุณภาพ Microsoft ระบุว่าสิ่งนี้สร้างมาตรฐานพื้นฐานการประเมินแบบมาตรฐานแห่งแรกสำหรับ Copilot

22 ตุลาคมวันพฤหัสบดี
  1. Microsoft Research64

    Microsoft Research และผู้ร่วมเขียนพิสูจน์ข้อสันนิษฐาน KLS ที่มีอายุ 31 ปี

    นักวิจัย Microsoft Xinzhi Zhang และผู้ร่วมเขียนได้พิสูจน์ข้อสันนิษฐาน Kannan-Lovász-Simonovits (KLS) ซึ่งเป็นปัญหาที่เปิดอยู่มา 31 ปีในเรขาคณิตมิติสูง โดยแสดงให้เห็นว่าขอบเขตดังกล่าวคงอยู่ด้วยค่าคงที่สากลที่ไม่ขึ้นกับมิติ การพิสูจน์นี้เกิดขึ้นจากกระบวนการเอเจนต์ที่มนุษย์กำกับดูแล ซึ่งเอเจนต์ AI สำรวจแนวทางที่เป็นไปได้มากกว่า 100 แนวทาง ขณะที่นักวิจัยตัดทิ้งและเปลี่ยนทิศทางการค้นหา และความพยายามแบบไม่มีคำแนะนำแยกต่างหากด้วยโมเดลชั้นนำภายใต้งบโทเค็นที่เทียบเคียงกันนั้นไม่ประสบผลสำเร็จ มีการพิสูจน์อีกสองชิ้นปรากฏขึ้นในวันเดียวกัน และต่อมาได้มีการเผยแพร่การทำให้เป็นรูปแบบ Lean 4

    ทำไมเรื่องนี้สำคัญ: ปัญหาที่เปิดอยู่มา 31 ปีในเรขาคณิตมิติสูงได้รับการแก้ไขผ่านการค้นหาแบบเอเจนต์ที่มนุษย์กำกับดูแลเหนือแนวทางที่เป็นไปได้ราว 100 แนวทาง โดยมีการพิสูจน์อิสระและการทำให้เป็นรูปแบบ Lean เป็นการยืนยัน

5 ตุลาคมวันจันทร์
  1. GitHub Blog · AI & ML58

    GitHub เปิดตัว ReviewBench ซึ่งเป็นเบนช์มาร์กแบบเปิดสำหรับการรีวิวโค้ดด้วย AI

    GitHub เปิดตัว ReviewBench ซึ่งเป็นเบนช์มาร์กแบบเปิดสำหรับเอเจนต์รีวิวโค้ดด้วย AI สร้างจาก pull request สาธารณะ 219 รายการใน 19 ภาษา โดยมีการกระจายของภาษาและขนาดรีโพซิทอรีที่จำลองตาม pull request บน GitHub จำนวน 103.9 ล้านรายการ ชุด golden set รวบรวมข้อค้นพบจากผู้รีวิวที่เป็นมนุษย์ คอมมิตติดตามผลของผู้เขียน การวิเคราะห์แบบ static และ LLM ชั้นนำหลายตัว โดยให้ Claude Sonnet 5 เป็นผู้ให้คะแนนภายใต้ rubric ที่เผยแพร่ และวิศวกรอาวุโสได้ติดป้ายกำกับข้อค้นพบทุกข้อใหม่โดยอิสระด้วยความสอดคล้อง 96.6% GitHub ระบุว่าการประเมินแบบออฟไลน์ของการรีวิวโค้ดด้วย Copilot ของตนคาดการณ์ทิศทางของการทดสอบ A/B ในการใช้งานจริงได้ โดยอัตราการแก้ไขเพิ่มขึ้น 8.0% recall เพิ่มขึ้น 13.6% และต้นทุนต่อการรีวิวลดลง 8.0%