ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

สถาปัตยกรรม NCM ของ Stanford สร้างข้อความแบบขนานเป็นชั้นๆ

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 16 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

สถาปัตยกรรมที่ Stanford เสนอชื่อ Next Concept Modeling (NCM) สร้างข้อความแบบขนานเป็นชั้นๆ แทนที่จะสร้างทีละโทเคน ตามโพสต์ Show HN ที่แนะนำสถาปัตยกรรมนี้ ผู้โพสต์กล่าวว่าคำตอบที่โมเดลแบบดั้งเดิมใช้ 1,000 รอบจะใช้ NCM เพียง 32 รอบ คิดเป็นความเร็วในการรันที่เพิ่มขึ้นราว 30 เท่า การออกแบบใช้ nested dropout, conditioning corruption และ test-time scaling ด้วย Minimum Bayes Risk consensus จาก 20 แคนดิเดตเพื่อลด hallucination ผู้โพสต์อ้างว่าหาก NCM ขยายไปถึงโมเดลระดับล้านล้านพารามิเตอร์ AI ระดับแนวหน้าจะรันบนฮาร์ดแวร์สำหรับผู้บริโภคได้ และอาจลดการพึ่งพาชิปหน่วยความจำราคาแพง สิ่งเหล่านี้เป็นการคาดการณ์ของผู้โพสต์ ไม่ใช่ผลลัพธ์ที่พิสูจน์แล้ว ไม่มีรายงานหลักฐานการขยายไปยังโมเดลขนาดใหญ่

สร้างจากรายงาน · อัปเดต 16 ชม. ที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

16 พฤศจิกายน
  1. Hacker News · AI
    Show HN: NCM Model — LLM ที่กินหน่วยความจำสูงตายแล้วหรือ?

    โพสต์ Show HN กล่าวถึง Next Concept Modeling (NCM) สถาปัตยกรรมที่ Stanford เสนอ ซึ่งสร้างข้อความแบบขนานเป็นชั้นๆ แทนที่จะสร้างทีละโทเคน ลดการตอบสนองที่โมเดลทั่วไปต้องใช้ 1,000 รอบเหลือเพียง 32 รอบ เพิ่มความเร็วในการรันราว 30 เท่า การออกแบบใช้ nested dropout, conditioning corruption และ test-time scaling ด้วย Minimum Bayes Risk (MBR) consensus จาก 20 ตัวเลือกเพื่อลด hallucination หากขยายไปถึงโมเดลระดับล้านล้านพารามิเตอร์ได้ AI ระดับแนวหน้าอาจรันบนฮาร์ดแวร์สำหรับผู้บริโภคได้

ความร้อนแรงของเหตุการณ์นี้

ช่วงปัจจุบันที่เทียบได้
6
จุดสูงสุดในช่วงที่เทียบได้
1016 พฤศจิกายน 01:00
การเปลี่ยนแปลงใน 24 ชั่วโมง
–

แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู