ข้ามไปที่เนื้อหา
เหตุการณ์ร้อนแรงกำลังพัฒนา

Domyn ทดลองฝึกโมเดล EUROPA ขนาดเกือบ 1 ล้านล้านพารามิเตอร์บน JUPITER

1 รายงาน1 แหล่งข่าวที่รายงานอัปเดต 19 ชม. ที่แล้ว

เริ่มตรงนี้

ไดเจสต์ AI

Domyn บริษัทจากมิลานที่นำกลุ่ม EUROPA ซึ่งได้รับการสนับสนุนจากสหภาพยุโรป ได้ทดลองฝึกโมเดล AI แบบเปิดของสหภาพยุโรปบนซูเปอร์คอมพิวเตอร์ JUPITER ในเมืองยือลิช ประเทศเยอรมนี โดยใช้การตั้งค่าทดสอบที่ 951.9 พันล้านพารามิเตอร์ ซึ่งมากกว่าขั้นต่ำ 400 พันล้านพารามิเตอร์ของคณะกรรมาธิการยุโรปถึงกว่าสองเท่า การออกแบบแบบ mixture-of-experts แบ่งเครือข่ายออกเป็น 384 experts โดยมีเพียง 8 experts ที่ทำงานต่อโทเคน ทำให้มีพารามิเตอร์ที่ทำงานอยู่ 32.8 พันล้านตัวต่อโทเคน Domyn กล่าวว่าการแก้ไขทางวิศวกรรมเพิ่มปริมาณงานจาก 90 เป็น 1,293 โทเคนต่อวินาทีต่อ GPU Domyn ยังไม่ได้เผยแพร่ค่าน้ำหนักของ EUROPA ซึ่งบริษัทกล่าวว่าจะเผยแพร่พร้อมรายละเอียดวิธีการฝึกเมื่อโมเดลออกมา บริษัทระบุว่าตัวเลขเหล่านี้มาจากการทดลองของตน และ "ค่าบางค่าอาจเปลี่ยนแปลงก่อนการฝึกจริงจะเริ่มขึ้น" และไม่ได้ให้วันที่สำหรับการฝึกเต็มรูปแบบ ข้อมูลการฝึก สัญญาอนุญาต หรือผลการทดสอบมาตรฐาน บน JUPITER นั้น Domyn มีเพียงสิทธิ์การเข้าถึงระดับผู้ใช้เท่านั้น

สร้างจากรายงาน · อัปเดต 19 ชม. ที่แล้ว

ไทม์ไลน์รายงาน

ไล่ตามรายงานเพื่อดูเหตุการณ์นี้จากหลายด้าน

15 พฤศจิกายน
  1. Hacker News · AI
    โมเดล AI แบบเปิด EUROPA ของ EU ทดลองฝึกด้วยพารามิเตอร์เกือบ 1 ล้านล้านบนซูเปอร์คอมพิวเตอร์ JUPITER

    Domyn บริษัทจากมิลานที่นำกลุ่ม EUROPA ซึ่งได้รับการสนับสนุนจาก EU ได้ทดลองฝึกโมเดลแบบเปิดบนซูเปอร์คอมพิวเตอร์ JUPITER ในเมืองยือลิช ประเทศเยอรมนี ด้วยการตั้งค่าทดสอบที่ 951.9 พันล้านพารามิเตอร์ มากกว่าขั้นต่ำ 400 พันล้านของคณะกรรมาธิการยุโรปถึงกว่าสองเท่า การออกแบบแบบ mixture-of-experts แบ่งเครือข่ายออกเป็น 384 experts โดยมีเพียง 8 ตัวที่ทำงานต่อโทเคน ดังนั้นจึงมีพารามิเตอร์ 32.8 พันล้านตัวที่ทำงานต่อโทเคน และ Domyn กล่าวว่าการแก้ไขทางวิศวกรรมเพิ่มปริมาณงานจาก 90 เป็น 1,293 โทเคนต่อวินาทีต่อ GPU Domyn ยังไม่ได้เผยแพร่ weights ของ EUROPA และโพสต์ดังกล่าวไม่ได้ระบุวันที่สำหรับการฝึกเต็มรูปแบบ ข้อมูลการฝึก สัญญาอนุญาต หรือผลการทดสอบ benchmark

ความร้อนแรงของเหตุการณ์นี้

ช่วงปัจจุบันที่เทียบได้
6
จุดสูงสุดในช่วงที่เทียบได้
1015 พฤศจิกายน 22:00
การเปลี่ยนแปลงใน 24 ชั่วโมง
–

แนวโน้มนี้เปรียบเทียบผู้ร่วมพูดถึงชุดเดียวกันในช่วงเวลาที่เฝ้าดูต่อเนื่อง ช่วงจึงอาจแคบกว่าคะแนนความร้อนปัจจุบัน วางเมาส์หรือแตะกราฟเพื่อดูความร้อนรายชั่วโมง กดลูกศรเพื่อเลื่อนดู