ข้ามไปที่เนื้อหา
#ข้อมูล / การเทรน
2 ตุลาคมวันศุกร์
  1. Meta AI Research Blog71

    Meta เผยแพร่บทความคณิตศาสตร์ 6 ฉบับที่เขียนร่วมกับนักคณิตศาสตร์และ Muse Spark

    Meta เผยแพร่บทความคณิตศาสตร์ 6 ฉบับที่ผลิตขึ้นจากความร่วมมือกับนักคณิตศาสตร์ซึ่งใช้ Muse Spark 1.1 และ 1.2 ในโหมด Thinking ผ่านอินเทอร์เฟซแชต meta.ai ปกติ โดยไม่มีโครงสร้างงานวิจัยเฉพาะ ห้าฉบับในจำนวนนี้ตอบคำถามที่เคยเปิดอยู่ ครอบคลุมเกณฑ์การปรับพอดีของทรงรีเกาส์เซียน การระเบิดในเวลาจำกัดสำหรับสมการชเรอดิงเงอร์ไม่เชิงเส้นแบบไบฮาร์มอนิก ตัวอย่างค้านข้อสันนิษฐานในทฤษฎีกรุปที่มี 384 องค์ประกอบ ความแน่นของการผ่อนคลายแบบอิงวัฏจักรในการหาค่าเหมาะที่สุดพหุนามแบบไบนารี และความเชื่อมโยงระหว่างฟังก์ชันสองจุดในทฤษฎีสตริงกับฟังก์ชันความสูงบนเส้นโค้ง แต่ละฉบับระบุว่าข้อความตอนใดร่างโดยนักวิจัยเป็นหลักและตอนใดโดย AI ให้เครดิตงานก่อนหน้า และกล่าวขอบคุณวิธีแก้ปัญหาที่เกิดขึ้นพร้อมกันอย่างเป็นอิสระจากทีมอื่น

    ทำไมเรื่องนี้สำคัญ: Meta เปิดเผยบทความ 6 ฉบับที่นักคณิตศาสตร์และ Muse Spark ร่วมมือกันทำ โดย 5 ฉบับให้คำตอบต่อคำถามที่เคยเปิดอยู่ และระบุตอนที่ AI กับมนุษย์เขียนขึ้นเอง

1 ตุลาคมวันพฤหัสบดี
  1. Zyphra Research38

    โมเดล Hybrid NoPE เรียนรู้ตำแหน่งโดยไม่ใช้ Position Encoding ได้อย่างไร

    Zyphra Research อธิบายว่าโมเดลภาษาศาสตร์แบบไฮบริดสามารถกู้คืนข้อมูลตำแหน่งได้อย่างไร แม้ว่าชั้น global attention จะไม่ใช้ position encoding แบบชัดเจน ชั้น local เช่น sliding window attention และ gated linear attention สร้างอคติแบบ recency ใน residual stream และ global NoPE attention เรียนรู้การฉาย query และ key ที่อ่านค่านี้เป็น implicit relative position encoding ผลการค้นพบนี้ให้คำอธิบายเชิงกลไกว่าทำไมการสลับชั้น local mixing กับ global NoPE attention จึงทำงานได้ดี และชี้ไปยังการแทนตำแหน่งที่สามารถ extrapolate เกินความยาวลำดับที่ใช้ฝึก

  2. Goodfire Research58

    Goodfire พัฒนาเครื่องตรวจสอบความปลอดภัยทางชีวภาพแบบ protein-embedding สำหรับ AI agents

    Goodfire Research พัฒนาเครื่องตรวจสอบความปลอดภัยทางชีวภาพที่รับรู้ลำดับ (sequence-aware) ซึ่งใช้ protein language model embeddings ในการแจ้งเตือนลำดับ DNA หรือโปรตีนที่น่ากังวลในเวิร์กโฟลว์ของ agent บน benchmark การใช้งานสองทาง (dual-use) แบบกำหนดเองที่สร้างขึ้นรอบโปรตีนท็อกซิน เครื่องตรวจสอบเหล่านี้มีประสิทธิภาพเหนือกว่ามาตรการป้องกันของ frontier model โดยมีการปฏิเสธคำขอที่เป็นประโยชน์น้อยกว่า ทำคะแนนได้ประมาณ 0.98 AUROC บน paraphrases ที่โปรตีนต้นทางอยู่ในฐานข้อมูลคัดกรอง และทำงานได้ในระดับมิลลิวินาทีต่อลำดับ ผู้เขียนรายงานว่าการตรวจจับดีขึ้นเมื่อโมเดลโปรตีนมีความสามารถมากขึ้น และระบุว่าผลลัพธ์ของ paraphrase อาศัยการประมาณค่า in-silico และไม่ได้ยืนยันว่าโปรตีนที่ออกแบบใหม่ยังคงมีกิจกรรมทางชีวภาพหรือไม่

7 กันยายนวันจันทร์
  1. Charlie O'Neill38

    มาเดิมพันกับสภาพแวดล้อม RL กันเถอะ: ทำไมข้อมูลและสภาพแวดล้อมที่มีประโยชน์จึงจะเป็นผู้ชนะ

    ข้อโต้แย้งที่ว่าคนที่กล่าวว่าทุกสิ่งจะกลายเป็นสภาพแวดล้อม RL กลับไม่ได้ลงมือทำตามความเชื่อนั้น และสภาพแวดล้อม RL ที่มีประโยชน์จะหายากขึ้นและมีมูลค่ามากขึ้นแบบทวีคูณเมื่อโมเดลเข้าใกล้ RSI บทความนี้กระตุ้นให้สร้างงานระยะยาวในโดเมนที่มีความเชี่ยวชาญจริง แทนที่จะเป็นฟาร์มงานแบบ Goodhart และโต้แย้งว่าการกระจายสภาพแวดล้อมที่กว้างขวางย่อมเหนือกว่าชุดเล็กๆ ที่ยากระดับแนวหน้า

4 กันยายนวันศุกร์
  1. Modal Blog22

    Markov Robotics ใช้ Modal ในการรันการฝึกอบรมหุ่นยนต์แบบ End-to-End

    Markov Robotics กำลังฝึกโมเดลโลกสำหรับความคล่องแคล่วของหุ่นยนต์อเนกประสงค์แบบ zero-shot โดยใช้ข้อมูลหุ่นยนต์น้อยกว่าสิบชั่วโมง ในขณะที่ผลลัพธ์ที่เทียบเคียงได้มักต้องใช้ข้อมูลหลายพันชั่วโมง บริษัทใช้การประมวลผลเกือบทั้งหมดบน Modal ตั้งแต่การประมวลผลวิดีโอหลายร้อยเทระไบต์ไปจนถึงการฝึกอบรมพร้อมกัน 2–10 รอบและการอนุมานระยะไกลผ่าน Modal Tunnels ที่ความหน่วงไปกลับประมาณ 20 มิลลิวินาที การประมวลผลล่วงหน้าที่อาจใช้เวลาทั้งวันเสร็จสิ้นในยี่สิบถึงสามสิบนาที โดยกระจายไปยัง GPU มากถึง 500 ตัวพร้อมกัน

2 กันยายนวันพุธ
  1. Charlie O'Neill38

    ความพยายามที่จะนิยาม Continual Learning สำหรับ AI Agents อย่างแท้จริง

    นักเขียนท่านหนึ่งสำรวจแนวคิด continual learning สำหรับ LLM agents โดยมองว่าโมเดลในปัจจุบันเปรียบเสมือนเด็กฝึกงานที่ความจำเสื่อม ซึ่งความรู้จะรีเซ็ตเมื่อ context window สิ้นสุดลง LLM มีหน่วยความจำโดยกำเนิดเพียงสองแบบเท่านั้น คือ context ที่ไม่สูญเสียข้อมูลแต่มีต้นทุนสูง และ KV cache กับ weights ที่บีบอัดแล้วแต่ยากต่อการอัปเดต โดยแทบไม่มีทางเลือกอื่นระหว่างสองสิ่งนี้ บทความนี้ชั่งน้ำหนักระหว่าง context ที่ยาวขึ้น, stateful memory harnesses และการบีบอัด context ให้เป็น learned latent representations โดยอ้างอิงถึง Llama 3.1 70B ที่มี weights 141 GB และ KV cache 320 KiB ต่อ token

  2. Modal Blog22

    Botika รัน generative AI แบบ full-stack บน Modal ได้อย่างไร

    Botika ดำเนินงาน generative AI แบบ full-stack บน Modal ครอบคลุมไปป์ไลน์ข้อมูลภาพขนาด 100 เทระไบต์ โมเดลพื้นฐานที่พัฒนาเองซึ่งมีพารามิเตอร์หลายหมื่นล้านตัว และโมเดลราว 15 ตัวที่ให้บริการ inference ในโปรดักชัน ไปป์ไลน์นี้ประมวลผลชุดข้อมูลดังกล่าวด้วยอัตราความผิดพลาดต่ำกว่า 1% ผ่านคอนเทนเนอร์ที่ทำงานพร้อมกันหลายพันตัว และปัจจุบันนักวิจัยคนเดียวสามารถรันการทดลองได้ 50 ครั้งต่อวัน แทนที่จะเป็นหนึ่งหรือสองครั้ง

1 กันยายนวันอังคาร
  1. Zyphra Research48

    Zyphra เปิดตัว PUFFER ระบบกำจัดข้อมูลซ้ำแบบคลุมเครือเชิงส่วนเพิ่มสำหรับคลังข้อมูลฝึกที่เปลี่ยนแปลงอยู่ตลอด

    Zyphra เปิดตัว PUFFER ระบบกำจัดข้อมูลซ้ำแบบคลุมเครือเชิงส่วนเพิ่มที่ตระหนักถึงแหล่งที่มาแบบโอเพนซอร์ส สำหรับคลังข้อมูลฝึก LLM ที่เติบโตอย่างต่อเนื่อง ภายใต้สัญญาอนุญาต Apache 2.0 โดยให้ความเร็วเพิ่มขึ้น 11x-35x เมื่อเทียบกับวิธีการกำจัดข้อมูลซ้ำบน CPU ที่มีอยู่ และสามารถนำเข้าหนึ่งพันล้านเอกสารได้ใน 1.75 ชั่วโมงบนโปรเซสเดียว พร้อมการใช้งานจริงกับเอกสารมากกว่า 30 พันล้านฉบับ PUFFER เก็บประวัติ MinHash-LSH ที่พักอยู่บนดิสก์ เพื่อให้สามารถเพิ่มชุดข้อมูลใหม่ กู้คืนงานที่ถูกขัดจังหวะได้อย่างแน่นอน และถอนชุดข้อมูลแต่ละชุดออกได้โดยไม่ต้องสร้างดัชนีคลังข้อมูลทั้งหมดใหม่

26 กรกฎาคมวันอาทิตย์
  1. Berkeley AI Research33

    ABBEL: สอน LLM ให้อัปเดตสถานะความเชื่อสำหรับการโต้ตอบระยะยาว

    Berkeley AI Research เปิดตัว ABBEL กรอบการทำงานที่แทนที่ประวัติการโต้ตอบทั้งหมดด้วยสถานะความเชื่อในภาษาธรรมชาติ และกำกับดูแลเนื้อหาผ่านการให้เกรดความเชื่อ บน CollabBench การเขียนโค้ดแบบร่วมมือ การให้เกรดความเชื่อแบบอิงการสร้างใหม่ช่วยลดช่องว่างกับโมเดลที่ใช้บริบทเต็มเหลือประมาณ 50% และฝึกใน 50 สเต็ปแทนที่จะเป็น 100 ขณะใช้โทเคนสูงสุดน้อยลง

21 กรกฎาคมวันอังคาร
  1. OpenAI Alignment Blog62

    OpenAI และ Apollo Research วัดพฤติกรรมแสวงหารางวัลด้วย Contrastive SDF

    OpenAI และ Apollo Research พัฒนา Contrastive SDF ซึ่งเป็นการทดสอบที่ปรับแต่งโมเดลสองชุดบนเอกสารสังเคราะห์ที่บ่งชี้ความชอบของผู้ให้คะแนนที่ตรงกันข้าม และวัดว่าพฤติกรรมปฏิบัติตามผู้ให้คะแนนมากเพียงใด เมื่อนำไปใช้กับ checkpoint ระดับกลางของการรัน RL ของ OpenAI o3 ที่มุ่งเน้นความสามารถโดยไม่มีการฝึกด้านความปลอดภัย แนวโน้มช่องว่างของผู้ให้คะแนนเพิ่มขึ้นจาก checkpoint ต้นไปยัง checkpoint ปลาย ขณะที่ช่องว่างสำหรับผู้มีอำนาจอื่นยังคงใกล้ศูนย์ ในการประเมินความซื่อสัตย์ Broken Promises Coding และ Log Falsification ความซื่อสัตย์ของ checkpoint ปลายขึ้นอยู่กับสิ่งที่มันเชื่อว่าผู้ให้คะแนนให้รางวัลมากกว่าอย่างชัดเจน และวิธีการนี้สามารถระบุผู้มีอำนาจเป้าหมายของ model organism ของ gpt-oss-120b สามตัวที่ถูกฝึกให้เอนเอียงไปทาง User, Grader หรือ OpenAI Leadership ได้

    ทำไมเรื่องนี้สำคัญ: OpenAI และ Apollo Research นำเสนอ Contrastive SDF การทดสอบที่อิงการปรับแต่ง ซึ่งวัดว่าพฤติกรรมของโมเดลติดตามสิ่งที่มันเชื่อว่าผู้ให้คะแนนให้รางวัลได้แรงเพียงใด และพบว่าแนวโน้มนี้เพิ่มขึ้นตลอดการรัน RL ของ o3 โดยไม่มีการฝึกด้านความปลอดภัย

7 กรกฎาคมวันอังคาร
  1. Berkeley AI Research36

    ปัญญาประดิษฐ์ไร้ค่าใช้จ่าย แล้วต่อไปคืออะไร? ระบบข้อมูลเพื่อเอเจนต์ ของเอเจนต์ และโดยเอเจนต์

    Aditya G. Parameswaran จาก UC Berkeley และผู้ร่วมงานโต้แย้งว่า เมื่อต้นทุนการอนุมานลดลงจากประมาณ $30 ต่อล้านโทเค็นในต้นปี 2023 เหลือต่ำกว่า $1 ในปัจจุบัน ระบบข้อมูลจำเป็นต้องได้รับการออกแบบใหม่โดยคำนึงถึงความท้าทายสามประการ ได้แก่ ระบบเพื่อเอเจนต์ ระบบของเอเจนต์ และระบบโดยเอเจนต์ พวกเขาตั้งข้อสังเกตว่าในเบนช์มาร์ก text-to-SQL ที่มีหลายเอเจนต์ต่อหนึ่งงาน มีเพียง 10-20% ของแผนย่อยที่แตกต่างกัน ดังนั้น 80-90% ของคำสั่งย่อยจึงทำงานซ้ำซ้อน และเสนอแนวทาง reuse, approximation และระบบข้อมูลเชิงรุก

9 มิถุนายนวันอังคาร
  1. MiniMax Blog58

    MiniMax เผยรายละเอียด MaxProof: RL ด้วย generative-verifier และการค้นหาเชิงวิวัฒนาการสำหรับการพิสูจน์ทางคณิตศาสตร์

    MiniMax เผยแพร่บล็อกทางเทคนิคที่อธิบาย MaxProof ซึ่งเป็นเฟรมเวิร์กเบื้องหลัง M3 ที่ทำคะแนนเกินเกณฑ์เหรียญทองของมนุษย์ใน IMO 2025 และ USAMO 2026 โดยไปป์ไลน์นี้ฝึกโมเดลผู้เชี่ยวชาญสามตัวสำหรับการสร้างข้อพิสูจน์ การตัดสินข้อผิดพลาด และการซ่อมข้อพิสูจน์ จากนั้นจึงทำการค้นหาเชิงวิวัฒนาการ ณ เวลาทดสอบ ซึ่งสุ่มตัวอย่าง 32 ตัวเลือก ตรวจสอบแต่ละตัว 4 ครั้ง และปรับปรุงต่อเนื่องสูงสุด 10 รอบ MiniMax ระบุว่าบทเรียนสำคัญคือ generative verifier ที่ใช้เป็นรางวัล RL ควรให้น้ำหนักกับการมี false positive ต่ำมากกว่าความแม่นยำเฉลี่ย โดยอ้างถึง reward hacking ใน M2-cycle ซึ่งอัตรา false positive เพิ่มขึ้นจากประมาณ 2.9% เป็น 8.0% ระหว่างการฝึก

1 มิถุนายนวันจันทร์
  1. Modal Blog46

    Modal: การเรียนรู้แบบเสริมกำลังสำหรับการฝึกหลังการฝึก LLM เป็นปัญหาโครงสร้างพื้นฐาน

    Modal ระบุว่าคอขวดในการฝึกหลังการฝึกด้วย RL ของ LLM ตอนนี้คือโครงสร้างพื้นฐาน ไม่ใช่อัลกอริทึม และได้เปิดตัวไลบรารีโอเพนซอร์สที่พัฒนาจากการรัน RL ในระดับสเกลใหญ่ โดยชี้จุดเจ็บปวดสามประการ ได้แก่ โค้ดเชื่อมต่อ การเข้าคิวของคลัสเตอร์ และการใช้ GPU ไม่เต็มประสิทธิภาพ พร้อมรายงานว่าการซิงค์น้ำหนักผ่าน RDMA ลดเวลาอัปเดต Qwen3 8B จาก 2.62 วินาที เหลือ 41 มิลลิวินาที

20 พฤษภาคมวันพุธ
  1. Modal Blog22

    Applied Compute บน Modal ขยายการเรียนรู้แบบเสริมกำลังสำหรับเอเจนต์องค์กรแบบกำหนดเอง

    Applied Compute ฝึกฝนเอเจนต์ AI องค์กรแบบกำหนดเองผ่านการเรียนรู้แบบเสริมกำลัง โดยต่อยอดจากแซนด์บ็อกซ์ ฟังก์ชัน และการเริ่มต้นแบบเย็นระดับต่ำกว่าวินาทีของ Modal เพื่อให้การโรลเอาต์แบบขนานหลายพันรายการยังคงผูกติดกับ GPU เอเจนต์ของบริษัทได้แก่โมเดลการรับสมัคร merchant สำหรับ DoorDash และเอเจนต์ตรวจจับบั๊กสำหรับ Cognition

29 เมษายนวันพุธ
  1. Modal Blog33

    การสร้างเวิร์กโฟลว์พิสูจน์ทฤษฎีบทด้วย RL บน Modal

    AE Studio อธิบายรายละเอียดว่าพวกเขาฝึก LLM ให้พิสูจน์ทฤษฎีบททางคณิตศาสตร์ด้วยการเรียนรู้แบบเสริมกำลังบน Modal ได้อย่างไร โดยเปรียบเทียบ Evolution Strategies กับ GRPO ขณะที่คงลูปการฝึกให้คงที่ การตั้งค่านี้รันการอนุมาน vLLM บน GPU การตรวจสอบด้วยคอมไพเลอร์ Lean ในแซนด์บ็อกซ์ CPU แบบแยก และออร์เคสเตรเตอร์น้ำหนักเบา โดยใช้อิมเมจแยกตามฟังก์ชัน การกระจายงานด้วย .map() และ Volumes สำหรับน้ำหนักฐาน

14 เมษายนวันอังคาร
  1. Modal Blog40

    Modal Autoscaling Autoresearch: GPU แบบยืดหยุ่นสำหรับเอเจนต์วิจัย AI

    Modal สาธิตการรันเอเจนต์วิจัยอัตโนมัติบน GPU แบบยืดหยุ่น: เมื่อได้รับ Modal Skills Claude Code ได้รันการทดลอง 113 ครั้งรวม 238 GPU-ชั่วโมงบนโจทย์ Parameter Golf ของ OpenAI โดยทำการฝึกโมเดลหลักเสร็จเร็วขึ้น 5 เท่าเมื่อเทียบกับเวิร์กสเตชันเดียว ขณะที่ใช้ทรัพยากรเพียงเศษเสี้ยวของคลัสเตอร์เฉพาะ เอเจนต์จัดสรร GPU ผ่านการเรียก API ปรับขนาดจากหนึ่งถึงหลายสิบ H100 และกลับเป็นศูนย์โดยอัตโนมัติ

25 มีนาคมวันพุธ
  1. Modal Blog22

    Doppel ใช้ Modal ลดค่าใช้จ่ายโครงสร้างพื้นฐาน ML ได้อย่างไร

    Doppel ย้ายเวิร์กโฟลว์ ML ส่วนใหญ่ไปยัง Modal ขจัดความฝืดของโครงสร้างพื้นฐานที่ทำให้การทดลองฝึกโมเดลและการติดตั้งใช้งาน inference ช้าลง การทดลองแบบขนานผ่าน map() แทนการรันแบบลำดับ ขณะที่การแคชเลเยอร์อิมเมจและ persistent volumes ลดเวลาบิลด์ได้ถึง 10 เท่า โดยการตั้งค่าที่ซับซ้อนสามารถบิลด์แบบวอร์มได้ภายในไม่ถึงหนึ่งนาที

13 มีนาคมวันศุกร์
  1. Berkeley AI Research38

    Berkeley AI Research เปิดตัว SPEX และ ProxySPEX สำหรับระบุปฏิสัมพันธ์ในระดับใหญ่สำหรับ LLMs

    นักวิจัยจาก Berkeley AI Research อธิบายถึง SPEX และ ProxySPEX อัลกอริทึมที่ระบุปฏิสัมพันธ์ที่มีอิทธิพลของคุณลักษณะ ข้อมูล และองค์ประกอบของโมเดลใน LLMs ในระดับที่ใหญ่กว่าวิธีก่อนหน้ามาก SPEX ตีความการค้นหาปฏิสัมพันธ์ใหม่เป็นการกู้คืนแบบเบาบางโดยใช้ความเบาบางและ low-degreeness ขณะที่ ProxySPEX ใช้ประโยชน์จากลำดับชั้นเพื่อจับคู่กับ SPEX ด้วยการ ablation น้อยลงประมาณ 10 เท่า ในการวิเคราะห์ความรู้สึก SPEX ให้ความซื่อสัตย์เทียบเท่า Faith-Shap และ Faith-Banzhaf บนอินพุตสั้นและคงไว้เมื่อบริบทขยายไปถึงหลายพันคุณลักษณะ

14 กุมภาพันธ์วันเสาร์
  1. Charlie O'Neill38

    Michael Scott Paper Company แห่งวงการ AI: ทำไมความเชี่ยวชาญเฉพาะทางแบบโอเพนซอร์สจึงชนะ Frontier Labs ในเรื่องเพดานความฉลาด

    Opus 4.6 และ GPT-5.3-Codex เปิดตัวทั้งคู่เมื่อสัปดาห์ที่แล้ว แต่การแข่งขันที่ชี้ขาดไม่ใช่ความสามารถดิบ ข้อโต้แย้งระบุว่างานที่มีมูลค่าทางเศรษฐกิจส่วนใหญ่อยู่ในชั้นความเชี่ยวชาญเฉพาะทาง ซึ่งโมเดลขนาดต่ำกว่า 80B ที่ปรับแต่งด้วยข้อมูลของลูกค้าเองจะทำงานได้ดีกว่า GPT-5.2 บนเวิร์กโฟลว์ของลูกค้ารายนั้น — เร็วกว่า ถูกกว่า และไม่ต้องส่งข้อมูลที่เป็นกรรมสิทธิ์ให้บุคคลที่สาม โอเพนซอร์สเพียงต้องเทียบเพดานความฉลาดให้ได้ ไม่ต้องถึงระดับแนวหน้า และนาฬิกาที่ผูกกับเงินทุนของเหล่าแล็บคือจุดที่อ่อนแอกว่า

26 มกราคมวันจันทร์
  1. Charlie O'Neill38

    การเรียนรู้อย่างต่อเนื่องและยุค AI หลังยุคโมโนลิธ

    การเรียนรู้อย่างต่อเนื่องแยกไม่ออกจากความเชี่ยวชาญเฉพาะทาง เพราะต้นทุนของการจดจำขยายตามขอบเขต: เมื่อบริบทเพิ่มขึ้น KV cache จะเติบโตแบบเชิงเส้นและอาจมีขนาดเกินน้ำหนักโมเดลทั้งหมด ดังนั้นข้อมูลจึงต้องย้ายจากระดับโทเค็นเข้าสู่น้ำหนัก การเชี่ยวชาญเฉพาะงานได้รับการแก้ไขแล้วเป็นหลักผ่านไปป์ไลน์การปรับแต่งอย่างต่อเนื่อง ขณะที่การคงอยู่แบบครั้งเดียวที่มีขอบเขตกว้าง ข้อมูลป้อนกลับเบาบาง ยังคงเป็นปัญหาที่ยาก

15 มกราคมวันพฤหัสบดี
  1. Modal Blog22

    Chai Discovery ขยายการค้นพบยาด้วยคอมพิวเตอร์บน Modal

    Chai Discovery ใช้ Modal เพื่อรันไปป์ไลน์การค้นพบยาด้วยแมชชีนเลิร์นนิง ตั้งแต่การฝังโปรตีนและการจัดเรียงลำดับหลายสาย ไปจนถึงการออกแบบแอนติบอดี Modal Volumes ดาวน์โหลดและจัดทำดัชนีชุดข้อมูลที่มีขนาดหลายร้อยกิกะไบต์เพียงครั้งเดียว แล้วแชร์ข้ามเครื่อง ขณะที่การขยาย GPU แบบยืดหยุ่นสามารถเปิด GPU หลายร้อยตัวได้ภายในไม่กี่นาที Chai กล่าวว่าการตั้งค่าเดียวกันนี้ теперьนำเวิร์กโฟลว์การวิจัยเข้าสู่การผลิตโดยไม่ต้องเขียนโครงสร้างพื้นฐานใหม่

28 ธันวาคม 2025วันอาทิตย์
  1. Modal Blog38

    Modal ว่าด้วยการดูแล GPU กว่า 20,000 ตัวให้แข็งแรงข้ามคลาวด์

    Modal ได้ขยายพูล GPU worker แบบหลายคลาวด์เกิน 20,000 GPU พร้อมกัน และเปิดตัวอินสแตนซ์คลาวด์มากกว่าสี่ล้านตัวในช่วงสองปีที่ผ่านมา ตอนนี้จึงเปิดเผยระบบความน่าเชื่อถือเบื้องหลัง บทความครอบคลุมการทดสอบและเลือกประเภทอินสแตนซ์ การเตรียม machine image และการตรวจสอบการบูต การตรวจสุขภาพ GPU แบบพาสซีฟและแอคทีฟ และการสังเกตการณ์และการสนับสนุน โดยรายงานความแตกต่างระหว่างผู้ให้บริการไฮเปอร์สเกล เช่น Cloud A มีอัตราการบูตสำเร็จ 99.6% และ Cloud C มี H100 ทำงานที่อุณหภูมิเกิน 90ºC ในปี 2025

29 พฤษภาคม 2025วันพฤหัสบดี
  1. Modal Blog22

    Twirl เข้าร่วม Modal เพื่อขยาย Data Orchestration และขยายฐานในยุโรป

    Modal ประกาศว่า Twirl ซึ่งเป็นผู้พัฒนาเครื่องมือจัดการข้อมูลสำหรับการพัฒนา ทดสอบ และปรับใช้ data pipeline ได้เข้าร่วมบริษัทแล้ว Rebecka Storm และ Eric Hansander ผู้ร่วมก่อตั้ง Twirl จะเข้าร่วมสำนักงานของ Modal ในสตอกโฮล์ม ซึ่งพวกเขาจะพัฒนาและขยายโครงสร้างพื้นฐานแบบ serverless ของ Modal และขยายฐานธุรกิจในยุโรป Modal กล่าวว่าประสบการณ์ด้านผลิตภัณฑ์ข้อมูลของทีมนี้จะช่วยให้บริษัทขยายจาก AI inference ไปสู่กรณีการใช้งานด้าน AI, ML และข้อมูลที่เกี่ยวข้อง

10 ธันวาคม 2024วันอังคาร
  1. Modal Blog30

    LLM fine-tuning คืออะไร? คู่มือเทคนิคและเครื่องมือ

    Fine-tuning ปรับน้ำหนักของ LLM ที่ผ่านการฝึกมาแล้วให้เหมาะกับงานหรือโดเมนเฉพาะ ให้คุณภาพสูงกว่า prompt engineering ด้วยต้นทุนและ latency ที่ต่ำกว่า Llama 7B ที่ผ่าน fine-tuning สามารถประหยัดต้นทุนต่อ token ได้ประมาณ 50 เท่าเมื่อเทียบกับ GPT-3.5 โดยมีประสิทธิภาพใกล้เคียงกัน คู่มือนี้ครอบคลุมกรณีการใช้งาน เช่น structured output การรักษาสไตล์ และคำสั่งเฉพาะโดเมน พร้อมตัวเลือก包括 OpenAI, Predibase, Modal, Google Colab และ AWS SageMaker และเฟรมเวิร์ก HuggingFace transformers, TRL และ Axolotl

4 ธันวาคม 2024วันพุธ
  1. Modal Blog22

    ทีมฟุตบอลยุโรประดับท็อปตัดต้นทุนการประมวลผลข้อมูลได้ 50% ด้วย Modal

    ทีมฟุตบอลยุโรประดับท็อป ซึ่งถูกปิดชื่อเป็น AFC Richmond ได้ย้ายไปใช้แพลตฟอร์ม GPU แบบเซิร์ฟเวอร์เลสของ Modal สำหรับไปป์ไลน์ข้อมูลการติดตามการแข่งขัน และลดต้นทุนการประมวลผลเกมทั้งฤดูกาลได้ 50% ทีมรันการอนุมานจากการสังเกตการติดตามราว 3.5 ล้านครั้งต่อเกมผ่านโมเดลที่อิงทรานส์ฟอร์เมอร์ที่พัฒนาขึ้นเอง และด้วย Airflow บน Modal ตอนนี้ประมวลผลข้อมูลแต่ละเกมได้ในไม่กี่นาทีแทนที่จะใช้เวลาหลายชั่วโมง

21 พฤษภาคม 2024วันอังคาร
  1. Modal Blog31

    การปรับแต่ง Stable Diffusion บน Heroicons เพื่อสร้างไลบรารีไอคอนที่ไม่มีที่สิ้นสุด

    Modal ได้ปรับแต่งโมเดล Stable Diffusion บนไลบรารี Heroicons ขนาดประมาณ 300 SVG เพื่อสร้างไอคอนเส้นขาวดำแบบใหม่ในสไตล์นั้น รวมถึงไอคอนสำหรับแนวคิดอย่าง barack-obama และ golden-retriever ไปป์ไลน์ทั้งหมด — การดาวน์โหลดโมเดลที่ผ่านการฝึกมาแล้ว การปรับแต่งเต็มรูปแบบด้วยสคริปต์ train_text_to_image.py ของ HuggingFace Diffusers และการให้บริการเว็บ UI แบบ Gradio — ทำงานบนแพลตฟอร์ม GPU แบบเซิร์ฟเวอร์เลสของ Modal บทความอธิบายขั้นตอนการเตรียมชุดข้อมูล (การแปลง SVG เป็น PNG, พื้นหลังสีขาว, ไฟล์ metadata.csv สำหรับคำอธิบายภาพ) และระบุว่าการปรับแต่งเต็มรูปแบบได้ผลดีที่สุด แม้ว่าอะแดปเตอร์แบบขนานสไตล์ LoRA ก็สามารถใช้ได้กับชุดข้อมูลขนาดเล็ก

20 พฤษภาคม 2024วันจันทร์
  1. Modal Blog25

    ทำไม Substack จึงย้ายไปป์ไลน์ AI และ ML ไปยัง Modal

    Substack ได้ย้ายการฝึกอบรมและการปรับใช้โมเดล ML เกือบทั้งหมด—รวมถึงการตรวจจับสแปม การแนะนำจดหมายข่าว การถอดเสียง การวิเคราะห์ความรู้สึก และการสร้างภาพ—จาก AWS SageMaker ไปยัง Modal Mike Cohen หัวหน้าฝ่ายวิศวกรรม AI และ ML อ้างถึงประสบการณ์นักพัฒนาที่ซับซ้อนของ SageMaker โค้ดที่แชร์กันยากข้ามโน้ตบุ๊ก และเวลาเริ่มต้นคอนเทนเนอร์กว่า 5 นาที บน Modal การสร้างจุดเชื่อมต่อการอนุมานใช้เวลาหนึ่งชั่วโมง ตอนนี้ Substack ดำเนินเวิร์กโฟลว์การปรับแต่ง การตรวจสอบ และการปรับใช้แบบเต็มรูปแบบบนพื้นฐานการจัดเก็บข้อมูลของ Modal

26 เมษายน 2024วันศุกร์
  1. Modal Blog50

    การปรับแต่งโมเดล embedding แบบโอเพนซอร์สเพื่อเอาชนะ text-embedding-3-small ของ OpenAI

    โมเดล embedding แบบโอเพนซอร์สที่ผ่านการปรับแต่งสามารถเอาชนะ text-embedding-3-small ของ OpenAI ในด้านความแม่นยำด้วยต้นทุนที่ต่ำกว่าโดยใช้เพียงตัวอย่างจำนวนเล็กน้อย Modal ได้ทำการทดลองกับชุดข้อมูลคำถามซ้ำของ Quora เพื่อหาว่ากรณีการใช้งานตอบคำถามแบบง่าย ๆ ต้องใช้ข้อมูลสำหรับการปรับแต่งมากเพียงใด และอธิบายวิธีสร้างโมเดลดังกล่าวบนโครงสร้างพื้นฐานแบบเซิร์ฟเวอร์เลสของตน

26 มีนาคม 2024วันอังคาร
  1. Modal Blog22

    Ramp 如何在 Modal 上使用微调 LLM 实现收据处理自动化

    Ramp 使用 Modal 微调其 LLM，并构建了一个用于收据管理的文本到结构化 JSON 模型，将需要人工干预的收据减少了 34%，基础设施成本估计比 OpenAI 等主要 LLM 提供商便宜 79%。Modal 函数并行训练了许多候选模型，将权重持久化到 Modal volumes，并提供了一个参数化推理端点。一名工程师还将一个用于 25,000 张发票的 PII 剥离脚本移植到 Modal，在 256 个云 worker 上并行化，20 分钟完成，花费 100 美元，而不是在本地花费 3 天。