GitHub Blog ระบุทักษะสามอย่างที่นักพัฒนาควรเสริมสร้างเมื่อ AI เปลี่ยนแปลงงานของพวกเขา ได้แก่ การกำกับ AI agent ไม่ใช่แค่ใช้งาน การตรวจสอบผลลัพธ์ของ AI อย่างมีวิจารณญาณแทนที่จะเชื่อคำตอบแรก และการใช้เวลาที่ประหยัดได้จาก AI ไปจัดการกับปัญหาที่กว้างขึ้น โดยอ้างถึง Rubber Duck agent ที่มีมาใน GitHub Copilot ซึ่งใช้โมเดลที่สองในการวิพากษ์แผน โค้ด และการทดสอบก่อนที่นักพัฒนาจะดำเนินการต่อ
พนักงาน Every คนหนึ่งเล่าถึงการเปลี่ยนจากการ prompt แบบเธรดเดียวไปสู่การมอบหมายโปรเจกต์ทั้งหมดให้ subagent ที่ประสานงานกัน โดยใช้ skills, เธรด orchestrator, context packet, MCP และ computer use การเปลี่ยนแปลงนี้เริ่มจากทวีตในเดือนมิถุนายนที่ Katie Parrott ขอให้ Codex จัดตำแหน่งเธอลงในคู่มือ "Eight Levels of AI Adoption"; Codex จัดให้เธออยู่ที่ Level 5 พร้อมจุดเริ่มต้นของ Level 6
Claude Code mods เป็นไฟล์ JavaScript หรือ TypeScript ขนาดเล็กที่ทำงานภายในเซสชันในฐานะฮุกที่จัดส่งในปลั๊กอิน และสามารถสังเกตเหตุการณ์ เขียนพฤติกรรมใหม่ หรือวาด UI แบบกำหนดเองในเทอร์มินัลหรือแอปเดสก์ท็อป คู่มือนี้สร้าง Token Weather ซึ่งเป็นมอดประมาณ 80 บรรทัดที่อ่าน $.session.usage() หลังแต่ละเทิร์นและวาดแถบหน้าต่างบริบทสไตล์สภาพอากาศเหนือพรอมต์ จากนั้นพาชม Blast Radius ซึ่งกักคำสั่ง Bash ที่เสี่ยง และ Replay Theater ซึ่งไล่ดูการแก้ไขของแต่ละเทิร์น มอดต้องใช้ Claude Code 2.1.287 หรือใหม่กว่าและเปิดใช้เป็นค่าเริ่มต้น โค้ดที่เสร็จสมบูรณ์ของทั้งสามอยู่ใน anthropics/claude-code-playground
ทำไมเรื่องนี้สำคัญ: คำแนะนำแบบลงมือปฏิบัติของ Claude Code mods ที่สร้างมาตรวัดหน้าต่างบริบทที่ใช้งานได้ในประมาณ 80 บรรทัด แสดงให้เห็นว่าฮุก สถานะ และ UI แบบกำหนดเองทำงานร่วมกันอย่างไร
Anthropic เพิ่มสองคำสั่งให้กับสกิล claude-api ภายใน Claude Code: /claude-api build-eval สร้างชุดการประเมินในโค้ดเบสของคุณ และ /claude-api hillclimb ทำการวนซ้ำบนแอปพลิเคชันเทียบกับชุดการประเมินนั้นด้วยชุด held-out เพื่อจับ overfitting
ทำไมเรื่องนี้สำคัญ: Anthropic เพิ่มคำสั่ง build-eval และ hillclimb ให้กับสกิล claude-api ของตน แสดงให้เห็นว่า Claude Code สามารถออกแบบการประเมินและวนซ้ำเทียบกับการประเมินเหล่านั้นได้อย่างไร พร้อมทั้งป้องกัน overfitting
Vapi ได้ทำการทดลองเบื้องต้นโดยใช้โมเดล "System One" ชื่อ Jev ของ TypeSafe AI ซึ่งอยู่ในช่วง early-access เป็นแนวป้องกันที่ให้คะแนนว่าการตอบกลับของผู้ช่วยเสียงละเมิดกฎที่นักพัฒนากำหนดไว้หรือไม่ก่อนที่จะพูดออกไป ในการทดสอบเบื้องต้นครั้งหนึ่ง Jev จับการตอบกลับที่ละเมิดกฎได้อย่างน้อยสามในสี่ครั้ง แม้ว่า Vapi ระบุว่านี่ไม่ใช่การรับประกันความสอดคล้อง 100% และเป็นเพียงการตรวจสอบเพิ่มเติมบน prompt guardrails เท่านั้น
Mike Taylor หัวหน้าฝ่าย evals ของ Every อธิบายเวิร์กโฟลว์การเขียนที่เขาใช้ร่วมกับ AI ตั้งแต่การเขียนหัวข้อก่อนและการรวบรวมแหล่งข้อมูล ไปจนถึงการบันทึกเสียงพูดคนเดียวและการสร้างฉบับร่างจาก Claude Opus 5.5, Fable 5.1 และ GPT-6 Astra เขากล่าวว่ากระบวนการนี้ลดเวลาสำหรับงานเขียน 1,200 คำของเขาจากหนึ่งวันเหลือไม่ถึงสองชั่วโมง โดยที่ปริมาณการเข้าชมและความคิดเห็นเชิงบวกจากผู้อ่านไม่ลดลง และเขายังคงเขียนบทนำและบทสรุปด้วยตัวเอง และคาดว่าประมาณ 20-30 เปอร์เซ็นต์ของฉบับร่างจะเปลี่ยนแปลงระหว่างการแก้ไขด้วยตัวเอง
Modal อธิบายวิธีที่บริษัทปรับแต่งการอนุมานของ Kimi K2.6 สำหรับเอเจนต์เขียนโค้ด จนได้ประสิทธิภาพต่อผู้ใช้ 2.8 เท่า และข้ามผู้ใช้ 5.6 เท่าต่อรีพลิกา พร้อมให้บริการที่ระดับหลายแสนล้านโทเคนต่อวัน งานนี้ผสาน DFlash speculative decoding แบบกำหนดเองที่ปรับละเอียดบนข้อมูลการเขียนโค้ด, FP8 KV cache และ NVFP4 shared-expert quantization, HiCache CPU-tier caching และการกำหนดเส้นทางตามโหลดที่คำนึงถึง KV cache Modal ได้ส่งแพตช์ SGLang ขึ้นต้นน้ำและเปิดเผยคอนฟิกูเรชันเบื้องหลัง Modal Auto Endpoints
หัวหน้าฝ่ายประเมินของ Every อธิบายวิธีสร้างเกณฑ์มาตรฐาน AI ส่วนตัวแทนที่จะพึ่งพา MMLU-Pro และแบบทดสอบสาธารณะอื่นๆ โดยอ้างอิงจากประสบการณ์ของเขาเองในการทดสอบ Claude Opus 5, Claude Fable 5, GPT-5.6 Sol, Astra, Luna และ Haiku กับงานจริง แนวทางนี้มีสามระดับและมีจุดประสงค์เพื่อแสดงว่าเมื่อใดควรสลับโมเดล และโมเดลที่เล็กกว่าและถูกกว่าจะเพียงพอหรือไม่
คู่มือนี้เปรียบเทียบ LiveKit Agents และ Pipecat ซึ่งเป็นเฟรมเวิร์กโอเพนซอร์สสองตัวที่บทความระบุว่าสำคัญที่สุดสำหรับการสร้างเอเจนต์ AI แบบเสียงและวิดีโอระดับโปรดักชัน ครอบคลุมสถาปัตยกรรม การนำไปใช้ ประสบการณ์นักพัฒนา และความพร้อมสำหรับโปรดักชัน LiveKit Agents ทำงานบนโครงสร้างพื้นฐาน WebRTC และ SIP โอเพนซอร์สของ LiveKit และเชื่อมต่อไปป์ไลน์ให้เอง ขณะที่ Pipecat ไม่สมมติเรื่องการรับส่งข้อมูลและให้นักพัฒนาประกอบไปป์ไลน์ทีละขั้นตอน บทความยังกล่าวถึงตำแหน่งของ TEN Framework, Dograh, Vision Agents และ Vocode ด้วย
LiveKit อธิบายว่าคำเตือน "inference is slower than realtime" ใน voice agents ของ LiveKit หมายถึงโมเดล VAD ภายในเครื่อง ไม่ใช่โมเดล STT, TTS หรือ LLM ที่ใช้ผ่าน LiveKit Inference หน้าต่างเสียงขนาด 32ms แต่ละช่วงต้องถูกประมวลผลให้เสร็จภายใน 32ms และความล่าช้าที่รายงานแสดงว่า VAD ตามเสียงสดไม่ทันมากน้อยเพียงใด สาเหตุหลักคือ event loop ที่ถูกบล็อกและ CPU ที่อิ่มตัว และวิธีแก้คือการตัดโค้ดแบบ synchronous ออก ไม่ใช่การเพิ่ม thread
语音信箱检测（也称应答机检测）会在约三到五秒内判断外呼电话是接通了真人还是录音，其依据是时序和行为信号，而非语音音频。一篇 2026 年的 arXiv 预印本发现，仅凭时序特征就能达到基于提示音和关键词的方法的效果，同时避免后者带来的额外延迟。Vapi 允许用户选择检测提供商、调整时序，并在真人接听时切回对话。
Botika ดำเนินงาน generative AI แบบ full-stack บน Modal ครอบคลุมไปป์ไลน์ข้อมูลภาพขนาด 100 เทระไบต์ โมเดลพื้นฐานที่พัฒนาเองซึ่งมีพารามิเตอร์หลายหมื่นล้านตัว และโมเดลราว 15 ตัวที่ให้บริการ inference ในโปรดักชัน ไปป์ไลน์นี้ประมวลผลชุดข้อมูลดังกล่าวด้วยอัตราความผิดพลาดต่ำกว่า 1% ผ่านคอนเทนเนอร์ที่ทำงานพร้อมกันหลายพันตัว และปัจจุบันนักวิจัยคนเดียวสามารถรันการทดลองได้ 50 ครั้งต่อวัน แทนที่จะเป็นหนึ่งหรือสองครั้ง
บล็อกของ LiveKit อธิบายว่าทำไมวอยซ์เอเจนต์มักเงียบหลังคำตอบสั้น ๆ อย่าง "yes" หรือ "ok" โดยสืบสาวไปถึงความล้มเหลวในการตรวจจับการผลัดกันพูด สาเหตุที่พบบ่อยที่สุดคือผู้ให้บริการ STT พลาดคำพูดสั้นและไม่ส่ง final_transcript ออกมาเลย ซึ่งขัดขวางการตรวจจับจุดสิ้นสุดของคำพูดโดยสิ้นเชิง บทความยังกล่าวถึงความหน่วงของ endpointing ที่ก้าวร้าวหรือผ่อนปรนเกินไป และการตัดเสียงรบกวนที่กำหนดค่าผิดซึ่งตัดเสียงสั้น ๆ ทิ้งไปราวกับเป็นเสียงรบกวน
Vapi เผยแพร่เกณฑ์เจ็ดข้อสำหรับประเมิน AI voice agents ในด้านประสบการณ์ลูกค้า ครอบคลุมการแก้ปัญหา คุณภาพเสียงแบบเรียลไทม์ การดำเนินการ การส่งต่อ ความยืดหยุ่นของโมเดล ความน่าเชื่อถือตลอดวงจรชีวิต และการควบคุมแพลตฟอร์ม คู่มือนี้โต้แย้งว่าการนับ containment และ deflection นั้นนับความสำเร็จเกินจริง เนื่องจากผู้โทรที่ถูก contained อาจเพียงแค่วางสาย และอ้างข้อมูล ContactBabel ที่แสดงให้เห็นว่าความชอบใช้โทรศัพท์สำหรับการโต้ตอบที่ซับซ้อนเพิ่มขึ้นจาก 28% ในปี 2018 เป็น 47% ในปี 2024 Vapi วางตำแหน่งตัวเองเป็นเลเยอร์แพลตฟอร์มที่ไม่ผูกกับโมเดลใดโมเดลหนึ่ง พร้อมการตั้งค่า endpointing การจัดการการขัดจังหวะ และการลดสัญญาณรบกวนพื้นหลัง
LiveKit กำลังขยายสถาปัตยกรรม SFU ของตนให้เกินกว่าลิงก์แบบ peer-to-peer เดี่ยว เพื่อให้การติดตั้งหุ่นยนต์สามารถรันเซสชันหลายผู้เข้าร่วมได้ โดย Room อนุญาตให้แต่ละกล้อง โมเดล ผู้ควบคุม หรือบริการเข้าร่วมเป็นผู้เข้าร่วมของตัวเอง LiveKit อธิบายสถาปัตยกรรมสามแบบ: การบันทึกข้อมูลแบบ human-in-the-loop ที่มีหุ่นยนต์ นโยบาย ผู้ควบคุม และเครื่องบันทึกอยู่ในเซสชันเดียว; การจัดการทักษะที่นำทางด้วย VLM ซึ่งโมเดลภาพ-ภาษาเลือกทักษะที่ประมาณ 1 Hz ขณะที่ผู้เข้าร่วมนโยบายแยกต่างหากควบคุมหุ่นยนต์ที่ระดับหลายสิบเฮิรตซ์; และการยกระดับนโยบาย ซึ่งโมเดลรางวัลที่ 30 Hz หรือสูงกว่าจะตั้งค่าสถานะที่ติดขัดหรือไม่ปลอดภัย และหุ่นยนต์จะเพิกถอนอำนาจจากนโยบายเฉพาะทาง
คู่มือที่เป็นกลางต่อผู้ขายนำเสนอเกณฑ์ห้าข้อในการเลือกแพลตฟอร์ม Conversational AI สำหรับ voice agent ในองค์กร ได้แก่ การควบคุมของนักพัฒนา การเลือกโมเดลและการมี fallback การทดสอบและการสังเกตการณ์ วงจรชีวิตของ agent แบบครบถ้วน และการปฏิบัติตามข้อกำหนดในระดับขนาดใหญ่ โดยอ้างอิงผลสำรวจของ Zapier จากผู้บริหารระดับ C-level ในสหรัฐฯ จำนวน 542 คน ซึ่ง 81% กังวลเกี่ยวกับการพึ่งพาผู้ขาย AI รายใดรายหนึ่ง และมีเพียง 6% ที่สามารถยกเลิกผู้ขายหลักได้โดยไม่เกิดผลกระทบ คู่มือโต้แย้งว่า latency และ orchestration สำคัญกว่ารายการฟีเจอร์ โดยอ้างถึงข้อค้นพบของ AssemblyAI ว่าความหน่วงที่เกิน 500–700 ms รู้สึกไม่เป็นธรรมชาติ
Vapi ชี้ว่า voice agent ถูกตัดสินจากห้ามิติแบบเรียลไทม์ ได้แก่ latency, turn-taking, การจัดการการขัดจังหวะ, prosody และ pipeline ที่ทนทาน โดยอ้างงานวิจัยที่ระบุว่าช่องว่างการผลัดกันพูดของมนุษย์อยู่ใกล้ 200ms และหมายเหตุว่าความหน่วงเกินราว 500–700ms รู้สึกไม่เป็นธรรมชาติ ขณะที่ pipeline แบบลำดับตรงไปตรงมาอาจใช้เวลาราว 1.9 วินาที เทียบกับ 600–900ms สำหรับแบบที่ปรับแต่งแล้ว Vapi วางตำแหน่ง pipeline ที่ไม่ผูกกับโมเดลของตนว่าสามารถปรับแต่งและทดสอบได้ผ่านการโทรจำลอง
Vapi เผยแพร่คำตอบจากคำถามในเว็บบินาร์ร่วมกับ Anthropic เกี่ยวกับ AI เสียง โดยลงรายละเอียดเอเจนต์สาธิตจองรถโดยสารแบบสดที่สร้างบน Vapi ด้วย Claude Haiku ของ Anthropic และเสียง Layla v2 เอเจนต์นี้ใช้เครื่องมือห้าอย่าง ได้แก่ ประเมินราคา จอง ตรวจสอบสถานะ ยกเลิก และวางสาย พร้อมการตรวจจุดสิ้นสุดอัจฉริยะและเกณฑ์การขัดจังหวะแบบอนุรักษนิยมเพื่อให้ได้รอบการสนทนาต่ำกว่าหนึ่งวินาที เอเจนต์ที่รัน Claude บน Vapi รองรับสายเกือบ 5 ล้านสายใน 30 วันที่ผ่านมาในกว่า 50 ภาษา
AI voice agent ช่วยลดเวลารอของลูกค้าได้สองวิธี คือ ลดงานออกจากคิวผ่านการให้บริการด้วยตนเอง การจัดเส้นทางอัจฉริยะ การช่วยเหลือเอเจนต์ และการคาดการณ์ความต้องการ และตอบรับทันทีโดยไม่ต้องรอสาย SQM Group พบว่าลูกค้าวางสายโดยเฉลี่ยที่ 2 นาที 36 วินาที ขณะที่ ContactBabel ระบุว่าอัตราการวางสายเฉลี่ยของสหราชอาณาจักรอยู่ที่ 8.4% ในปี 2024 Vapi กล่าวว่าสามารถตั้ง voice agent ตัวแรกได้จากแดชบอร์ดภายในไม่กี่นาที จากนั้นวัดผลด้วย ASA อัตราการวางสาย และการแก้ไขปัญหาในการโทรครั้งแรก
Kieran Klaassen อธิบายถึง "polish" ขั้นตอนสุดท้ายของเวิร์กโฟลว์ compound engineering ของเขา ซึ่งเขารันแอปด้วยตัวเองและบอกเอเจนต์ว่าอะไรรู้สึกไม่ถูกต้องจนกว่าจะไม่รู้สึกเช่นนั้น โดยใช้คำสั่ง /ce-polish จากปลั๊กอิน compound engineering เขาเช็กเอาต์สาขา เริ่ม dev server และเปิดแอปที่กำลังรันอยู่ข้างเอเจนต์ในเอดิเตอร์ของเขา เขายกตัวอย่างแอนิเมชันการ์ดอีเมลของ Cora ที่ผ่านการตรวจสอบอัตโนมัติและการตรวจสอบโดยเอเจนต์ทั้งหมดแล้ว แต่ยังเลื่อนลงมาจากด้านบนของหน้าจอแทนที่จะเปิดออกจากจุดที่คลิก
Modal เผยแพร่เครื่องมือแบบอินเทอร์แอกทีฟสำหรับประเมินต้นทุน GPU แบบเซิร์ฟเวอร์เลสเทียบกับการจอง โดยค่าเริ่มต้นใช้ราคาปัจจุบันของ GPU B200 แบบเซิร์ฟเวอร์เลสบน Modal และแบบจองผ่านผู้ให้บริการคลาวด์รายใหญ่เป็นเวลา 3 ปี โมเดลนี้แสดงให้เห็นว่าเมื่ออัตราส่วนพีคต่อค่าเฉลี่ยของแอปพลิเคชันสูงกว่าอัตราส่วนลดของการจอง GPU แบบเซิร์ฟเวอร์เลสจะมีต้นทุนโดยรวมต่ำกว่า และ Modal อ้างถึงส่วนลดที่พบจริงอยู่ที่ 2-5 เท่า เทียบกับอัตราส่วนพีคต่อค่าเฉลี่ยที่ 5-10 เท่า
Vapi เผยแพร่คำตอบสำหรับเจ็ดคำถามที่ถูกถามบ่อยที่สุดจากเว็บบินาร์ร่วมกับ Spring Venture Group ซึ่ง Homer Kay อธิบายว่า SVG ใช้ voice agent ของ Vapi ในการคัดกรองลูกค้าเป้าหมาย Medicare ก่อนโอนสายให้ตัวแทนที่มีใบอนุญาต คำตอบครอบคลุมถึงการปฏิบัติตามข้อกำหนดในการโทรออก การผสานรวมแบบ API-first การสลับเปลี่ยนคอมโพเนนต์ STT, LLM และ TTS ได้อย่างอิสระ การส่งต่อให้มนุษย์ และการกำหนดค่าที่สอดคล้องกับ HIPAA พร้อม Zero Data Retention
ความสำเร็จของ Voice AI เริ่มต้นจากการเลือกกรณีการใช้งาน: งานที่จบลงด้วยลิงก์ โค้ด หรือตัวเลขควรอยู่ในแชท ขณะที่ปัญหาที่เร่งด่วน พิมพ์ยาก หรือมีอารมณ์เกี่ยวข้องเหมาะกับเสียง บทสนทนาในแชทต้องเขียนใหม่ให้เหมาะกับการฟัง—แบ่งข้อความยาวออกเป็นรอบละหนึ่งความคิด ทวนรายละเอียดที่เก็บมาเช่นวันที่ออกเสียง และจำกัดตัวเลือกที่พูดได้เป็นสองหรือสามข้อ บริษัทจัดหางานแห่งหนึ่งลดข้อผิดพลาดในการบรรจุตำแหน่งปลายทางได้ 30% ด้วยการยืนยันแต่ละช่วงเวลาขณะเก็บข้อมูล และอีกทีมหนึ่งลดระยะเวลาโทรเฉลี่ยได้ 40 วินาทีด้วยการเปลี่ยนคำถามปลายเปิดเป็นตัวเลือก
Vapi สร้าง voice agents 15 ตัวบนหน้า homepage ของตน — 3 use cases ใน 5 ภาษา — โดยการสร้างจากไฟล์ ROUGH_DRAFT.md ไฟล์เดียว แทนการแก้ไขทีละตัวใน dashboard กรอบการทำงานสี่ระยะ (plan, draft, bootstrap, harden) สร้างโครง TypeScript project ด้วย OpenAI gpt-4.1 ที่ temperature 0.5, voice stacks จาก ElevenLabs และ Deepgram/Soniox และลูป upsert แบบ idempotent ที่เก็บ assistant IDs ไว้ใน .env.local repo เป็น public: clone, เพิ่ม VAPI_PRIVATE_KEY และรัน bun run bootstrap
Modal ได้มีส่วนร่วมในการปรับแต่งเคอร์เนล FlashAttention-4 เพื่อเร่งความเร็วเวิร์กโหลดการอนุมาน LLM ที่เน้นการถอดรหัส ซึ่งแบนด์วิดท์หน่วยความจำเป็นคอขวด การเปลี่ยนแปลงรวมถึงการพอร์ตเทคนิคความขนานแบบ "split KV" ไปยัง FA4 และแทนที่การโหลด TMA cp.async.bulk ด้วย cp.async สำหรับการเข้าถึงหน่วยความจำที่ไม่สม่ำเสมอ PR อินพุต FP8 (ผสานเมื่อ 17 เมษายน 2026) ให้ปริมาณงานสูงสุดถึง 1.16 เท่าเมื่อเทียบกับพื้นฐาน bf16 และช่วยให้แคช KV เล็กลงได้
Modal ระบุว่าคอขวดในการฝึกหลังการฝึกด้วย RL ของ LLM ตอนนี้คือโครงสร้างพื้นฐาน ไม่ใช่อัลกอริทึม และได้เปิดตัวไลบรารีโอเพนซอร์สที่พัฒนาจากการรัน RL ในระดับสเกลใหญ่ โดยชี้จุดเจ็บปวดสามประการ ได้แก่ โค้ดเชื่อมต่อ การเข้าคิวของคลัสเตอร์ และการใช้ GPU ไม่เต็มประสิทธิภาพ พร้อมรายงานว่าการซิงค์น้ำหนักผ่าน RDMA ลดเวลาอัปเดต Qwen3 8B จาก 2.62 วินาที เหลือ 41 มิลลิวินาที
Compound engineering ปรัชญาวิศวกรรมแบบ AI-native ได้ขยายลูปหลักจากสี่ขั้นตอนเป็นแปดขั้นตอน โดยเพิ่ม Ideate และ Brainstorm ที่ด้านหน้า และ Polish ที่ด้านท้าย ลูปเดิม—brainstorm, work, review, compound—ยังคงเป็นวงจรวิศวกรรมหลัก แต่การอัปเดตนี้สะท้อนถึงจุดที่ความสนใจของมนุษย์มุ่งไปในตอนนี้: การตัดสินใจว่าจะสร้างอะไร และการประเมินว่าผลิตภัณฑ์ที่เสร็จแล้วรู้สึกถูกต้องหรือไม่
Every กำลังปรับเปลี่ยนผลิตภัณฑ์ Plus One เพื่อให้ AI agents ทำงานเป็นทรัพยากรทีมที่ใช้ร่วมกันโดยมีหน้าที่ชัดเจน แทนที่จะเป็นผู้ช่วยส่วนตัวหนึ่งคนต่อพนักงานหนึ่งคน บริษัทกล่าวว่าเวอร์ชันแรกซึ่งสร้างบน OpenClaw สร้างความหงุดหงิดมากกว่าประสิทธิภาพ โดย agents มักล้มเหลวในการทำตามคำสั่ง เวอร์ชันถัดไปมีเป้าหมายให้เสถียรกว่าเดิม โดยทักษะและการเชื่อมต่อยังคงเป็นส่วนหนึ่งของแผน
Modal เผยแพร่บทความเชิงวิศวกรรมเกี่ยวกับวิธีที่พวกเขาลดเวลาการเริ่มต้นรีพลิกา AI inference จากประมาณ 2,000 วินาทีเหลือประมาณ 50 วินาที โดยใช้สี่องค์ประกอบ: บัฟเฟอร์ของ GPU ที่ว่างและมีสุขภาพดี ระบบไฟล์แบบ lazy content-addressed ที่ชื่อ ImageFS การ checkpoint/restore ฝั่งโฮสต์ผ่าน runsc ของ gVisor และการ checkpoint/restore ของ CUDA ที่สร้างบนการสนับสนุนไดรเวอร์ของ Nvidia จากการ cold start กว่าหมื่นครั้ง ค่าเฉลี่ยเวลา boot ของ vLLM ลดลงจาก 95,679 ms เหลือ 13,797 ms และ SGLang จาก 83,713 ms เหลือ 17,486 ms สำหรับโมเดล Qwen 3 0.6B ขนาด ~1 GiB ใน bf16 บทความยังระบุข้อจำกัด รวมถึงสแนปช็อตที่รองรับ GPU เดียวเท่านั้น และความอ่อนไหวต่อสภาพแวดล้อมโฮสต์ที่ต้องใช้หลายสแนปช็อตต่อการดีพลอย
ทีมงานของ Vapi ได้ตรวจสอบการติดตั้งระบบเสียงหลายพันครั้งและระบุลักษณะห้าประการที่บ่งชี้ว่า use case ของ voice agent จะประสบความสำเร็จหรือไม่ ได้แก่ ปริมาณการโทรสูง บทสนทนาที่ซ้ำซากและคาดเดาได้ เกณฑ์ความสำเร็จที่ชัดเจน และอีกสองข้อ การขาดลักษณะหนึ่งสามารถชดเชยได้ แต่หากขาดสามข้อหมายความว่าควรสำรวจ use case ทางเลือกอื่น
OpenAI เผยแพร่คู่มือการเขียนพรอมต์แบบเรียลไทม์สำหรับ voice agents ครอบคลุม Realtime 2 reasoning, preambles, tools และการจับเอนทิตีอย่างแม่นยำ คู่มืออธิบายวิธีจัดโครงสร้างพรอมต์เพื่อให้ voice agents แบบเรียลไทม์จัดการ reasoning และการใช้เครื่องมือ พร้อมทั้งจับเอนทิตีอย่างแม่นยำ
Modal ได้ทำโปรไฟล์ตัวจัดตารางของ SGLang บนงานมัลติโหมด และแทนที่การจัดการ CUDA IPC handle ซ้ำๆ ด้วยแคช Python dict อย่างง่าย ทำให้ปริมาณงานเพิ่มขึ้น 16.2% และลดค่าเฉลี่ย TTFT ลง 13.2% และ TPOT 17.2% บน Qwen2.5-VL-3B-Instruct บน H100 การแก้ไขนี้ถูกรวมใน SGLang v0.5.10 แล้ว
Vapi Blog สัมภาษณ์ Iz Shalom จาก Cartesia เกี่ยวกับการเลือกระหว่าง integrated stack และ open modular stack สำหรับ Voice AI โดย integrated stack เหมาะกับ use case ที่แคบและการทำ proof of concept อย่างรวดเร็ว ส่วน open stack เหมาะกับหลาย use case การรองรับหลายภาษา และการสลับเปลี่ยนคอมโพเนนต์ บทความนี้กระตุ้นให้ทีมวัด P99 latency ในสภาพแวดล้อมของตนเองและสร้าง evaluation ที่รัดกุมก่อนขึ้น production
Marcus Moretti ผู้จัดการทั่วไปของ Spiral บริหารผลิตภัณฑ์ทั้งหมดคนเดียวโดยใช้ Claude Code ซึ่งเขากล่าวว่าช่วยขจัดความน่าเบื่อของงานบริหารผลิตภัณฑ์ ด้วยการย้ายงานจากแอป 10 แอปมาไว้ในเธรดแชทเดียว เอกสารผลิตภัณฑ์เดียวที่เขาเขียนเองคือโรดแมป ซึ่งร่างมาหกเวอร์ชัน ส่วน PRD และตั๋วงานทั้งหมด Claude เป็นคนเขียน
AE Studio อธิบายรายละเอียดว่าพวกเขาฝึก LLM ให้พิสูจน์ทฤษฎีบททางคณิตศาสตร์ด้วยการเรียนรู้แบบเสริมกำลังบน Modal ได้อย่างไร โดยเปรียบเทียบ Evolution Strategies กับ GRPO ขณะที่คงลูปการฝึกให้คงที่ การตั้งค่านี้รันการอนุมาน vLLM บน GPU การตรวจสอบด้วยคอมไพเลอร์ Lean ในแซนด์บ็อกซ์ CPU แบบแยก และออร์เคสเตรเตอร์น้ำหนักเบา โดยใช้อิมเมจแยกตามฟังก์ชัน การกระจายงานด้วย .map() และ Volumes สำหรับน้ำหนักฐาน
OpenAI เผยแพร่รายการตรวจสอบการติดตั้งใช้งาน API ที่แนะนำนักพัฒนาในการย้ายเวิร์กโหลดไปยัง Responses API และตระกูลโมเดล GPT-6 ซึ่งรวมถึง gpt-6-astra, gpt-6.1-sol, gpt-6 Sol และ gpt-6 Luna คู่มือครอบคลุมระดับ reasoning.effort ตั้งแต่ low ถึง max, text.verbosity, tool_search พร้อมการโหลดเครื่องมือแบบเลื่อนออกไป, Programmatic Tool Calling, Multi-agent, compaction, prompt caching และโหมด WebSocket ซึ่ง OpenAI ระบุว่าแสดงให้เห็นการทำงานแบบ end-to-end เร็วขึ้นถึงประมาณ 40% สำหรับเวิร์กโฟลว์ที่มีการเรียกใช้เครื่องมือ 20 ครั้งขึ้นไป นอกจากนี้ยังมีรายละเอียดขั้นตอนด้านความน่าเชื่อถือและความปลอดภัย เช่น การจัดการข้อผิดพลาด 429 และ 503, background=True สำหรับงานที่ใช้เวลานาน, safety_identifier และการตรวจสอบ misalignment
ทำไมเรื่องนี้สำคัญ: รายการตรวจสอบการติดตั้งใช้งานอย่างเป็นทางการของ OpenAI รวบรวมการเลือกโมเดล, reasoning effort, tool search, compaction และโหมด WebSocket ไว้ในคู่มือการย้ายระบบเดียวสำหรับเวิร์กโหลด GPT-6
Modal เผยแพร่บทแนะนำการสร้างฮาร์เนสเอเจนต์เขียนโค้ดแบบกำหนดเองบน OpenAI Agents SDK ซึ่ง OpenAI เปิดตัววันนี้ โดยใช้ Modal Sandboxes เพื่อมอบสภาพแวดล้อม Linux แบบแยกส่วนและ GPU ให้กับเอเจนต์ คู่มือเริ่มจากเอเจนต์ขั้นต่ำที่ใช้ exec จากนั้นเพิ่มเซสชันสำหรับหน่วยความจำ ออร์เคสเตรเตอร์พร้อมพูลซับเอเจนต์สำหรับงานอะซิงโครนัสแบบขนาน โควตา GPU สแนปช็อตไฟล์ระบบเพื่อลดความซ้ำซ้อนในการตั้งค่า และระบบย่อยทักษะ ปิดท้ายด้วยฮาร์เนสที่รัน Parameter Golf challenge ของ OpenAI ข้ามซับเอเจนต์ GPU แบบขนาน Modal อ้างถึงกองเอเจนต์เขียนโค้ดเบื้องหลังของ Ramp บน Modal ซึ่งระบุว่าตอนนี้สร้าง PR มากกว่าครึ่งหนึ่งของบริษัท
วิศวกร Forward-Deployed ของ Vapi กล่าวว่าช่องว่างระหว่างเดโมกับการใช้งานจริงคือจุดที่โครงการ Voice AI ระดับองค์กรส่วนใหญ่หยุดชะงัก ต้องมีการทดสอบอย่างละเอียด การกำหนด guardrails และการออกแบบที่อิงเจตนาแทนการจับคู่วลีแบบตรงตัว ทีมงานเตือนถึง "personality drift" ที่เอเจนต์รับสไตล์การพูดของผู้โทร และระบุว่า LLM ไม่สามารถกำหนดผลลัพธ์ได้แน่นอน ดังนั้นการปรับใช้จึงต้องกำหนดระดับความคลาดเคลื่อนที่ยอมรับได้และวนซ้ำอย่างต่อเนื่อง พวกเขาแนะนำให้เริ่มจากการปรับต้นทุนให้เหมาะสมแต่กำหนดเป้าหมายไปที่การสร้างรายได้ และวัดเกณฑ์การโต้ตอบที่ดีว่าต้องใช้เวลาต่ำกว่าหนึ่งนาที
Doppel ย้ายเวิร์กโฟลว์ ML ส่วนใหญ่ไปยัง Modal ขจัดความฝืดของโครงสร้างพื้นฐานที่ทำให้การทดลองฝึกโมเดลและการติดตั้งใช้งาน inference ช้าลง การทดลองแบบขนานผ่าน map() แทนการรันแบบลำดับ ขณะที่การแคชเลเยอร์อิมเมจและ persistent volumes ลดเวลาบิลด์ได้ถึง 10 เท่า โดยการตั้งค่าที่ซับซ้อนสามารถบิลด์แบบวอร์มได้ภายในไม่ถึงหนึ่งนาที
OpenAI อัปเดตคู่มือ prompting ของ Sora 2 ให้ครอบคลุมความสามารถใหม่ของ API ได้แก่ character references ที่ใช้ซ้ำได้สำหรับวัตถุและสัตว์, การส่งออกที่ 1920×1080 และ 1080×1920, ความยาวคลิปสูงสุดเพิ่มจาก 12 วินาทีเป็น 20 วินาที, การต่อวิดีโอที่ใช้คลิปต้นฉบับทั้งหมดเป็นบริบท และ Batch API สำหรับงานวิดีโอแบบอะซิงโครนัส คู่มือยังอธิบายโครงสร้าง prompt สำหรับการจัดเฟรมภาพ การเคลื่อนกล้อง แสง และบทสนทนา และระบุว่าความละเอียด ระยะเวลา และ character IDs ต้องตั้งค่าเป็นพารามิเตอร์ของ API ไม่ใช่บรรยายเป็นข้อความ รองรับการต่อได้สูงสุด 20 วินาที และวิดีโอหนึ่งสามารถต่อได้สูงสุด 6 ครั้ง รวมทั้งสิ้น 120 วินาที
ทำไมเรื่องนี้สำคัญ: คู่มือ prompting ของ Sora 2 ที่อัปเดตโดย OpenAI อธิบายความสามารถใหม่ของ API เช่น character references, คลิป 20 วินาที และการต่อวิดีโอ พร้อมเทมเพลต prompt ที่ใช้ซ้ำได้สำหรับควบคุมช็อต