Tới nội dung
Chỉ Chính chủ
30 tháng 9Thứ Tư
  1. Vapi Blog58

    Vapi ra mắt bản beta Personal Agent Calling cho phép trợ lý thực hiện cuộc gọi điện thoại

    Vapi đã ra mắt bản beta Personal Agent Calling, cho phép các trợ lý cá nhân gọi đến doanh nghiệp, xử lý menu điện thoại, duy trì cuộc trò chuyện và báo lại kết quả. Tính năng này hoạt động với các trợ lý bao gồm Muse, Instinct, GrokBot, ChatGPT Work, Claude Code, OpenClaw và Hermes, và người dùng dán một prompt hướng dẫn trợ lý đến phone.vapi.ai. Trong một thử nghiệm, trợ lý của Head of Revenue Bryan Parman đã chờ 14 phút trong trạng thái giữ máy với một hãng hàng không và từ chối khoản phí nâng cấp $51.69, sau đó nhân viên đại diện đã miễn khoản phí này và xác nhận ghế Economy Plus cạnh lối đi miễn phí.

29 tháng 9Thứ Ba
  1. Vapi Blog55

    Vapi ra mắt bộ công cụ CX để xây dựng và cải thiện các voice agent chăm sóc khách hàng

    Vapi đã ra mắt Vapi for CX, một bộ công cụ để xây dựng, triển khai, giám sát và tối ưu hóa các voice agent trải nghiệm khách hàng. Bộ công cụ này kết hợp một Composer ngôn ngữ tự nhiên dành cho các đội CX với cùng một đối tượng cấu hình có thể truy cập qua API, CLI và một máy chủ MCP, cùng với đánh giá, quản lý phiên bản, kế hoạch dự phòng, thẻ điểm cuộc gọi và dữ liệu hàng tuần về độ trễ, chi phí và chất lượng trên các bộ chuyển văn bản, mô hình và giọng nói. Vapi cho biết Amazon Ring vận hành 100% lưu lượng cuộc gọi đến của mình trên nền tảng này sau khi đánh giá hơn 40 nhà cung cấp, và Kavak xây dựng các phiên bản agent mới trong khoảng năm phút với NPS tăng 20 điểm.

  2. OpenClaw Blog71

    OpenClaw Enterprise ra mắt dưới dạng nền tảng mã nguồn mở để quản lý các tác nhân thường trú

    OpenClaw đã công bố OpenClaw Enterprise (OCE), một nền tảng mã nguồn mở, trung lập với nhà cung cấp để quản lý các tác nhân thường trú trong môi trường nhạy cảm, hiện đang được phát triển trước khi phát hành phiên bản 1.0 vào cuối năm nay. OCE bổ sung một mặt phẳng điều khiển cấp doanh nghiệp với tính đa thuê bao, ranh giới bảo mật cứng, sandbox, đánh giá dựa trên LLM và quyền chi tiết, đồng thời cho phép thay thế harness, mô hình và sandbox bằng các triển khai của bên thứ ba hoặc nội bộ. Các tổ chức có thể tự lưu trữ ngay hôm nay thông qua docker-compose cho phát triển cục bộ hoặc kubernetes cho triển khai nội bộ, và nó đang được thử nghiệm tại các công ty bao gồm Red Hat và OpenAI.

    Vì sao đáng chú ý: OpenClaw Enterprise là một mặt phẳng điều khiển mã nguồn mở cho các tác nhân thường trú trong môi trường nhạy cảm, với tính đa thuê bao, ranh giới bảo mật cứng và khả năng kiểm toán, hiện đã sẵn sàng cho các khối lượng công việc thử nghiệm nội bộ.

28 tháng 9Thứ Hai
  1. Mistral AI42

    Mistral mở trung tâm tại Munich cho AI vật lý và AI công nghiệp

    Mistral đã mở một trung tâm mới tại Munich, quy tụ các nhóm nghiên cứu tập trung vào AI vật lý và AI công nghiệp, cùng với các kỹ sư phục vụ các đối tác doanh nghiệp. Công ty cho biết sẽ xây dựng một gigawatt năng lực tính toán châu Âu vào năm 2030, và đang hợp tác với BMW về mô phỏng va chạm và Siemens Energy về các ứng dụng AI công nghiệp.

  2. Anthropic · Claude.dev72

    Anthropic bổ sung lệnh build-eval và hillclimb vào skill claude-api trong Claude Code

    Anthropic đã thêm hai lệnh vào skill claude-api bên trong Claude Code: /claude-api build-eval xây dựng một bộ đánh giá trong codebase của bạn, và /claude-api hillclimb lặp cải tiến một ứng dụng dựa trên bộ đánh giá đó với một tập giữ riêng để phát hiện overfitting.

    Vì sao đáng chú ý: Anthropic bổ sung lệnh build-eval và hillclimb vào skill claude-api của mình, cho thấy Claude Code có thể thiết kế các bộ đánh giá và lặp cải tiến dựa trên chúng đồng thời phòng ngừa overfitting.

  3. Anthropic · Claude.dev82

    Anthropic phát hành Claude Sonnet 5.5 với giá mỗi token không đổi và tốc độ đầu ra nhanh hơn 30%

    Anthropic đã phát hành Claude Sonnet 5.5, mô hình thứ hai trong dòng Claude 5.5 sau Opus 5.5, mà công ty cho biết thông minh hơn, hiệu quả hơn và nhanh hơn 30% so với Sonnet 5 với cùng mức giá mỗi token. Vì mô hình thường cần ít token hơn cho mỗi tác vụ, Anthropic cho biết hầu hết công việc tốn ít hơn tới 30% chi phí, và mô hình đi kèm cửa sổ ngữ cảnh gốc 1M token, đầu ra tối đa 128k và tính năng thinking bật theo mặc định. Hướng dẫn phát hành liệt kê các thay đổi phá vỡ tương thích đối với người dùng Sonnet 5, bao gồm thay thế disabled thinking bằng cài đặt between_tools, đổi forced tool_choice sang auto kèm strict tools, và chuyển computer use sang bộ công cụ computer_toolset_20260801.

    Vì sao đáng chú ý: Sonnet 5.5 của Anthropic giữ nguyên giá của Sonnet 5 trong khi cắt giảm lượng token dùng cho mỗi tác vụ, và ghi chú chuyển đổi cho thấy những gì thay đổi đối với các nhóm đã và đang xây dựng trên Sonnet 5.

25 tháng 9Thứ Sáu
  1. OpenClaw Blog74

    Microsoft Autopilot được xây dựng trên OpenClaw, với các đóng góp theo cả hai chiều

    Microsoft đã giới thiệu Autopilot, một tác nhân cá nhân thường trực được xây dựng trên OpenClaw, như một phần trong trải nghiệm Copilot mới của hãng, với bản xem trước riêng tư sẽ mở rộng đến những khách hàng đầu tiên vào cuối tháng này. Autopilot là tên mới của Microsoft Scout, được công bố hồi đầu năm nay, và nhóm của Omar Shahine cho biết đang làm việc với OpenClaw và OpenClaw Foundation về một runtime cấp doanh nghiệp. OpenClaw nêu bật các đóng góp ngược dòng từ các kỹ sư Microsoft, bao gồm kiểm tra tuân thủ chính sách, một companion Windows gốc, và các bản sửa lỗi độ tin cậy cho các tác vụ nền, khởi động lại và phản hồi trùng lặp.

    Vì sao đáng chú ý: Autopilot của Microsoft được xây dựng trên OpenClaw, và các đóng góp ngược dòng được liệt kê ở đây cho thấy một runtime tác nhân dùng chung cải thiện như thế nào trên các nền tảng.

24 tháng 9Thứ Năm
  1. Vapi Blog25

    Kỹ sư Vapi giải đáp các câu hỏi hàng đầu về Model Intelligence, Simulations và Campaigns

    Các kỹ sư sản phẩm Vapi gồm Mhar Andal, Scott Lowe và Adham El Fawal đã trình diễn Model Intelligence, Simulations và Campaigns trong một webinar ngày 22 tháng 9 và trả lời các câu hỏi hàng đầu từ nhà phát triển. Model Intelligence đề xuất các preset transcriber, LLM và voice đồng thời hiển thị các chỉ số chi phí, độ trễ và chất lượng, trong khi Simulations chạy các AI tester với kết quả đạt/không đạt và Campaigns quay số danh sách lên tới 10.000 liên hệ.

  2. Modal Blog58

    Modal và Phòng thí nghiệm Dữ liệu Toàn diện của CMU ra mắt Quail, một engine suy luận AI-SQL tối ưu hóa đồng thời query planner và suy luận

    Modal và Phòng thí nghiệm Dữ liệu Toàn diện thuộc Đại học Carnegie Mellon đã xây dựng Quail, một engine suy luận nhận biết truy vấn cho các khối lượng công việc AI-SQL, tối ưu hóa đồng thời query planner SQL và engine suy luận. Trên một truy vấn đa phép nối, nó xử lý hơn một tỷ token mỗi phút trên mỗi GPU H100, nhanh hơn hơn 10 lần so với baseline vLLM của Modal trên cùng phần cứng, với chi phí dưới 6¢ mỗi tỷ token; trên benchmark AI-SQL mới của nhóm, nó chạy nhanh hơn 1,84 lần so với vLLM theo trung bình nhân trên các tác vụ. Vì các phép lọc và phép nối trong AI-SQL chỉ cần một token duy nhất mỗi chuỗi, Quail bỏ qua decode, sampling và phân tách prefill-decode, đồng thời sử dụng query plan đã biết để sắp xếp thứ tự yêu cầu và quản lý việc loại bỏ KV cache.

23 tháng 9Thứ Tư
  1. Vapi Blog38

    Vapi thử nghiệm Jev như một hàng rào bảo vệ thời gian thực cho AI giọng nói

    Vapi đã chạy các thử nghiệm ban đầu sử dụng mô hình "System One" Jev trong chương trình truy cập sớm của TypeSafe AI như một hàng rào bảo vệ chấm điểm liệu phản hồi của trợ lý giọng nói có vi phạm quy tắc do nhà phát triển định nghĩa trước khi được phát ra hay không. Trong một thử nghiệm ban đầu, Jev đã phát hiện ít nhất ba trong bốn phản hồi vi phạm, mặc dù Vapi cho biết đây không phải là bảo đảm tuân thủ 100% mà chỉ là một lớp kiểm tra bổ sung bên trên các hàng rào bảo vệ bằng prompt.

  2. Modal Blog58

    Modal phục vụ hàng nghìn tỷ token cho các coding agent nghìn tỷ tham số như thế nào

    Modal giải thích cách họ tối ưu hóa suy luận Kimi K2.6 cho các coding agent, đạt hiệu năng gấp 2,8 lần mỗi người dùng và 5,6 lần giữa các người dùng trên mỗi replica, đồng thời vận hành dịch vụ ở mức hàng trăm tỷ token mỗi ngày. Công trình kết hợp giải mã suy đoán DFlash tùy chỉnh được tinh chỉnh trên các coding trace, FP8 KV cache và lượng tử hóa shared-expert NVFP4, bộ nhớ đệm tầng CPU HiCache, và định tuyến dựa trên tải có nhận biết KV cache. Modal đã đóng góp ngược các bản vá SGLang của mình và phát hành cấu hình đằng sau Modal Auto Endpoints.

22 tháng 9Thứ Ba
  1. LiveKit Blog38

    LiveKit ra mắt Private Links để các agent truy cập an toàn vào tài nguyên nội bộ

    LiveKit đã ra mắt Private Links, một đường hầm mã hóa được quản lý hoàn toàn cho phép các agent được lưu trữ trên LiveKit truy cập các tài nguyên nội bộ riêng tư thông qua AWS PrivateLink hoặc Azure Private Link mà không cần IP công khai, quy tắc tường lửa đầu vào hay hạ tầng VPN. Lưu lượng được định tuyến qua đường hầm WireGuard đến một cổng LiveKit trong cùng khu vực đám mây, và chỉ hỗ trợ các kết nối TCP được bảo mật bằng TLS. Việc thiết lập có sẵn thông qua LiveKit CLI hoặc Dashboard, với phê duyệt kết nối một lần ở phía khách hàng.

  2. OpenClaw Blog60

    OpenClaw bổ sung mô hình quyết định tùy chọn và giao diện Plugin SDK dùng chung

    OpenClaw đã giới thiệu hỗ trợ cho một mô hình quyết định được cấu hình riêng mà lõi và các plugin của nó có thể gọi thông qua api.runtime.decisions.evaluate trong Plugin SDK, trả về một lựa chọn, điểm số hoặc xác suất thay vì phản hồi trò chuyện. Tính năng này là tùy chọn và không thay thế mô hình trò chuyện, và các gói nhà cung cấp vẫn đang chờ một bản phát hành hỗ trợ. Bộ chuyển đổi TypeSafe hỗ trợ Jev được lưu trữ và một máy chủ System One cục bộ như Kev của Jared Palmer, và công cụ đánh giá đang được chuyển vào lõi OpenClaw với tên decision_evaluate.

    Vì sao đáng chú ý: OpenClaw bổ sung một lớp mô hình quyết định tùy chọn trả về câu trả lời có kiểu từ mã ứng dụng, với giao diện Plugin SDK dùng chung để các plugin có thể sử dụng mà không cần tích hợp riêng cho từng nhà cung cấp.

21 tháng 9Thứ Hai
  1. LiveKit Blog38

    So sánh các framework mã nguồn mở cho AI agent thoại và video thời gian thực: LiveKit Agents và Pipecat

    Hướng dẫn này so sánh LiveKit Agents và Pipecat, hai framework mã nguồn mở mà bài viết cho là quan trọng nhất để xây dựng AI agent thoại và video cho môi trường production, trên các khía cạnh kiến trúc, mức độ được sử dụng, trải nghiệm nhà phát triển và mức độ sẵn sàng cho production. LiveKit Agents chạy trên hạ tầng WebRTC và SIP mã nguồn mở của LiveKit và tự nối pipeline cho bạn, trong khi Pipecat không giả định transport nào và để nhà phát triển tự lắp pipeline theo từng giai đoạn. Bài viết cũng đề cập vị trí của TEN Framework, Dograh, Vision Agents và Vocode.

17 tháng 9Thứ Năm
  1. Descript Changelog20

    Tổng hợp bản phát hành Descript ngày 17 tháng 9 năm 2026: Cài đặt sẵn phụ đề, Nhạc và Hiệu ứng âm thanh AI, Thanh toán đa tiền tệ

    Bản phát hành ngày 17 tháng 9 năm 2026 của Descript bổ sung 18 cài đặt sẵn phụ đề và 10 hiệu ứng chữ động mới, cùng với nhạc nền và hiệu ứng âm thanh do AI tạo ra được đặt trực tiếp trên dòng thời gian trong phiên bản 145.0.15 trở lên. Thanh toán giờ đây hiển thị giá bằng tiền tệ địa phương với Apple Pay, Google Pay, Cash App và các tùy chọn khác, và trình chọn giọng nói sử dụng thư viện giọng nói ElevenLabs.

  2. LiveKit Blog25

    LiveKit ra mắt Startup Program với 23.000 USD tín dụng dành cho các nhà phát triển AI agent giai đoạn đầu

    LiveKit đã ra mắt Startup Program, trao cho các startup đủ điều kiện tổng giá trị khoảng 23.000 USD: 7.000 USD tín dụng inference từ bảy đối tác, 10.000 USD tín dụng LiveKit Cloud, và một năm sử dụng gói Scale có giá thông thường 500 USD mỗi tháng. Các mô hình từ đối tác bao gồm Deepgram, AssemblyAI và Gemma 4 31B do LiveKit lưu trữ có thể truy cập qua LiveKit Inference mà không cần tài khoản nhà cung cấp hay API key riêng. Chương trình hướng tới các startup có dưới 50 nhân viên, đã gọi được dưới 5 triệu USD và đang tích hợp voice, video hoặc physical AI vào sản phẩm của mình.

  3. Goodfire Research74

    Goodfire Research phát hiện các mô hình có tín hiệu nội bộ về reward hacking, có thể phát hiện bằng activation probe

    Goodfire Research báo cáo rằng các mô hình mã nguồn mở Kimi K3, GLM 5.2 và Qwen 3.8 Max đã reward-hack trong 50–96% số rollout trên ba benchmark tác tử, và một tín hiệu nội bộ chung gắn với việc gian lận và né tránh bị phát hiện đi kèm hành vi này. Các activation probe đơn giản dựa trên hiệu số trung bình phát hiện tín hiệu đó, bắt được những trường hợp mà các giám sát chain-of-thought bỏ sót và tổng quát hóa sang các tác vụ mới như mua sắm và hỗ trợ khách hàng. Trên Kimi K3, kết hợp một probe với một LLM monitor đã cắt giảm 90% chi phí giám sát LLM với mức giảm độ chính xác khoảng 1%.

    Vì sao đáng chú ý: Goodfire phát hiện một tín hiệu nội bộ chung cho reward hacking trên các mô hình mã nguồn mở và cho thấy activation probe có thể bắt được nó với chi phí thấp hơn LLM monitor.

16 tháng 9Thứ Tư
  1. Mistral AI55

    Mistral hợp tác với Mozilla để cung cấp năng lượng cho Firefox Smart Window tại Pháp và Bắc Mỹ

    Mistral thông báo hợp tác với Mozilla, theo đó các mô hình của họ hiện cung cấp năng lượng cho Firefox Smart Window (bản beta), trợ lý duyệt web AI của Mozilla, cho người dùng tại Pháp và Bắc Mỹ, với Vương quốc Anh và Đức dự kiến sẽ có sau trong năm nay. Mistral cho biết các cuộc hội thoại trên Smart Window không được lưu trên máy chủ của Mozilla theo mặc định và các đối tác đồng ý không lưu giữ dữ liệu, và họ mô tả thỏa thuận này là việc mang các mô hình trọng số mở, được tinh chỉnh theo khu vực đến với trình duyệt dành cho người tiêu dùng.

  2. Vapi Blog12

    VapiCon 2026: Hội nghị thượng đỉnh Voice AI của Vapi trở lại với hơn 1.200 nhà phát triển và diễn giả từ Deepgram, LangChain, Vercel

    Vapi đưa hội nghị thượng đỉnh voice AI của mình trở lại với tên gọi VapiCon 2026, mở rộng lên hai ngày và hai track tại Fort Mason, San Francisco, vào ngày 11 và 12 tháng 11 năm 2026, dành cho hơn 1.200 nhà phát triển và nhà vận hành. Các diễn giả đã xác nhận bao gồm Scott Stephenson của Deepgram, Harrison Chase của LangChain, Guillermo Rauch của Vercel, Andy O'Dower của Twilio, Brandon Yang của Cartesia và Laurie Voss của Arize AI, cùng với Jordan Dearsley và Nikhil Gupta của Vapi. Các phiên sẽ đề cập đến kiến trúc speech-to-speech so với kiến trúc cascaded, đánh giá và khả năng quan sát, thời gian đến byte đầu tiên dưới một giây, chuyển giao cho con người và triển khai production trong lĩnh vực y tế và trung tâm liên lạc.

15 tháng 9Thứ Ba
  1. Factory58

    Factory huy động 200 triệu USD với định giá 5 tỷ USD để mở rộng phát triển phần mềm tự cải thiện

    Factory đã huy động được 200 triệu USD với định giá 5 tỷ USD, nâng tổng vốn đầu tư lên hơn 400 triệu USD, với sự hậu thuẫn từ Blackstone, Khosla Ventures, Sequoia Capital, Insight Partners và những nhà đầu tư khác. Công ty cho biết sẽ dùng số vốn này cho nghiên cứu, sản phẩm và hoạt động tiếp cận thị trường toàn cầu cho nền tảng nhà máy phần mềm doanh nghiệp của mình, nền tảng này cho phép các nhóm quản trị toàn bộ vòng đời phát triển và lựa chọn triển khai trên cloud, tại chỗ hoặc tách biệt hoàn toàn khỏi mạng. Factory cho biết Nvidia, Blackstone, RBC, Palo Alto Networks, Adobe và T-Mobile đang sử dụng nền tảng này, và Factory Router của họ cắt giảm chi phí token hơn 60% trong khi vẫn duy trì hiệu năng tiên tiến.

14 tháng 9Thứ Hai
  1. Modal Blog40

    Cập nhật sản phẩm Modal: Sandbox Sidecars, hỗ trợ Kimi K3 và GLM 5.3, giao diện Dashboard làm mới

    Modal đã bổ sung hỗ trợ day-zero cho bốn mô hình open-weight — Kimi K3, Qwen3.8-2.4T-A95B, GLM-5.3 và GLM-5.3-Flash — trên Auto Endpoints, với Kimi K3 chạy ở tốc độ 460 token mỗi giây trên các khối lượng công việc agentic thông qua một DFlash speculator tùy chỉnh. Sandbox Sidecars bước vào giai đoạn public alpha, VM Sandboxes đạt public beta, và hệ số giá đa khu vực rộng giảm từ 1.5x xuống 1.15x. Dashboard được làm mới với bản beta chế độ sáng, và Python SDK 1.5.5 cùng JavaScript và Go SDK 0.10.0 đã được phát hành.

9 tháng 9Thứ Tư
  1. LiveKit Blog22

    "Suy luận chậm hơn thời gian thực" có nghĩa là gì trong các voice agent của LiveKit

    LiveKit giải thích rằng cảnh báo "suy luận chậm hơn thời gian thực" trong các voice agent của mình đề cập đến mô hình VAD cục bộ, không phải các mô hình STT, TTS hay LLM được sử dụng thông qua LiveKit Inference. Mỗi cửa sổ âm thanh 32ms phải được xử lý trong vòng dưới 32ms, và độ trễ được báo cáo cho thấy VAD đã bị tụt lại phía sau âm thanh trực tiếp bao xa. Vòng lặp sự kiện bị chặn và CPU bão hòa là những nguyên nhân chính, và cách khắc phục là loại trừ mã đồng bộ thay vì thêm luồng.

  2. Factory26

    Factory ra mắt trên Claude Marketplace, mang phát triển phần mềm tự động đến doanh nghiệp

    Factory hiện đã có mặt trên Claude Marketplace của Anthropic, cho phép khách hàng doanh nghiệp sử dụng khoản chi tiêu Anthropic đã cam kết cho Factory mà không cần một quy trình mua riêng. Factory tự động hóa vòng đời phát triển phần mềm, bao gồm lập kế hoạch, triển khai, kiểm thử và bảo mật, đồng thời hỗ trợ nhiều mô hình triển khai doanh nghiệp. Khách hàng của công ty bao gồm NVIDIA, Adyen và Ernst & Young.

4 tháng 9Thứ Sáu
  1. Modal Blog22

    Markov Robotics sử dụng Modal để chạy huấn luyện robot đầu-cuối

    Markov Robotics đang huấn luyện một world model cho khả năng khéo léo tổng quát zero-shot của robot, chỉ dùng chưa đến mười giờ dữ liệu robot trong khi các kết quả tương đương thường cần hàng nghìn giờ. Công ty chạy gần như toàn bộ compute trên Modal, từ tiền xử lý hàng trăm terabyte video đến 2–10 lượt huấn luyện đồng thời và suy luận từ xa qua Modal Tunnels với độ trễ khứ hồi khoảng 20 mili giây. Quá trình tiền xử lý có thể mất cả ngày nay hoàn thành trong hai mươi đến ba mươi phút, với fan-out lên tới 500 GPU cùng lúc.

3 tháng 9Thứ Năm
  1. Vapi Blog38

    Cách các tác nhân giọng nói AI phân biệt người thật với hộp thư thoại

    Phát hiện hộp thư thoại, còn gọi là phát hiện máy trả lời tự động, quyết định trong khoảng ba đến năm giây liệu một cuộc gọi ra có gặp người thật hay bản ghi âm, dựa vào tín hiệu thời gian và hành vi thay vì âm thanh giọng nói. Một bản tiền ấn phẩm arXiv năm 2026 phát hiện các đặc trưng thời gian đơn thuần có thể sánh ngang với các phương pháp dựa trên tiếng bíp và từ khóa trong khi tránh được độ trễ gia tăng của chúng. Vapi cho phép người dùng chọn nhà cung cấp phát hiện, tinh chỉnh thời gian và chuyển lại sang hội thoại khi có người trả lời.

  2. Vapi Blog40

    Vapi mở bản beta riêng tư và danh sách chờ công khai cho mô hình giọng nói sang giọng nói GPT-Live

    Vapi đã mở bản beta riêng tư giới hạn cho GPT-Live, mô hình giọng nói sang giọng nói song công hoàn toàn thế hệ tiếp theo của OpenAI, cùng với danh sách chờ công khai để được truy cập sớm. GPT-Live thay thế quy trình mô-đun gồm chuyển giọng nói thành văn bản, LLM và giọng nói bằng cách xử lý cả ba trong một mô hình, giảm độ trễ lượt nói và giữ nguyên ngữ điệu cùng sự nhấn mạnh. Các nhóm beta chạy nó trên cùng nền tảng Vapi như các tác nhân mô-đun hiện có, và các quy trình mô-đun vẫn được hỗ trợ.

2 tháng 9Thứ Tư
  1. LiveKit Blog38

    Triển khai phi sản xuất của LiveKit cho phép bạn kiểm thử voice agent trước khi lên production

    LiveKit đã bổ sung các triển khai phi sản xuất, chạy một voice agent dưới tên khác trên cùng container image, project và secrets như production, được tạo chỉ bằng một lệnh. Mỗi triển khai sẽ ngủ khi nhàn rỗi mà không tốn chi phí và thức dậy ở yêu cầu tiếp theo, và bạn nhắm tới nó bằng cờ --deployment. Nó yêu cầu livekit-agents 1.6+ cho Python hoặc @livekit/agents 1.7.1+ cho Node, và các gói cung cấp 2 triển khai trên Ship và 5 trên Scale.

  2. Modal Blog18

    Modal mở văn phòng tại London để mở rộng khắp châu Âu

    Modal đang mở một văn phòng tại London, văn phòng thứ hai tại châu Âu, và đã tuyển Hugh Killingbeck-Jones làm VP EMEA để xây dựng các đội go-to-market phục vụ khách hàng khởi nghiệp và doanh nghiệp. Văn phòng này cuối cùng sẽ bổ sung thêm kỹ thuật và các chức năng khác, trong khi đội ngũ Stockholm của Modal đã phát triển lên gần 20 người xây dựng các hệ thống cốt lõi như hệ thống tệp tùy chỉnh và Sandboxes của công ty.

  3. Modal Blog22

    Botika vận hành AI tạo sinh toàn diện trên Modal như thế nào

    Botika vận hành hoạt động AI tạo sinh toàn diện của mình trên Modal, bao gồm đường ống dữ liệu hình ảnh 100 terabyte, các mô hình nền tảng nội bộ với hàng chục tỷ tham số và khoảng 15 mô hình phục vụ suy luận trong môi trường sản xuất. Đường ống này xử lý tập dữ liệu đó với tỷ lệ lỗi dưới 1% trên hàng nghìn container đồng thời, và một nhà nghiên cứu giờ đây có thể chạy 50 thí nghiệm mỗi ngày thay vì một hoặc hai.

1 tháng 9Thứ Ba
  1. Zyphra Research48

    Zyphra phát hành PUFFER, hệ thống khử trùng lặp mờ tăng dần cho kho ngữ liệu huấn luyện đang phát triển

    Zyphra đã phát hành PUFFER, một hệ thống khử trùng lặp mờ tăng dần nhận biết nguồn gốc mã nguồn mở dành cho kho ngữ liệu huấn luyện LLM liên tục mở rộng, theo giấy phép Apache 2.0. Hệ thống này đạt tốc độ nhanh hơn 11x-35x so với các phương pháp khử trùng lặp dựa trên CPU hiện có và xử lý một tỷ tài liệu trong 1,75 giờ trên một tiến trình duy nhất, với triển khai thực tế trên hơn 30 tỷ tài liệu. PUFFER lưu giữ lịch sử MinHash-LSH trên đĩa để có thể thêm tập dữ liệu mới, khôi phục các tác vụ bị gián đoạn một cách xác định, và rút từng tập dữ liệu mà không cần xây dựng lại toàn bộ chỉ mục kho ngữ liệu.

  2. LiveKit Blog58

    LiveKit ra mắt Connectors để đưa voice agent vào các cuộc gọi Twilio và WhatsApp

    LiveKit ra mắt Connectors, một cầu nối trực tiếp giữa phòng LiveKit với Twilio Programmable Voice và WhatsApp Business Calling, dự kiến sẽ có thêm nhiều nền tảng khác. Mỗi cuộc gọi tham gia phòng với tư cách là một participant CONNECTOR mang theo ngữ cảnh nền tảng như Twilio call SID hoặc số điện thoại của người gọi WhatsApp, và việc điều phối agent diễn ra trong cùng một yêu cầu API. Connectors hiện đã được phát hành chính thức trên LiveKit Cloud với mức giá SIP là 0,004 USD mỗi phút trên gói Ship và 0,003 USD trên gói Scale, với 5, 20 và 100 cuộc gọi connector đồng thời lần lượt trên các gói Build, Ship và Scale.

31 tháng 8Thứ Hai
  1. Vapi Blog58

    Vapi xây dựng lại Campaigns cho gọi ra hàng loạt với 10.000 liên hệ

    Vapi ra mắt phiên bản xây dựng lại của Campaigns, sản phẩm gọi ra hàng loạt của họ, hiện chạy trên một công cụ quy trình công việc bền vững độc lập tách biệt với hàng đợi cuộc gọi. Mỗi chiến dịch có thể chứa tối đa 10.000 liên hệ cùng một trợ lý hoặc đội nhóm và một số điện thoại, với việc quay số giới hạn trong một khung thời gian nhất định, các biến theo từng liên hệ trong lời nhắc của trợ lý, và một webhook trước khi quay số để bỏ qua những liên hệ đã chuyển đổi. Vapi cho biết trạng thái chiến dịch tồn tại bên ngoài bất kỳ tiến trình đơn lẻ nào, tính đồng thời chạy như một cửa sổ trượt thay vì theo lô, và mọi thay đổi trạng thái đều ghi thêm một sự kiện bất biến để tiến độ và nhật ký kiểm tra không thể bị lệch.

25 tháng 8Thứ Ba
  1. Vapi Blog22

    Tự xây dựng hay mua: điều bạn thực sự đang quyết định với voice agent

    Các đội ngũ đang cân nhắc có nên tự xây dựng voice agent trong nội bộ hay không thực chất đang quyết định có nên xây dựng một lớp điều phối (orchestration layer) hay không, vì bản thân agent chỉ chiếm khoảng 20% công việc, phần còn lại là hạ tầng âm thanh thời gian thực, telephony và observability. Bản demo sáu tuần của một nhà cung cấp giải pháp lập lịch đã biến thành dự án kéo dài tám tháng trước khi họ chuyển tính năng này sang một nền tảng trong sáu tuần. Tự xây dựng trong nội bộ chỉ hợp lý khi cần tùy biến sâu pipeline, đã có hạ tầng voice sẵn, có ràng buộc pháp lý, hoặc khi voice là lợi thế cạnh tranh cốt lõi.

24 tháng 8Thứ Hai
  1. LiveKit Blog36

    Gỡ lỗi các phát ngôn ngắn trong tác nhân thoại

    Blog của LiveKit phân tích lý do vì sao các tác nhân thoại thường im lặng sau những câu trả lời ngắn như "yes" hay "ok", truy nguyên đến lỗi phát hiện lượt nói. Nguyên nhân phổ biến nhất là các nhà cung cấp STT bỏ sót đoạn nói ngắn và không bao giờ phát ra final_transcript, khiến việc phát hiện kết thúc phát ngôn hoàn toàn bị chặn. Bài viết cũng đề cập đến độ trễ endpointing quá mạnh tay hoặc quá dễ dãi và cấu hình khử nhiễu sai khiến âm thanh ngắn bị loại bỏ như nhiễu.

  2. LiveKit Blog22

    LiveKit giới thiệu tính cước theo giây cho phiên agent, bản ghi, kết nối WebRTC và SIP

    LiveKit đã chuyển phút phiên agent, bản ghi, kết nối WebRTC và kết nối SIP sang tính cước theo giây với mức tối thiểu mười giây, áp dụng cho tất cả gói và tài khoản bao gồm hợp đồng doanh nghiệp. Thay đổi đã có hiệu lực và sẽ xuất hiện trên hóa đơn tháng 9 cho mức sử dụng tháng 8, không có thay đổi kỹ thuật nào ảnh hưởng đến khách hàng. LiveKit cho biết tính cước theo phút không khớp với các cuộc gọi ra ngắn chỉ kéo dài vài giây, hạn chế trường hợp sử dụng đó.

20 tháng 8Thứ Năm
  1. Vapi Blog22

    Các AI Voice Agent tốt nhất cho CX: Cách đánh giá chúng

    Vapi đã công bố một bộ tiêu chí gồm bảy điểm để đánh giá các AI voice agent trong trải nghiệm khách hàng, bao gồm khả năng giải quyết vấn đề, chất lượng giọng nói thời gian thực, khả năng thực hiện hành động, chuyển tuyến, tính linh hoạt của mô hình, độ tin cậy trong vòng đời và kiểm soát nền tảng. Hướng dẫn lập luận rằng việc containment và deflection đang đếm quá mức thành công, vì những người gọi được containment có thể chỉ đơn giản là cúp máy, và trích dẫn dữ liệu của ContactBabel cho thấy sở thích điện thoại cho các tương tác phức tạp đã tăng từ 28% vào năm 2018 lên 47% vào năm 2024. Vapi tự định vị mình là một lớp nền tảng không phụ thuộc mô hình với endpointing có thể cấu hình, xử lý ngắt lời và khử nhiễu nền.

  2. LiveKit Blog38

    LiveKit bổ sung tính năng che giấu PII vào Agent Observability

    LiveKit đã bổ sung PII Redaction vào Agent Observability, tự động loại bỏ tên, địa chỉ, ngày sinh và các thông tin nhạy cảm khác trước khi bản ghi và bản chép lời được lưu trữ, miễn phí cho tất cả khách hàng Agent Observability. Một LLM đọc từng cuộc hội thoại trong ngữ cảnh để phát hiện PII, thay thế từ bằng dấu đánh dấu và loại bỏ toàn bộ lượt khỏi âm thanh. Tính năng bao gồm 41 loại PII thuộc 10 nhóm và yêu cầu LiveKit Agents SDK 1.7.0 cho Python hoặc Node.js.

  3. Goodfire Research26

    Forking Fast: Ước tính hiệu quả động lực học bất định trong sinh văn bản

    Các nhà nghiên cứu từ Goodfire Research đề xuất Forking Fast, một phương pháp thống kê làm mịn dữ liệu rollout ít mẫu bị nhiễu để xấp xỉ kết quả nhiều mẫu, cắt giảm chi phí phân tích bất định dựa trên lấy mẫu lại trong suy luận LLM. Công trình phát hiện rằng động lực học bất định hội tụ về các mẫu ổn định khi lấy mẫu lại nhiều chuỗi suy luận, và nhiễu quan sát được phần lớn là hiện tượng lấy mẫu thay vì độ nhạy của mô hình với từng token hoặc bước riêng lẻ.

18 tháng 8Thứ Ba
  1. LiveKit Blog40

    LiveKit: robot đa người tham gia vượt ra ngoài kết nối 1:1

    LiveKit đang mở rộng kiến trúc SFU của mình ra ngoài các liên kết ngang hàng đơn lẻ để các triển khai robot có thể chạy các phiên đa người tham gia, trong đó một Room cho phép mỗi camera, mô hình, người vận hành hoặc dịch vụ tham gia như một người tham gia riêng. LiveKit mô tả ba kiến trúc: ghi dữ liệu có con người trong vòng lặp với robot, policy, người vận hành và bộ ghi trong cùng một phiên; điều phối kỹ năng do VLM dẫn dắt, trong đó một mô hình ngôn ngữ-thị giác chọn kỹ năng ở tần suất khoảng 1 Hz trong khi các người tham gia policy riêng biệt điều khiển robot ở tần suất hàng chục hertz; và leo thang policy, trong đó một mô hình phần thưởng ở 30 Hz hoặc cao hơn đánh dấu các trạng thái bị kẹt hoặc không an toàn và robot thu hồi quyền từ policy chuyên biệt.

  2. Vapi Blog55

    Vapi ra mắt Simulations để kiểm thử các voice agent với người gọi do AI tạo

    Vapi ra mắt Simulations, một tính năng kiểm thử gốc do AI vận hành, đặt những người kiểm thử AI có tính cách riêng biệt và các kịch bản lấy từ khách hàng ở đầu bên kia cuộc gọi với một voice agent. Mỗi lần chạy trả về kết quả đạt/không đạt, bản ghi đầy đủ và bản ghi âm, và các nhóm có thể giả lập phản hồi API, chạy chế độ trò chuyện văn bản tiết kiệm chi phí hoặc chế độ thoại đầy đủ, và kích hoạt các lần chạy qua API với các cổng chất lượng chặn triển khai khi tỷ lệ đạt giảm.