Tới nội dung
Chỉ Chính chủ#Triển khai / kỹ thuật
5 tháng 10Thứ Hai
  1. Modal Blog35

    TypeSafe AI mở rộng quy mô Jev lên hàng nghìn tỷ token trong ba ngày trên Modal

    TypeSafe AI đã sử dụng nền tảng serverless của Modal để huấn luyện và triển khai Jev, System One Model đầu tiên của mình, và phục vụ hơn một nghìn tỷ token trong vòng ba ngày kể từ khi ra mắt. Jev không phải là một LLM tự hồi quy: nó nhận trạng thái và câu hỏi làm đầu vào và xuất ra các giá trị có kiểu, có cấu trúc kèm xác suất song song, hướng tới các khối lượng công việc có độ trễ thấp. Một tuần sau khi ra mắt, nó đứng đầu bảng xếp hạng của OpenRouter cho ngữ cảnh 1K-10K token, xử lý 15,1% số yêu cầu.

2 tháng 10Thứ Sáu
  1. OpenClaw Blog40

    Tencent AIG gia nhập ClawScan để tăng cường đánh giá bảo mật skill và plugin trên ClawHub

    AI-Infra-Guard (AIG) của Tencent đã được tích hợp vào ClawScan, công cụ dòng lệnh mã nguồn mở phụ trách đánh giá bảo mật trên ClawHub, nhờ đó mọi skill và plugin được tải lên giờ đây đều đi qua AIG. ClawScan chạy AIG và SkillSpector của NVIDIA một cách độc lập, với một AI judge đưa ra đánh giá cuối cùng. Trên một tập con cố định gồm 556 trường hợp của SkillTrustBench, ClawScan khớp 86,9% nhãn của benchmark và phân loại đúng 98,6% các trường hợp độc hại.

1 tháng 10Thứ Năm
  1. Modal Blog58

    Modal Clusters chính thức khả dụng, chỉ với một dòng mã @modal.clustered để có cụm RDMA đa nút

    Modal thông báo Modal Clusters đã chính thức khả dụng cho tất cả workspace, cho phép người dùng yêu cầu cụm đa nút thông qua decorator duy nhất @modal.clustered. Các cụm cung cấp giao tiếp InfiniBand RDMA lên đến 6,4 Tbps, tự động cấu hình cho PyTorch và NCCL, cụm khởi động trong vài giây và tính phí theo giây. Modal cũng mô tả một gang scheduler mới đặt N nút cùng lúc và hỗ trợ RDMA được tích hợp vào runtime gVisor, với Decagon, 1x và Runway được nêu là người dùng cho tinh chỉnh nghìn tỷ tham số, tiền huấn luyện world model và suy luận video đa nút.

  2. Anthropic · Claude.dev60

    Bắt đầu với Claude Code mods: xây dựng dự báo cửa sổ ngữ cảnh

    Claude Code mods là các tệp JavaScript hoặc TypeScript nhỏ chạy bên trong một phiên như các hook được đóng gói trong plugin, và có thể quan sát sự kiện, viết lại hành vi hoặc vẽ giao diện tùy chỉnh trong terminal hoặc ứng dụng desktop. Hướng dẫn xây dựng Token Weather, một mod khoảng 80 dòng đọc $.session.usage() sau mỗi lượt và vẽ dải cửa sổ ngữ cảnh kiểu thời tiết phía trên prompt, sau đó giới thiệu Blast Radius, giữ các lệnh Bash rủi ro, và Replay Theater, duyệt qua các chỉnh sửa của một lượt. Mods yêu cầu Claude Code 2.1.287 trở lên và được bật mặc định; mã hoàn chỉnh cho cả ba nằm trong anthropics/claude-code-playground.

    Vì sao đáng chú ý: Hướng dẫn thực hành về Claude Code mods xây dựng một đồng hồ đo cửa sổ ngữ cảnh hoạt động trong khoảng 80 dòng, cho thấy cách hook, trạng thái và giao diện tùy chỉnh kết hợp với nhau.

  3. Modal Blog58

    Modal ra mắt Sidecars, ranh giới tin cậy độ trễ thấp cho Sandboxes

    Modal giới thiệu Sidecars ở dạng Beta, các container biệt lập chạy song song với một Sandbox trên cùng một máy chủ để tách mã tin cậy như thông tin xác thực, proxy và logic harness khỏi mã do agent tạo ra không đáng tin cậy. Modal cho biết liên lạc giữa một Sandbox và các Sidecar của nó nhanh hơn ít nhất 3 lần so với giữa các Sandbox riêng biệt trong cùng khu vực, với thời gian di chuyển p50 mỗi lần gọi là 0,58ms so với 2,6ms. Mỗi Sidecar có chính sách mạng ra ngoài riêng, một Sandbox có thể chạy tới 250 Sidecar và Ramp đã sử dụng tính năng này để chạy một proxy egress tùy chỉnh bên cạnh agent lập trình Inspect của mình.

  4. Modal Blog60

    Modal ra mắt VM Sandboxes, cung cấp cho agent toàn bộ máy ảo Linux với hỗ trợ Docker

    Modal đã chính thức ra mắt VM Sandboxes, cung cấp cho agent toàn bộ máy ảo Linux thông qua cùng các API, modal.Images, khởi động lạnh dưới một giây và khả năng tăng vọt CPU/bộ nhớ như các Sandboxes dựa trên gVisor hiện có. Người dùng kích hoạt tính năng này với runtime="vm" khi cần Docker, hệ thống tệp FUSE hoặc các tính năng nhân Linux đặc thù, trong khi gVisor vẫn là runtime mặc định. Modal cho biết các khách hàng đầu tiên đã khởi chạy hơn 20 triệu máy ảo, với Linear chạy mọi Coding Session trên VM Sandbox và Legora cùng Snorkel sử dụng chúng để đánh giá agent pháp lý và mô phỏng agent.

    Vì sao đáng chú ý: VM Sandboxes của Modal cung cấp cho agent toàn bộ máy Linux với quyền truy cập Docker và nhân, đồng thời giữ nguyên các API Sandbox hiện có và khởi động lạnh dưới một giây.

  5. Modal Blog42

    Tổng hợp Modal Runtime: VM Sandbox, Modal Cluster và hơn thế nữa

    Modal đã công bố VM Sandboxes, cung cấp cho các agent một máy tính Linux đầy đủ cho các stack Docker, cơ sở dữ liệu cục bộ và trình giả lập di động, đã được Linear, Legora và Snorkel sử dụng. Modal Clusters hiện đã được phát hành chính thức thông qua decorator @modal.clustered, hỗ trợ huấn luyện và phục vụ mô hình nghìn tỷ tham số trên các container phối hợp. Sticky Sessions và Endpoint Candidates cũng đã được giới thiệu, trong đó Endpoint Candidates đang ở giai đoạn private beta.

30 tháng 9Thứ Tư
  1. Factory62

    Factory đưa Automations ra mắt chính thức cho các tác nhân Droid

    Factory đã đưa Automations ra mắt chính thức, cho phép các nhóm mô tả một quy trình làm việc lặp lại và để Droid chạy quy trình đó theo lịch hoặc theo sự kiện kích hoạt. Mỗi automation kết hợp một trigger (lịch, Slack, GitHub hoặc webhook), hướng dẫn, một mô hình và mức độ suy luận do người dùng chọn, và một máy có thể là cục bộ, được kết nối hoặc Droid Computer do Factory quản lý. Factory cho biết 52% người dùng doanh nghiệp đã chạy đánh giá mã tự động trong 30 ngày qua, 48% sử dụng đánh giá bảo mật, 35% sử dụng AutoWiki, và khối lượng phiên automation tăng 51% so với 30 ngày trước đó.

    Vì sao đáng chú ý: Factory đưa Automations ra mắt chính thức, cho thấy những quy trình kỹ thuật lặp lại nào doanh nghiệp thực sự giao cho Droid và cách lựa chọn mô hình và máy hoạt động theo từng tác vụ.

29 tháng 9Thứ Ba
  1. Vapi Blog55

    Vapi ra mắt bộ công cụ CX để xây dựng và cải thiện các voice agent chăm sóc khách hàng

    Vapi đã ra mắt Vapi for CX, một bộ công cụ để xây dựng, triển khai, giám sát và tối ưu hóa các voice agent trải nghiệm khách hàng. Bộ công cụ này kết hợp một Composer ngôn ngữ tự nhiên dành cho các đội CX với cùng một đối tượng cấu hình có thể truy cập qua API, CLI và một máy chủ MCP, cùng với đánh giá, quản lý phiên bản, kế hoạch dự phòng, thẻ điểm cuộc gọi và dữ liệu hàng tuần về độ trễ, chi phí và chất lượng trên các bộ chuyển văn bản, mô hình và giọng nói. Vapi cho biết Amazon Ring vận hành 100% lưu lượng cuộc gọi đến của mình trên nền tảng này sau khi đánh giá hơn 40 nhà cung cấp, và Kavak xây dựng các phiên bản agent mới trong khoảng năm phút với NPS tăng 20 điểm.

  2. OpenClaw Blog71

    OpenClaw Enterprise ra mắt dưới dạng nền tảng mã nguồn mở để quản lý các tác nhân thường trú

    OpenClaw đã công bố OpenClaw Enterprise (OCE), một nền tảng mã nguồn mở, trung lập với nhà cung cấp để quản lý các tác nhân thường trú trong môi trường nhạy cảm, hiện đang được phát triển trước khi phát hành phiên bản 1.0 vào cuối năm nay. OCE bổ sung một mặt phẳng điều khiển cấp doanh nghiệp với tính đa thuê bao, ranh giới bảo mật cứng, sandbox, đánh giá dựa trên LLM và quyền chi tiết, đồng thời cho phép thay thế harness, mô hình và sandbox bằng các triển khai của bên thứ ba hoặc nội bộ. Các tổ chức có thể tự lưu trữ ngay hôm nay thông qua docker-compose cho phát triển cục bộ hoặc kubernetes cho triển khai nội bộ, và nó đang được thử nghiệm tại các công ty bao gồm Red Hat và OpenAI.

    Vì sao đáng chú ý: OpenClaw Enterprise là một mặt phẳng điều khiển mã nguồn mở cho các tác nhân thường trú trong môi trường nhạy cảm, với tính đa thuê bao, ranh giới bảo mật cứng và khả năng kiểm toán, hiện đã sẵn sàng cho các khối lượng công việc thử nghiệm nội bộ.

28 tháng 9Thứ Hai
  1. Mistral AI42

    Mistral mở trung tâm tại Munich cho AI vật lý và AI công nghiệp

    Mistral đã mở một trung tâm mới tại Munich, quy tụ các nhóm nghiên cứu tập trung vào AI vật lý và AI công nghiệp, cùng với các kỹ sư phục vụ các đối tác doanh nghiệp. Công ty cho biết sẽ xây dựng một gigawatt năng lực tính toán châu Âu vào năm 2030, và đang hợp tác với BMW về mô phỏng va chạm và Siemens Energy về các ứng dụng AI công nghiệp.

  2. Anthropic · Claude.dev72

    Anthropic bổ sung lệnh build-eval và hillclimb vào skill claude-api trong Claude Code

    Anthropic đã thêm hai lệnh vào skill claude-api bên trong Claude Code: /claude-api build-eval xây dựng một bộ đánh giá trong codebase của bạn, và /claude-api hillclimb lặp cải tiến một ứng dụng dựa trên bộ đánh giá đó với một tập giữ riêng để phát hiện overfitting.

    Vì sao đáng chú ý: Anthropic bổ sung lệnh build-eval và hillclimb vào skill claude-api của mình, cho thấy Claude Code có thể thiết kế các bộ đánh giá và lặp cải tiến dựa trên chúng đồng thời phòng ngừa overfitting.

  3. Anthropic · Claude.dev82

    Anthropic phát hành Claude Sonnet 5.5 với giá mỗi token không đổi và tốc độ đầu ra nhanh hơn 30%

    Anthropic đã phát hành Claude Sonnet 5.5, mô hình thứ hai trong dòng Claude 5.5 sau Opus 5.5, mà công ty cho biết thông minh hơn, hiệu quả hơn và nhanh hơn 30% so với Sonnet 5 với cùng mức giá mỗi token. Vì mô hình thường cần ít token hơn cho mỗi tác vụ, Anthropic cho biết hầu hết công việc tốn ít hơn tới 30% chi phí, và mô hình đi kèm cửa sổ ngữ cảnh gốc 1M token, đầu ra tối đa 128k và tính năng thinking bật theo mặc định. Hướng dẫn phát hành liệt kê các thay đổi phá vỡ tương thích đối với người dùng Sonnet 5, bao gồm thay thế disabled thinking bằng cài đặt between_tools, đổi forced tool_choice sang auto kèm strict tools, và chuyển computer use sang bộ công cụ computer_toolset_20260801.

    Vì sao đáng chú ý: Sonnet 5.5 của Anthropic giữ nguyên giá của Sonnet 5 trong khi cắt giảm lượng token dùng cho mỗi tác vụ, và ghi chú chuyển đổi cho thấy những gì thay đổi đối với các nhóm đã và đang xây dựng trên Sonnet 5.

24 tháng 9Thứ Năm
  1. Vapi Blog25

    Kỹ sư Vapi giải đáp các câu hỏi hàng đầu về Model Intelligence, Simulations và Campaigns

    Các kỹ sư sản phẩm Vapi gồm Mhar Andal, Scott Lowe và Adham El Fawal đã trình diễn Model Intelligence, Simulations và Campaigns trong một webinar ngày 22 tháng 9 và trả lời các câu hỏi hàng đầu từ nhà phát triển. Model Intelligence đề xuất các preset transcriber, LLM và voice đồng thời hiển thị các chỉ số chi phí, độ trễ và chất lượng, trong khi Simulations chạy các AI tester với kết quả đạt/không đạt và Campaigns quay số danh sách lên tới 10.000 liên hệ.

  2. Modal Blog58

    Modal và Phòng thí nghiệm Dữ liệu Toàn diện của CMU ra mắt Quail, một engine suy luận AI-SQL tối ưu hóa đồng thời query planner và suy luận

    Modal và Phòng thí nghiệm Dữ liệu Toàn diện thuộc Đại học Carnegie Mellon đã xây dựng Quail, một engine suy luận nhận biết truy vấn cho các khối lượng công việc AI-SQL, tối ưu hóa đồng thời query planner SQL và engine suy luận. Trên một truy vấn đa phép nối, nó xử lý hơn một tỷ token mỗi phút trên mỗi GPU H100, nhanh hơn hơn 10 lần so với baseline vLLM của Modal trên cùng phần cứng, với chi phí dưới 6¢ mỗi tỷ token; trên benchmark AI-SQL mới của nhóm, nó chạy nhanh hơn 1,84 lần so với vLLM theo trung bình nhân trên các tác vụ. Vì các phép lọc và phép nối trong AI-SQL chỉ cần một token duy nhất mỗi chuỗi, Quail bỏ qua decode, sampling và phân tách prefill-decode, đồng thời sử dụng query plan đã biết để sắp xếp thứ tự yêu cầu và quản lý việc loại bỏ KV cache.

23 tháng 9Thứ Tư
  1. Modal Blog58

    Modal phục vụ hàng nghìn tỷ token cho các coding agent nghìn tỷ tham số như thế nào

    Modal giải thích cách họ tối ưu hóa suy luận Kimi K2.6 cho các coding agent, đạt hiệu năng gấp 2,8 lần mỗi người dùng và 5,6 lần giữa các người dùng trên mỗi replica, đồng thời vận hành dịch vụ ở mức hàng trăm tỷ token mỗi ngày. Công trình kết hợp giải mã suy đoán DFlash tùy chỉnh được tinh chỉnh trên các coding trace, FP8 KV cache và lượng tử hóa shared-expert NVFP4, bộ nhớ đệm tầng CPU HiCache, và định tuyến dựa trên tải có nhận biết KV cache. Modal đã đóng góp ngược các bản vá SGLang của mình và phát hành cấu hình đằng sau Modal Auto Endpoints.

22 tháng 9Thứ Ba
  1. LiveKit Blog38

    LiveKit ra mắt Private Links để các agent truy cập an toàn vào tài nguyên nội bộ

    LiveKit đã ra mắt Private Links, một đường hầm mã hóa được quản lý hoàn toàn cho phép các agent được lưu trữ trên LiveKit truy cập các tài nguyên nội bộ riêng tư thông qua AWS PrivateLink hoặc Azure Private Link mà không cần IP công khai, quy tắc tường lửa đầu vào hay hạ tầng VPN. Lưu lượng được định tuyến qua đường hầm WireGuard đến một cổng LiveKit trong cùng khu vực đám mây, và chỉ hỗ trợ các kết nối TCP được bảo mật bằng TLS. Việc thiết lập có sẵn thông qua LiveKit CLI hoặc Dashboard, với phê duyệt kết nối một lần ở phía khách hàng.

  2. OpenClaw Blog60

    OpenClaw bổ sung mô hình quyết định tùy chọn và giao diện Plugin SDK dùng chung

    OpenClaw đã giới thiệu hỗ trợ cho một mô hình quyết định được cấu hình riêng mà lõi và các plugin của nó có thể gọi thông qua api.runtime.decisions.evaluate trong Plugin SDK, trả về một lựa chọn, điểm số hoặc xác suất thay vì phản hồi trò chuyện. Tính năng này là tùy chọn và không thay thế mô hình trò chuyện, và các gói nhà cung cấp vẫn đang chờ một bản phát hành hỗ trợ. Bộ chuyển đổi TypeSafe hỗ trợ Jev được lưu trữ và một máy chủ System One cục bộ như Kev của Jared Palmer, và công cụ đánh giá đang được chuyển vào lõi OpenClaw với tên decision_evaluate.

    Vì sao đáng chú ý: OpenClaw bổ sung một lớp mô hình quyết định tùy chọn trả về câu trả lời có kiểu từ mã ứng dụng, với giao diện Plugin SDK dùng chung để các plugin có thể sử dụng mà không cần tích hợp riêng cho từng nhà cung cấp.

21 tháng 9Thứ Hai
  1. LiveKit Blog38

    So sánh các framework mã nguồn mở cho AI agent thoại và video thời gian thực: LiveKit Agents và Pipecat

    Hướng dẫn này so sánh LiveKit Agents và Pipecat, hai framework mã nguồn mở mà bài viết cho là quan trọng nhất để xây dựng AI agent thoại và video cho môi trường production, trên các khía cạnh kiến trúc, mức độ được sử dụng, trải nghiệm nhà phát triển và mức độ sẵn sàng cho production. LiveKit Agents chạy trên hạ tầng WebRTC và SIP mã nguồn mở của LiveKit và tự nối pipeline cho bạn, trong khi Pipecat không giả định transport nào và để nhà phát triển tự lắp pipeline theo từng giai đoạn. Bài viết cũng đề cập vị trí của TEN Framework, Dograh, Vision Agents và Vocode.

17 tháng 9Thứ Năm
  1. Descript Changelog20

    Tổng hợp bản phát hành Descript ngày 17 tháng 9 năm 2026: Cài đặt sẵn phụ đề, Nhạc và Hiệu ứng âm thanh AI, Thanh toán đa tiền tệ

    Bản phát hành ngày 17 tháng 9 năm 2026 của Descript bổ sung 18 cài đặt sẵn phụ đề và 10 hiệu ứng chữ động mới, cùng với nhạc nền và hiệu ứng âm thanh do AI tạo ra được đặt trực tiếp trên dòng thời gian trong phiên bản 145.0.15 trở lên. Thanh toán giờ đây hiển thị giá bằng tiền tệ địa phương với Apple Pay, Google Pay, Cash App và các tùy chọn khác, và trình chọn giọng nói sử dụng thư viện giọng nói ElevenLabs.

  2. LiveKit Blog25

    LiveKit ra mắt Startup Program với 23.000 USD tín dụng dành cho các nhà phát triển AI agent giai đoạn đầu

    LiveKit đã ra mắt Startup Program, trao cho các startup đủ điều kiện tổng giá trị khoảng 23.000 USD: 7.000 USD tín dụng inference từ bảy đối tác, 10.000 USD tín dụng LiveKit Cloud, và một năm sử dụng gói Scale có giá thông thường 500 USD mỗi tháng. Các mô hình từ đối tác bao gồm Deepgram, AssemblyAI và Gemma 4 31B do LiveKit lưu trữ có thể truy cập qua LiveKit Inference mà không cần tài khoản nhà cung cấp hay API key riêng. Chương trình hướng tới các startup có dưới 50 nhân viên, đã gọi được dưới 5 triệu USD và đang tích hợp voice, video hoặc physical AI vào sản phẩm của mình.

15 tháng 9Thứ Ba
  1. Factory58

    Factory huy động 200 triệu USD với định giá 5 tỷ USD để mở rộng phát triển phần mềm tự cải thiện

    Factory đã huy động được 200 triệu USD với định giá 5 tỷ USD, nâng tổng vốn đầu tư lên hơn 400 triệu USD, với sự hậu thuẫn từ Blackstone, Khosla Ventures, Sequoia Capital, Insight Partners và những nhà đầu tư khác. Công ty cho biết sẽ dùng số vốn này cho nghiên cứu, sản phẩm và hoạt động tiếp cận thị trường toàn cầu cho nền tảng nhà máy phần mềm doanh nghiệp của mình, nền tảng này cho phép các nhóm quản trị toàn bộ vòng đời phát triển và lựa chọn triển khai trên cloud, tại chỗ hoặc tách biệt hoàn toàn khỏi mạng. Factory cho biết Nvidia, Blackstone, RBC, Palo Alto Networks, Adobe và T-Mobile đang sử dụng nền tảng này, và Factory Router của họ cắt giảm chi phí token hơn 60% trong khi vẫn duy trì hiệu năng tiên tiến.

14 tháng 9Thứ Hai
  1. Modal Blog40

    Cập nhật sản phẩm Modal: Sandbox Sidecars, hỗ trợ Kimi K3 và GLM 5.3, giao diện Dashboard làm mới

    Modal đã bổ sung hỗ trợ day-zero cho bốn mô hình open-weight — Kimi K3, Qwen3.8-2.4T-A95B, GLM-5.3 và GLM-5.3-Flash — trên Auto Endpoints, với Kimi K3 chạy ở tốc độ 460 token mỗi giây trên các khối lượng công việc agentic thông qua một DFlash speculator tùy chỉnh. Sandbox Sidecars bước vào giai đoạn public alpha, VM Sandboxes đạt public beta, và hệ số giá đa khu vực rộng giảm từ 1.5x xuống 1.15x. Dashboard được làm mới với bản beta chế độ sáng, và Python SDK 1.5.5 cùng JavaScript và Go SDK 0.10.0 đã được phát hành.

9 tháng 9Thứ Tư
  1. LiveKit Blog22

    "Suy luận chậm hơn thời gian thực" có nghĩa là gì trong các voice agent của LiveKit

    LiveKit giải thích rằng cảnh báo "suy luận chậm hơn thời gian thực" trong các voice agent của mình đề cập đến mô hình VAD cục bộ, không phải các mô hình STT, TTS hay LLM được sử dụng thông qua LiveKit Inference. Mỗi cửa sổ âm thanh 32ms phải được xử lý trong vòng dưới 32ms, và độ trễ được báo cáo cho thấy VAD đã bị tụt lại phía sau âm thanh trực tiếp bao xa. Vòng lặp sự kiện bị chặn và CPU bão hòa là những nguyên nhân chính, và cách khắc phục là loại trừ mã đồng bộ thay vì thêm luồng.

  2. Factory26

    Factory ra mắt trên Claude Marketplace, mang phát triển phần mềm tự động đến doanh nghiệp

    Factory hiện đã có mặt trên Claude Marketplace của Anthropic, cho phép khách hàng doanh nghiệp sử dụng khoản chi tiêu Anthropic đã cam kết cho Factory mà không cần một quy trình mua riêng. Factory tự động hóa vòng đời phát triển phần mềm, bao gồm lập kế hoạch, triển khai, kiểm thử và bảo mật, đồng thời hỗ trợ nhiều mô hình triển khai doanh nghiệp. Khách hàng của công ty bao gồm NVIDIA, Adyen và Ernst & Young.

4 tháng 9Thứ Sáu
  1. Modal Blog22

    Markov Robotics sử dụng Modal để chạy huấn luyện robot đầu-cuối

    Markov Robotics đang huấn luyện một world model cho khả năng khéo léo tổng quát zero-shot của robot, chỉ dùng chưa đến mười giờ dữ liệu robot trong khi các kết quả tương đương thường cần hàng nghìn giờ. Công ty chạy gần như toàn bộ compute trên Modal, từ tiền xử lý hàng trăm terabyte video đến 2–10 lượt huấn luyện đồng thời và suy luận từ xa qua Modal Tunnels với độ trễ khứ hồi khoảng 20 mili giây. Quá trình tiền xử lý có thể mất cả ngày nay hoàn thành trong hai mươi đến ba mươi phút, với fan-out lên tới 500 GPU cùng lúc.

3 tháng 9Thứ Năm
  1. Vapi Blog38

    Cách các tác nhân giọng nói AI phân biệt người thật với hộp thư thoại

    Phát hiện hộp thư thoại, còn gọi là phát hiện máy trả lời tự động, quyết định trong khoảng ba đến năm giây liệu một cuộc gọi ra có gặp người thật hay bản ghi âm, dựa vào tín hiệu thời gian và hành vi thay vì âm thanh giọng nói. Một bản tiền ấn phẩm arXiv năm 2026 phát hiện các đặc trưng thời gian đơn thuần có thể sánh ngang với các phương pháp dựa trên tiếng bíp và từ khóa trong khi tránh được độ trễ gia tăng của chúng. Vapi cho phép người dùng chọn nhà cung cấp phát hiện, tinh chỉnh thời gian và chuyển lại sang hội thoại khi có người trả lời.

2 tháng 9Thứ Tư
  1. LiveKit Blog38

    Triển khai phi sản xuất của LiveKit cho phép bạn kiểm thử voice agent trước khi lên production

    LiveKit đã bổ sung các triển khai phi sản xuất, chạy một voice agent dưới tên khác trên cùng container image, project và secrets như production, được tạo chỉ bằng một lệnh. Mỗi triển khai sẽ ngủ khi nhàn rỗi mà không tốn chi phí và thức dậy ở yêu cầu tiếp theo, và bạn nhắm tới nó bằng cờ --deployment. Nó yêu cầu livekit-agents 1.6+ cho Python hoặc @livekit/agents 1.7.1+ cho Node, và các gói cung cấp 2 triển khai trên Ship và 5 trên Scale.

  2. Modal Blog18

    Modal mở văn phòng tại London để mở rộng khắp châu Âu

    Modal đang mở một văn phòng tại London, văn phòng thứ hai tại châu Âu, và đã tuyển Hugh Killingbeck-Jones làm VP EMEA để xây dựng các đội go-to-market phục vụ khách hàng khởi nghiệp và doanh nghiệp. Văn phòng này cuối cùng sẽ bổ sung thêm kỹ thuật và các chức năng khác, trong khi đội ngũ Stockholm của Modal đã phát triển lên gần 20 người xây dựng các hệ thống cốt lõi như hệ thống tệp tùy chỉnh và Sandboxes của công ty.

  3. Modal Blog22

    Botika vận hành AI tạo sinh toàn diện trên Modal như thế nào

    Botika vận hành hoạt động AI tạo sinh toàn diện của mình trên Modal, bao gồm đường ống dữ liệu hình ảnh 100 terabyte, các mô hình nền tảng nội bộ với hàng chục tỷ tham số và khoảng 15 mô hình phục vụ suy luận trong môi trường sản xuất. Đường ống này xử lý tập dữ liệu đó với tỷ lệ lỗi dưới 1% trên hàng nghìn container đồng thời, và một nhà nghiên cứu giờ đây có thể chạy 50 thí nghiệm mỗi ngày thay vì một hoặc hai.

1 tháng 9Thứ Ba
  1. Zyphra Research48

    Zyphra phát hành PUFFER, hệ thống khử trùng lặp mờ tăng dần cho kho ngữ liệu huấn luyện đang phát triển

    Zyphra đã phát hành PUFFER, một hệ thống khử trùng lặp mờ tăng dần nhận biết nguồn gốc mã nguồn mở dành cho kho ngữ liệu huấn luyện LLM liên tục mở rộng, theo giấy phép Apache 2.0. Hệ thống này đạt tốc độ nhanh hơn 11x-35x so với các phương pháp khử trùng lặp dựa trên CPU hiện có và xử lý một tỷ tài liệu trong 1,75 giờ trên một tiến trình duy nhất, với triển khai thực tế trên hơn 30 tỷ tài liệu. PUFFER lưu giữ lịch sử MinHash-LSH trên đĩa để có thể thêm tập dữ liệu mới, khôi phục các tác vụ bị gián đoạn một cách xác định, và rút từng tập dữ liệu mà không cần xây dựng lại toàn bộ chỉ mục kho ngữ liệu.

  2. LiveKit Blog58

    LiveKit ra mắt Connectors để đưa voice agent vào các cuộc gọi Twilio và WhatsApp

    LiveKit ra mắt Connectors, một cầu nối trực tiếp giữa phòng LiveKit với Twilio Programmable Voice và WhatsApp Business Calling, dự kiến sẽ có thêm nhiều nền tảng khác. Mỗi cuộc gọi tham gia phòng với tư cách là một participant CONNECTOR mang theo ngữ cảnh nền tảng như Twilio call SID hoặc số điện thoại của người gọi WhatsApp, và việc điều phối agent diễn ra trong cùng một yêu cầu API. Connectors hiện đã được phát hành chính thức trên LiveKit Cloud với mức giá SIP là 0,004 USD mỗi phút trên gói Ship và 0,003 USD trên gói Scale, với 5, 20 và 100 cuộc gọi connector đồng thời lần lượt trên các gói Build, Ship và Scale.

31 tháng 8Thứ Hai
  1. Vapi Blog58

    Vapi xây dựng lại Campaigns cho gọi ra hàng loạt với 10.000 liên hệ

    Vapi ra mắt phiên bản xây dựng lại của Campaigns, sản phẩm gọi ra hàng loạt của họ, hiện chạy trên một công cụ quy trình công việc bền vững độc lập tách biệt với hàng đợi cuộc gọi. Mỗi chiến dịch có thể chứa tối đa 10.000 liên hệ cùng một trợ lý hoặc đội nhóm và một số điện thoại, với việc quay số giới hạn trong một khung thời gian nhất định, các biến theo từng liên hệ trong lời nhắc của trợ lý, và một webhook trước khi quay số để bỏ qua những liên hệ đã chuyển đổi. Vapi cho biết trạng thái chiến dịch tồn tại bên ngoài bất kỳ tiến trình đơn lẻ nào, tính đồng thời chạy như một cửa sổ trượt thay vì theo lô, và mọi thay đổi trạng thái đều ghi thêm một sự kiện bất biến để tiến độ và nhật ký kiểm tra không thể bị lệch.

25 tháng 8Thứ Ba
  1. Vapi Blog22

    Tự xây dựng hay mua: điều bạn thực sự đang quyết định với voice agent

    Các đội ngũ đang cân nhắc có nên tự xây dựng voice agent trong nội bộ hay không thực chất đang quyết định có nên xây dựng một lớp điều phối (orchestration layer) hay không, vì bản thân agent chỉ chiếm khoảng 20% công việc, phần còn lại là hạ tầng âm thanh thời gian thực, telephony và observability. Bản demo sáu tuần của một nhà cung cấp giải pháp lập lịch đã biến thành dự án kéo dài tám tháng trước khi họ chuyển tính năng này sang một nền tảng trong sáu tuần. Tự xây dựng trong nội bộ chỉ hợp lý khi cần tùy biến sâu pipeline, đã có hạ tầng voice sẵn, có ràng buộc pháp lý, hoặc khi voice là lợi thế cạnh tranh cốt lõi.

24 tháng 8Thứ Hai
  1. LiveKit Blog36

    Gỡ lỗi các phát ngôn ngắn trong tác nhân thoại

    Blog của LiveKit phân tích lý do vì sao các tác nhân thoại thường im lặng sau những câu trả lời ngắn như "yes" hay "ok", truy nguyên đến lỗi phát hiện lượt nói. Nguyên nhân phổ biến nhất là các nhà cung cấp STT bỏ sót đoạn nói ngắn và không bao giờ phát ra final_transcript, khiến việc phát hiện kết thúc phát ngôn hoàn toàn bị chặn. Bài viết cũng đề cập đến độ trễ endpointing quá mạnh tay hoặc quá dễ dãi và cấu hình khử nhiễu sai khiến âm thanh ngắn bị loại bỏ như nhiễu.

  2. LiveKit Blog22

    LiveKit giới thiệu tính cước theo giây cho phiên agent, bản ghi, kết nối WebRTC và SIP

    LiveKit đã chuyển phút phiên agent, bản ghi, kết nối WebRTC và kết nối SIP sang tính cước theo giây với mức tối thiểu mười giây, áp dụng cho tất cả gói và tài khoản bao gồm hợp đồng doanh nghiệp. Thay đổi đã có hiệu lực và sẽ xuất hiện trên hóa đơn tháng 9 cho mức sử dụng tháng 8, không có thay đổi kỹ thuật nào ảnh hưởng đến khách hàng. LiveKit cho biết tính cước theo phút không khớp với các cuộc gọi ra ngắn chỉ kéo dài vài giây, hạn chế trường hợp sử dụng đó.

20 tháng 8Thứ Năm
  1. Vapi Blog22

    Các AI Voice Agent tốt nhất cho CX: Cách đánh giá chúng

    Vapi đã công bố một bộ tiêu chí gồm bảy điểm để đánh giá các AI voice agent trong trải nghiệm khách hàng, bao gồm khả năng giải quyết vấn đề, chất lượng giọng nói thời gian thực, khả năng thực hiện hành động, chuyển tuyến, tính linh hoạt của mô hình, độ tin cậy trong vòng đời và kiểm soát nền tảng. Hướng dẫn lập luận rằng việc containment và deflection đang đếm quá mức thành công, vì những người gọi được containment có thể chỉ đơn giản là cúp máy, và trích dẫn dữ liệu của ContactBabel cho thấy sở thích điện thoại cho các tương tác phức tạp đã tăng từ 28% vào năm 2018 lên 47% vào năm 2024. Vapi tự định vị mình là một lớp nền tảng không phụ thuộc mô hình với endpointing có thể cấu hình, xử lý ngắt lời và khử nhiễu nền.

18 tháng 8Thứ Ba
  1. LiveKit Blog40

    LiveKit: robot đa người tham gia vượt ra ngoài kết nối 1:1

    LiveKit đang mở rộng kiến trúc SFU của mình ra ngoài các liên kết ngang hàng đơn lẻ để các triển khai robot có thể chạy các phiên đa người tham gia, trong đó một Room cho phép mỗi camera, mô hình, người vận hành hoặc dịch vụ tham gia như một người tham gia riêng. LiveKit mô tả ba kiến trúc: ghi dữ liệu có con người trong vòng lặp với robot, policy, người vận hành và bộ ghi trong cùng một phiên; điều phối kỹ năng do VLM dẫn dắt, trong đó một mô hình ngôn ngữ-thị giác chọn kỹ năng ở tần suất khoảng 1 Hz trong khi các người tham gia policy riêng biệt điều khiển robot ở tần suất hàng chục hertz; và leo thang policy, trong đó một mô hình phần thưởng ở 30 Hz hoặc cao hơn đánh dấu các trạng thái bị kẹt hoặc không an toàn và robot thu hồi quyền từ policy chuyên biệt.

14 tháng 8Thứ Sáu
  1. Vapi Blog22

    Cách chọn nền tảng AI hội thoại cho phát triển doanh nghiệp

    Một hướng dẫn trung lập với nhà cung cấp đưa ra năm tiêu chí để chọn nền tảng AI hội thoại cho các tác nhân thoại doanh nghiệp: quyền kiểm soát của nhà phát triển, lựa chọn mô hình và dự phòng, kiểm thử và khả năng quan sát, toàn bộ vòng đời tác nhân, và tuân thủ ở quy mô lớn. Hướng dẫn trích dẫn một khảo sát của Zapier với 542 giám đốc điều hành cấp C tại Mỹ, trong đó 81% lo ngại về việc phụ thuộc vào một nhà cung cấp AI cụ thể và chỉ 6% có thể từ bỏ nhà cung cấp chính của họ mà không bị gián đoạn. Hướng dẫn lập luận rằng độ trễ và điều phối quan trọng hơn danh sách tính năng, đồng thời lưu ý phát hiện của AssemblyAI rằng độ trễ vượt quá 500–700 ms tạo cảm giác không tự nhiên.

13 tháng 8Thứ Năm
  1. Factory38

    Factory ra mắt phân tích hiệu quả Agent cho Doanh nghiệp

    Factory đã đưa Agent Effectiveness vào trạng thái sẵn sàng chung trong Factory Analytics dành cho các tổ chức Doanh nghiệp, liên kết các phiên Factory với thời gian chu kỳ, ý định công việc và các sản phẩm đã bàn giao. Tính năng này bổ sung các chế độ xem Throughput, Output và Attribution nhằm kết nối việc sử dụng Droid với kết quả bàn giao, được hỗ trợ bởi lớp phân loại Local Signals đọc từ Jira, Linear, GitHub và GitLab. Đây là tính năng tự chọn tham gia, mặc định tắt và yêu cầu kiểm soát doanh nghiệp Advanced Analytics.