Tới nội dung
21 tháng 9Thứ Hai
  1. LiveKit Blog38

    So sánh các framework mã nguồn mở cho AI agent thoại và video thời gian thực: LiveKit Agents và Pipecat

    Hướng dẫn này so sánh LiveKit Agents và Pipecat, hai framework mã nguồn mở mà bài viết cho là quan trọng nhất để xây dựng AI agent thoại và video cho môi trường production, trên các khía cạnh kiến trúc, mức độ được sử dụng, trải nghiệm nhà phát triển và mức độ sẵn sàng cho production. LiveKit Agents chạy trên hạ tầng WebRTC và SIP mã nguồn mở của LiveKit và tự nối pipeline cho bạn, trong khi Pipecat không giả định transport nào và để nhà phát triển tự lắp pipeline theo từng giai đoạn. Bài viết cũng đề cập vị trí của TEN Framework, Dograh, Vision Agents và Vocode.

9 tháng 9Thứ Tư
  1. LiveKit Blog22

    "Suy luận chậm hơn thời gian thực" có nghĩa là gì trong các voice agent của LiveKit

    LiveKit giải thích rằng cảnh báo "suy luận chậm hơn thời gian thực" trong các voice agent của mình đề cập đến mô hình VAD cục bộ, không phải các mô hình STT, TTS hay LLM được sử dụng thông qua LiveKit Inference. Mỗi cửa sổ âm thanh 32ms phải được xử lý trong vòng dưới 32ms, và độ trễ được báo cáo cho thấy VAD đã bị tụt lại phía sau âm thanh trực tiếp bao xa. Vòng lặp sự kiện bị chặn và CPU bão hòa là những nguyên nhân chính, và cách khắc phục là loại trừ mã đồng bộ thay vì thêm luồng.

3 tháng 9Thứ Năm
  1. Vapi Blog38

    Cách các tác nhân giọng nói AI phân biệt người thật với hộp thư thoại

    Phát hiện hộp thư thoại, còn gọi là phát hiện máy trả lời tự động, quyết định trong khoảng ba đến năm giây liệu một cuộc gọi ra có gặp người thật hay bản ghi âm, dựa vào tín hiệu thời gian và hành vi thay vì âm thanh giọng nói. Một bản tiền ấn phẩm arXiv năm 2026 phát hiện các đặc trưng thời gian đơn thuần có thể sánh ngang với các phương pháp dựa trên tiếng bíp và từ khóa trong khi tránh được độ trễ gia tăng của chúng. Vapi cho phép người dùng chọn nhà cung cấp phát hiện, tinh chỉnh thời gian và chuyển lại sang hội thoại khi có người trả lời.

2 tháng 9Thứ Tư
  1. Modal Blog22

    Botika vận hành AI tạo sinh toàn diện trên Modal như thế nào

    Botika vận hành hoạt động AI tạo sinh toàn diện của mình trên Modal, bao gồm đường ống dữ liệu hình ảnh 100 terabyte, các mô hình nền tảng nội bộ với hàng chục tỷ tham số và khoảng 15 mô hình phục vụ suy luận trong môi trường sản xuất. Đường ống này xử lý tập dữ liệu đó với tỷ lệ lỗi dưới 1% trên hàng nghìn container đồng thời, và một nhà nghiên cứu giờ đây có thể chạy 50 thí nghiệm mỗi ngày thay vì một hoặc hai.

24 tháng 8Thứ Hai
  1. LiveKit Blog36

    Gỡ lỗi các phát ngôn ngắn trong tác nhân thoại

    Blog của LiveKit phân tích lý do vì sao các tác nhân thoại thường im lặng sau những câu trả lời ngắn như "yes" hay "ok", truy nguyên đến lỗi phát hiện lượt nói. Nguyên nhân phổ biến nhất là các nhà cung cấp STT bỏ sót đoạn nói ngắn và không bao giờ phát ra final_transcript, khiến việc phát hiện kết thúc phát ngôn hoàn toàn bị chặn. Bài viết cũng đề cập đến độ trễ endpointing quá mạnh tay hoặc quá dễ dãi và cấu hình khử nhiễu sai khiến âm thanh ngắn bị loại bỏ như nhiễu.

20 tháng 8Thứ Năm
  1. Vapi Blog22

    Các AI Voice Agent tốt nhất cho CX: Cách đánh giá chúng

    Vapi đã công bố một bộ tiêu chí gồm bảy điểm để đánh giá các AI voice agent trong trải nghiệm khách hàng, bao gồm khả năng giải quyết vấn đề, chất lượng giọng nói thời gian thực, khả năng thực hiện hành động, chuyển tuyến, tính linh hoạt của mô hình, độ tin cậy trong vòng đời và kiểm soát nền tảng. Hướng dẫn lập luận rằng việc containment và deflection đang đếm quá mức thành công, vì những người gọi được containment có thể chỉ đơn giản là cúp máy, và trích dẫn dữ liệu của ContactBabel cho thấy sở thích điện thoại cho các tương tác phức tạp đã tăng từ 28% vào năm 2018 lên 47% vào năm 2024. Vapi tự định vị mình là một lớp nền tảng không phụ thuộc mô hình với endpointing có thể cấu hình, xử lý ngắt lời và khử nhiễu nền.

18 tháng 8Thứ Ba
  1. LiveKit Blog40

    LiveKit: robot đa người tham gia vượt ra ngoài kết nối 1:1

    LiveKit đang mở rộng kiến trúc SFU của mình ra ngoài các liên kết ngang hàng đơn lẻ để các triển khai robot có thể chạy các phiên đa người tham gia, trong đó một Room cho phép mỗi camera, mô hình, người vận hành hoặc dịch vụ tham gia như một người tham gia riêng. LiveKit mô tả ba kiến trúc: ghi dữ liệu có con người trong vòng lặp với robot, policy, người vận hành và bộ ghi trong cùng một phiên; điều phối kỹ năng do VLM dẫn dắt, trong đó một mô hình ngôn ngữ-thị giác chọn kỹ năng ở tần suất khoảng 1 Hz trong khi các người tham gia policy riêng biệt điều khiển robot ở tần suất hàng chục hertz; và leo thang policy, trong đó một mô hình phần thưởng ở 30 Hz hoặc cao hơn đánh dấu các trạng thái bị kẹt hoặc không an toàn và robot thu hồi quyền từ policy chuyên biệt.

14 tháng 8Thứ Sáu
  1. Vapi Blog22

    Cách chọn nền tảng AI hội thoại cho phát triển doanh nghiệp

    Một hướng dẫn trung lập với nhà cung cấp đưa ra năm tiêu chí để chọn nền tảng AI hội thoại cho các tác nhân thoại doanh nghiệp: quyền kiểm soát của nhà phát triển, lựa chọn mô hình và dự phòng, kiểm thử và khả năng quan sát, toàn bộ vòng đời tác nhân, và tuân thủ ở quy mô lớn. Hướng dẫn trích dẫn một khảo sát của Zapier với 542 giám đốc điều hành cấp C tại Mỹ, trong đó 81% lo ngại về việc phụ thuộc vào một nhà cung cấp AI cụ thể và chỉ 6% có thể từ bỏ nhà cung cấp chính của họ mà không bị gián đoạn. Hướng dẫn lập luận rằng độ trễ và điều phối quan trọng hơn danh sách tính năng, đồng thời lưu ý phát hiện của AssemblyAI rằng độ trễ vượt quá 500–700 ms tạo cảm giác không tự nhiên.

4 tháng 8Thứ Ba
  1. Vapi Blog22

    Điều gì tạo nên trải nghiệm AI hội thoại tuyệt vời: Vapi bàn về thiết kế giọng nói

    Vapi lập luận rằng các tác nhân giọng nói được đánh giá dựa trên năm khía cạnh thời gian thực: độ trễ, cách luân phiên lượt nói, xử lý ngắt lời, ngữ điệu và một pipeline có khả năng phục hồi. Công ty trích dẫn nghiên cứu cho thấy khoảng cách lượt nói của con người gần 200ms và ghi nhận độ trễ vượt khoảng 500–700ms sẽ tạo cảm giác không tự nhiên, trong khi các pipeline tuần tự đơn giản có thể tốn khoảng 1,9 giây so với 600–900ms ở các pipeline được tối ưu. Vapi định vị pipeline không phụ thuộc mô hình của mình là có thể tinh chỉnh và kiểm thử thông qua các cuộc gọi mô phỏng.

27 tháng 7Thứ Hai
  1. Vapi Blog22

    Hỏi đáp webinar Anthropic và Vapi: Cách xây dựng tác nhân giọng nói đặt xe Claude Haiku

    Vapi đã công bố câu trả lời cho các câu hỏi từ webinar của họ với Anthropic về AI giọng nói, trình bày chi tiết tác nhân demo đặt xe trực tiếp được xây dựng trên Vapi với Claude Haiku của Anthropic và giọng nói Layla v2. Tác nhân đã sử dụng năm công cụ — ước tính, đặt, kiểm tra trạng thái, hủy và kết thúc cuộc gọi — cùng với endpointing thông minh và ngưỡng ngắt lời thận trọng để đạt được lượt hội thoại dưới một giây. Các tác nhân chạy Claude trên Vapi đã xử lý gần 5 triệu cuộc gọi trong 30 ngày qua trên hơn 50 ngôn ngữ.

24 tháng 7Thứ Sáu
  1. Vapi Blog22

    Cách giảm thời gian chờ của khách hàng bằng đại lý thoại AI

    Đại lý thoại AI cắt giảm thời gian chờ của khách hàng theo hai cách: loại bỏ công việc khỏi hàng đợi thông qua tự phục vụ chuyển hướng, định tuyến thông minh, hỗ trợ đại lý và dự đoán nhu cầu, đồng thời trả lời ngay lập tức mà không cần giữ máy. SQM Group phát hiện khách hàng hủy cuộc gọi trung bình ở phút 2 giây 36, trong khi ContactBabel đưa ra tỷ lệ hủy cuộc gọi trung bình của Vương quốc Anh là 8,4% vào năm 2024. Vapi cho biết một đại lý thoại đầu tiên có thể được thiết lập từ bảng điều khiển của nó trong vài phút, sau đó được đo lường trên ASA, tỷ lệ hủy cuộc gọi và giải quyết cuộc gọi đầu tiên.

13 tháng 7Thứ Hai
  1. Every38

    Cách tôi đánh bóng phần mềm do agent xây dựng

    Kieran Klaassen mô tả "polish" (đánh bóng), bước cuối cùng trong quy trình kỹ thuật tổng hợp của anh, nơi anh tự chạy ứng dụng và nói cho agent biết chỗ nào chưa ổn cho đến khi hết chưa ổn. Dùng lệnh /ce-polish từ plugin kỹ thuật tổng hợp, anh checkout một nhánh, khởi động dev server và mở ứng dụng đang chạy bên cạnh agent trong trình soạn thảo. Anh dẫn chứng một hoạt ảnh thẻ email Cora đã vượt qua mọi kiểm tra tự động và agent đánh giá nhưng vẫn trượt vào từ đỉnh màn hình thay vì mở ra từ điểm nhấp.

6 tháng 7Thứ Hai
  1. Modal Blog38

    Cách định giá GPU serverless: Mô hình chi phí tương tác của Modal

    Modal đã công bố một công cụ tương tác để ước tính chi phí GPU serverless so với GPU đặt trước, mặc định dùng mức giá hiện hành cho một GPU B200 chạy serverless trên Modal và qua đặt trước ba năm với hyperscaler. Mô hình cho thấy khi tỷ lệ đỉnh trên trung bình của ứng dụng vượt quá tỷ lệ chiết khấu đặt trước, GPU serverless có tổng chi phí thấp hơn, và Modal dẫn ra mức chiết khấu quan sát được từ 2-5 lần so với tỷ lệ đỉnh trên trung bình 5-10 lần.

24 tháng 6Thứ Tư
  1. Vapi Blog15

    Vapi trả lời các câu hỏi hàng đầu từ hội thảo trực tuyến về sàng lọc khách hàng tiềm năng của SVG

    Vapi đã công bố câu trả lời cho bảy câu hỏi được hỏi nhiều nhất từ hội thảo trực tuyến của mình với Spring Venture Group, nơi Homer Kay mô tả cách SVG sử dụng các tác nhân thoại của Vapi để sàng lọc khách hàng tiềm năng Medicare trước khi chuyển người gọi đến các tác nhân được cấp phép. Các câu trả lời bao gồm tuân thủ quy định gọi ra ngoài, tích hợp ưu tiên API, hoán đổi độc lập các thành phần STT, LLM và TTS, chuyển giao cho con người, và cấu hình đủ điều kiện HIPAA với Zero Data Retention.