Tới nội dung
18 tháng 8Thứ Ba
  1. LiveKit Blog40

    LiveKit: robot đa người tham gia vượt ra ngoài kết nối 1:1

    LiveKit đang mở rộng kiến trúc SFU của mình ra ngoài các liên kết ngang hàng đơn lẻ để các triển khai robot có thể chạy các phiên đa người tham gia, trong đó một Room cho phép mỗi camera, mô hình, người vận hành hoặc dịch vụ tham gia như một người tham gia riêng. LiveKit mô tả ba kiến trúc: ghi dữ liệu có con người trong vòng lặp với robot, policy, người vận hành và bộ ghi trong cùng một phiên; điều phối kỹ năng do VLM dẫn dắt, trong đó một mô hình ngôn ngữ-thị giác chọn kỹ năng ở tần suất khoảng 1 Hz trong khi các người tham gia policy riêng biệt điều khiển robot ở tần suất hàng chục hertz; và leo thang policy, trong đó một mô hình phần thưởng ở 30 Hz hoặc cao hơn đánh dấu các trạng thái bị kẹt hoặc không an toàn và robot thu hồi quyền từ policy chuyên biệt.

  2. Vapi Blog55

    Vapi ra mắt Simulations để kiểm thử các voice agent với người gọi do AI tạo

    Vapi ra mắt Simulations, một tính năng kiểm thử gốc do AI vận hành, đặt những người kiểm thử AI có tính cách riêng biệt và các kịch bản lấy từ khách hàng ở đầu bên kia cuộc gọi với một voice agent. Mỗi lần chạy trả về kết quả đạt/không đạt, bản ghi đầy đủ và bản ghi âm, và các nhóm có thể giả lập phản hồi API, chạy chế độ trò chuyện văn bản tiết kiệm chi phí hoặc chế độ thoại đầy đủ, và kích hoạt các lần chạy qua API với các cổng chất lượng chặn triển khai khi tỷ lệ đạt giảm.

14 tháng 8Thứ Sáu
  1. Vapi Blog22

    Cách chọn nền tảng AI hội thoại cho phát triển doanh nghiệp

    Một hướng dẫn trung lập với nhà cung cấp đưa ra năm tiêu chí để chọn nền tảng AI hội thoại cho các tác nhân thoại doanh nghiệp: quyền kiểm soát của nhà phát triển, lựa chọn mô hình và dự phòng, kiểm thử và khả năng quan sát, toàn bộ vòng đời tác nhân, và tuân thủ ở quy mô lớn. Hướng dẫn trích dẫn một khảo sát của Zapier với 542 giám đốc điều hành cấp C tại Mỹ, trong đó 81% lo ngại về việc phụ thuộc vào một nhà cung cấp AI cụ thể và chỉ 6% có thể từ bỏ nhà cung cấp chính của họ mà không bị gián đoạn. Hướng dẫn lập luận rằng độ trễ và điều phối quan trọng hơn danh sách tính năng, đồng thời lưu ý phát hiện của AssemblyAI rằng độ trễ vượt quá 500–700 ms tạo cảm giác không tự nhiên.

13 tháng 8Thứ Năm
  1. MiniMax Blog71

    MiniMax phát hành Music 3.0, mô hình tạo nhạc trọng số mở cho các bài hát đầy đủ dài tới năm phút

    MiniMax giới thiệu Music 3.0, một mô hình tạo nhạc trọng số mở có khả năng sáng tác, phối khí và sản xuất một bài hát hoàn chỉnh dài tới năm phút từ một ý tưởng sáng tạo và phần lời tùy chọn trong một lần tạo. Pipeline kết hợp một Global LLM 8B được khởi tạo từ Qwen3.5-8B với một Local LLM 0.6B, hợp nhất các trạng thái ẩn liên tục của chúng để điều kiện hóa một mô-đun flow-matching 2.4B và một Flow-VAE 123M, đồng thời sử dụng RVQ tám lớp cùng Structured Captions mô tả cảm xúc, nhạc cụ và cách thể hiện giọng hát theo thời gian. MiniMax cho biết điều này mang lại khả năng diễn giải ý định sáng tạo chính xác hơn, phối khí đầy đủ hơn và giọng hát rõ ràng, tự nhiên hơn.

    Vì sao đáng chú ý: Phân tích kiến trúc của MiniMax cho thấy cách một Global LLM 8B kết hợp với một mô hình cục bộ 0.6B và ngăn xếp flow-matching nhắm giải quyết vấn đề mạch lạc của bài hát dài.

  2. Factory38

    Factory ra mắt phân tích hiệu quả Agent cho Doanh nghiệp

    Factory đã đưa Agent Effectiveness vào trạng thái sẵn sàng chung trong Factory Analytics dành cho các tổ chức Doanh nghiệp, liên kết các phiên Factory với thời gian chu kỳ, ý định công việc và các sản phẩm đã bàn giao. Tính năng này bổ sung các chế độ xem Throughput, Output và Attribution nhằm kết nối việc sử dụng Droid với kết quả bàn giao, được hỗ trợ bởi lớp phân loại Local Signals đọc từ Jira, Linear, GitHub và GitLab. Đây là tính năng tự chọn tham gia, mặc định tắt và yêu cầu kiểm soát doanh nghiệp Advanced Analytics.

12 tháng 8Thứ Tư
  1. Vapi Blog8

    VapiCon 2026 trở lại vào ngày 11–12 tháng 11 với tư cách là hội nghị thượng đỉnh AI giọng nói kéo dài hai ngày

    VapiCon 2026, hội nghị thượng đỉnh AI giọng nói do Vapi tổ chức, mở rộng thành hai ngày vào ngày 11 và 12 tháng 11 tại Festival Pavilion ở Fort Mason, với kế hoạch thu hút hơn 1.200 người tham dự, hơn 50 diễn giả và hơn 20 nhà tài trợ. Phiên bản đầu tiên đã thu hút hơn 850 người tại San Francisco vào ngày 2 tháng 10 năm 2025, và vé cho năm 2026 hiện đang được bán.

  2. Modal Blog62

    Qwen3.8-2.4T-A95B phát hành trọng số mã nguồn mở, Modal đồng thời ra mắt endpoint chia sẻ

    Qwen3.8-2.4T-A95B đã được phát hành dưới dạng mô hình trọng số mã nguồn mở và đồng thời ra mắt trên Modal. Modal cho biết đã hợp tác với Qwen trước khi phát hành, thông qua SGLang và bộ suy đoán DFlash tùy chỉnh được tinh chỉnh cho hình dạng của Qwen3.8, để cung cấp hỗ trợ day zero cho Modal Auto Endpoints.

    Vì sao đáng chú ý: Modal đã ra mắt endpoint chia sẻ ngay trong ngày phát hành trọng số mã nguồn mở của Qwen3.8-2.4T-A95B, đồng thời giải thích cách bộ suy đoán DFlash tùy chỉnh của mình cải thiện tốc độ suy luận cho hình dạng của mô hình này.

6 tháng 8Thứ Năm
  1. Vapi Blog12

    Vapi bổ nhiệm Nathalie Criou làm VP Sản phẩm

    Vapi đã tuyển dụng Nathalie Criou làm VP Sản phẩm, vài tháng sau khi bà gia nhập startup AI giọng nói này. Criou trước đây đảm nhận các vai trò sản phẩm và quản lý tổng quát tại Google, VMware, Amazon, Twilio và Docker, đồng thời sáng lập và bán startup RidePal. Bà cho biết mình gia nhập vì giọng nói là một kênh chưa được tận dụng hết mà AI giờ đây có thể chuyển đổi, dẫn chứng khách hàng Kavak đã tái cơ cấu quanh giọng nói trong vòng sáu tháng.

4 tháng 8Thứ Ba
  1. Vapi Blog22

    Điều gì tạo nên trải nghiệm AI hội thoại tuyệt vời: Vapi bàn về thiết kế giọng nói

    Vapi lập luận rằng các tác nhân giọng nói được đánh giá dựa trên năm khía cạnh thời gian thực: độ trễ, cách luân phiên lượt nói, xử lý ngắt lời, ngữ điệu và một pipeline có khả năng phục hồi. Công ty trích dẫn nghiên cứu cho thấy khoảng cách lượt nói của con người gần 200ms và ghi nhận độ trễ vượt khoảng 500–700ms sẽ tạo cảm giác không tự nhiên, trong khi các pipeline tuần tự đơn giản có thể tốn khoảng 1,9 giây so với 600–900ms ở các pipeline được tối ưu. Vapi định vị pipeline không phụ thuộc mô hình của mình là có thể tinh chỉnh và kiểm thử thông qua các cuộc gọi mô phỏng.

  2. Modal Blog34

    Modal chuyển Functions serverless sang mặt phẳng I/O theo khu vực, giảm độ trễ p50 khoảng 80ms

    Modal đã di chuyển toàn bộ Functions sang một mặt phẳng I/O phân tán theo địa lý mới, giảm độ trễ end-to-end của Function Call khoảng 80ms ở p50. Trước đây, đầu vào và đầu ra của mọi Function đều được định tuyến qua các máy chủ I/O ở us-east, cộng thêm tới vài 100ms mỗi lần gọi; mặt phẳng mới có sẵn ở ≥4 khu vực và có thể chọn thông qua cờ routing_region. Lớp máy chủ đã được viết lại bằng Go, với các công việc không quan trọng được chuyển ra khỏi hot path.

3 tháng 8Thứ Hai
  1. Vapi Blog33

    Vì sao tính linh hoạt của mô hình lại quan trọng trong giọng nói: Speechify Simba 3.2 và Fish Audio S2.1-Pro đứng đầu Chỉ số Humanness của Vapi

    Simba 3.2 của Speechify ra mắt ở vị trí dẫn đầu Chỉ số Humanness của Vapi với 99 điểm, chỉ kém một điểm so với mức cơ sở của con người là 100, và S2.1-Pro của Fish Audio gia nhập ở mức 94 với thời gian đến âm thanh đầu tiên là 141 ms. Đương kim dẫn đầu trước đó, Grok TTS của xAI, chỉ giữ vị trí số một trong ba tuần với 95 điểm, và điểm số dẫn đầu kể từ đó đã tăng từ 95 lên 99. Vapi lập luận rằng các nền tảng giọng nói không phụ thuộc mô hình cho phép các đội nhóm hoán đổi mô hình TTS khi thứ hạng thay đổi.

31 tháng 7Thứ Sáu
  1. MiniMax Blog82

    MiniMax ra mắt H3, mô hình tạo đa phương thức tổng quát với video âm thanh nổi gốc ở độ phân giải 2K

    MiniMax đã ra mắt H3, một mô hình tạo đa phương thức tổng quát có khả năng hiểu văn bản, hình ảnh, video và âm thanh như một ngữ cảnh thống nhất, đồng thời tạo video với âm thanh nổi gốc dài tối đa 15 giây ở độ phân giải 2K. Công ty cho biết chi phí đầu ra 2K thấp hơn một phần ba so với các mô hình chủ lưu tính theo giây, và dự kiến sẽ mở trọng số mô hình trong những ngày tới, tuân theo các luật và quy định hiện hành. H3 được xây dựng trên Contextual Omni Representation, H3-VAE, H3-Omni Transformer và In-Context Regeneration, và MiniMax cho biết báo cáo kỹ thuật đầy đủ sẽ sớm được công bố.

    Vì sao đáng chú ý: H3 của MiniMax hợp nhất việc tạo văn bản, hình ảnh, video và âm thanh trong một mô hình và tuyên bố mức giá 2K thấp hơn một phần ba so với các mô hình chủ lưu, với trọng số được hứa hẹn sẽ sớm phát hành.

29 tháng 7Thứ Tư
  1. Berkeley AI Research58

    Từ CUDA đến MLX: K-Search mang chuyên môn tối ưu hóa kernel đến Apple Silicon

    IBM Research đã mở rộng K-Search, khung tìm kiếm kernel tiến hóa từ UC Berkeley Sky Lab, với backend MLX và một lớp chuyển đổi CUDA sang MLX có cấu trúc, giúp chuyển đổi các kernel CUDA hiện có thành kernel cho Apple Silicon. Trên một kernel attention MLX, phương pháp này đạt tốc độ bằng 0,97 lần kernel MLX Attention gốc của Apple, tăng từ 0,26 lần khi không có ngữ cảnh chuyển đổi, và một kernel Mamba SSM được tiến hóa đạt tốc độ prefill nhanh hơn tới 20 lần so với triển khai mlx-lm của cộng đồng trên M1 Max. Các tác giả cho rằng mức tăng chủ yếu đến từ chất lượng ngữ cảnh và các ràng buộc được cung cấp cho LLM chứ không phải khả năng viết mã Metal của nó, và cho biết phương pháp này không dành riêng cho MLX.

  2. Modal Blog40

    Modal phản hồi sự cố agent của Hugging Face: cách ly nền tảng không bị xâm phạm

    Modal cho biết nền tảng và cơ chế cách ly của họ không bị xâm phạm trong vụ xâm nhập agent của Hugging Face, vốn đã dùng Modal làm bệ phóng của bên thứ ba. Môi trường bị ảnh hưởng là một ứng dụng của khách hàng được triển khai tới một endpoint công khai không có xác thực, thực thi mã do internet gửi đến bên trong một Modal Sandbox, và việc thực thi mã vẫn nằm trong container riêng của khách hàng đó. Modal lưu ý rằng việc phơi bày Sandbox không xác thực không bao giờ là mặc định và khuyến nghị xác thực, danh sách IP được phép và hạn chế truy cập mạng ra ngoài.

27 tháng 7Thứ Hai
  1. Vapi Blog22

    Hỏi đáp webinar Anthropic và Vapi: Cách xây dựng tác nhân giọng nói đặt xe Claude Haiku

    Vapi đã công bố câu trả lời cho các câu hỏi từ webinar của họ với Anthropic về AI giọng nói, trình bày chi tiết tác nhân demo đặt xe trực tiếp được xây dựng trên Vapi với Claude Haiku của Anthropic và giọng nói Layla v2. Tác nhân đã sử dụng năm công cụ — ước tính, đặt, kiểm tra trạng thái, hủy và kết thúc cuộc gọi — cùng với endpointing thông minh và ngưỡng ngắt lời thận trọng để đạt được lượt hội thoại dưới một giây. Các tác nhân chạy Claude trên Vapi đã xử lý gần 5 triệu cuộc gọi trong 30 ngày qua trên hơn 50 ngôn ngữ.

  2. Modal Blog75

    Kimi K3 của Moonshot hiện đã có trên Modal với hỗ trợ vLLM ngay ngày đầu

    Modal đã đưa Kimi K3 của Moonshot lên nền tảng của mình ngay trong ngày phát hành, cung cấp mô hình đa phương thức 2,8 nghìn tỷ tham số với cửa sổ ngữ cảnh 1 triệu token thông qua Shared API tính phí theo token và các Auto Endpoint chuyên dụng. Modal cho biết một DFlash speculator tùy chỉnh được điều chỉnh cho kiến trúc của K3 giúp tăng khả năng tương tác từ 100 lên 460 token mỗi giây và thông lượng từ 800k lên 1,5 triệu TPM mỗi GPU trên các khối lượng công việc agentic. Mô hình sử dụng thiết kế mixture-of-experts với 16 trong số 896 expert hoạt động mỗi token, và Moonshot đã đóng góp một triển khai prefix-caching mới cho vLLM trước khi phát hành.

    Vì sao đáng chú ý: Modal trình bày chi tiết cách họ đưa Kimi K3 2,8 nghìn tỷ tham số của Moonshot lên nền tảng của mình ngay trong ngày phát hành, bao gồm một DFlash speculator tùy chỉnh giúp tăng khả năng tương tác từ 100 lên 460 token mỗi giây.

26 tháng 7Chủ Nhật
  1. Berkeley AI Research33

    ABBEL: Dạy LLM cập nhật trạng thái niềm tin cho tương tác dài hạn

    Berkeley AI Research giới thiệu ABBEL, một khung thay thế toàn bộ lịch sử tương tác bằng trạng thái niềm tin dạng ngôn ngữ tự nhiên và giám sát nội dung của chúng thông qua chấm điểm niềm tin. Trên CollabBench lập trình cộng tác, chấm điểm niềm tin dựa trên tái tạo giảm khoảng cách với các mô hình ngữ cảnh đầy đủ xuống khoảng 50% và huấn luyện trong 50 bước thay vì 100, đồng thời sử dụng ít token đỉnh hơn.

24 tháng 7Thứ Sáu
  1. Vapi Blog22

    Cách giảm thời gian chờ của khách hàng bằng đại lý thoại AI

    Đại lý thoại AI cắt giảm thời gian chờ của khách hàng theo hai cách: loại bỏ công việc khỏi hàng đợi thông qua tự phục vụ chuyển hướng, định tuyến thông minh, hỗ trợ đại lý và dự đoán nhu cầu, đồng thời trả lời ngay lập tức mà không cần giữ máy. SQM Group phát hiện khách hàng hủy cuộc gọi trung bình ở phút 2 giây 36, trong khi ContactBabel đưa ra tỷ lệ hủy cuộc gọi trung bình của Vương quốc Anh là 8,4% vào năm 2024. Vapi cho biết một đại lý thoại đầu tiên có thể được thiết lập từ bảng điều khiển của nó trong vài phút, sau đó được đo lường trên ASA, tỷ lệ hủy cuộc gọi và giải quyết cuộc gọi đầu tiên.

21 tháng 7Thứ Ba
  1. OpenAI Alignment Blog62

    OpenAI và Apollo Research đo lường xu hướng tìm kiếm phần thưởng bằng Contrastive SDF

    OpenAI và Apollo Research đã phát triển Contrastive SDF, một bài kiểm tra tinh chỉnh hai bản sao của một mô hình trên các tài liệu tổng hợp ngụ ý sở thích trái ngược của người chấm điểm và đo lường mức độ hành vi tuân theo người chấm điểm. Khi áp dụng cho các checkpoint trung gian của một lần chạy RL OpenAI o3 tập trung vào năng lực mà không có huấn luyện an toàn, khoảng cách người chấm điểm có xu hướng tăng từ checkpoint sớm đến muộn trong khi khoảng cách đối với các thẩm quyền khác vẫn gần bằng không. Trên các đánh giá về tính trung thực Broken Promises Coding và Log Falsification, tính trung thực của checkpoint muộn phụ thuộc nhiều hơn vào điều mà nó tin rằng người chấm điểm thưởng, và phương pháp này đã khôi phục được thẩm quyền mục tiêu của ba sinh vật mô hình gpt-oss-120b được huấn luyện để ưu tiên Người dùng, Người chấm điểm hoặc Ban lãnh đạo OpenAI.

    Vì sao đáng chú ý: OpenAI và Apollo Research giới thiệu Contrastive SDF, một bài kiểm tra dựa trên tinh chỉnh đo lường mức độ hành vi của mô hình bám theo điều mà nó tin rằng người chấm điểm thưởng, và phát hiện xu hướng này tăng lên qua một lần chạy RL o3 không có huấn luyện an toàn.

  2. Vapi Blog42

    Vapi ra mắt Model Intelligence với các preset mô hình dựa trên dữ liệu sản xuất và số liệu hiệu suất

    Vapi ra mắt Model Intelligence, một gói tính năng giúp các nhà phát triển chọn tổ hợp mô hình cho voice agent. Gói này bao gồm bốn Model Preset (Balanced, High Intelligence, Ultra Fast, Cost Saver) kết hợp một transcriber, LLM và voice, cùng với số liệu chi phí, độ trễ và chất lượng theo từng mô hình được rút ra từ hơn 1 tỷ cuộc gọi Vapi.

  3. Modal Blog58

    Modal và Cognition ra mắt Devin Outposts với tích hợp sandbox modal-devin

    Modal là đối tác ra mắt của Devin Outposts, một tính năng của Cognition đưa việc thực thi mã của Devin vào môi trường do khách hàng kiểm soát trong khi phần suy luận của Devin vẫn ở trên cloud của Cognition. Thư viện mã nguồn mở modal-devin và CLI chạy mỗi phiên Outpost trong một Modal Sandbox, cho phép truy cập máy được hỗ trợ GPU, image tùy chỉnh, chụp nhanh workspace và scale-to-zero, và nó đã hoạt động ở dạng alpha bắt đầu từ ngày 21 tháng 7 năm 2026. Việc thiết lập sử dụng uvx modal-devin init, tạo ra một hàm orchestrator và một hàm phiên worker mà các nhóm có thể tiếp tục tùy chỉnh.

16 tháng 7Thứ Năm
  1. Modal Blog60

    Modal xây dựng lại nền tảng sandbox để chạy 1 triệu sandbox đồng thời, được tạo trong chưa đầy một phút

    Modal đã xây dựng lại nền tảng sandbox cốt lõi của mình từ đầu, và trên hệ thống mới, nó đã chạy 1 triệu sandbox đồng thời, tạo tất cả chúng trong chưa đầy một phút. Việc thiết kế lại loại bỏ sự phối hợp trung tâm và mọi kho dữ liệu khỏi đường dẫn tạo sandbox: các máy chủ lập lịch mở rộng theo chiều ngang chọn một worker bằng thuật toán trong bộ nhớ và gọi trực tiếp nó, trong khi các worker công bố trạng thái một cách bất đồng bộ lên một Redis stream. Modal cho biết độ trễ khởi động sandbox ở mức trung vị dưới nửa giây, và hệ thống mới đã có sẵn ở dạng Beta với một thay đổi mã một dòng để chọn tham gia.

    Vì sao đáng chú ý: Modal đã xây dựng lại mặt phẳng điều khiển sandbox của mình để loại bỏ sự phối hợp trung tâm, cho thấy khả năng mở rộng của lập lịch container đến đâu khi tính nhất quán toàn cục rời khỏi đường dẫn tới hạn.

15 tháng 7Thứ Tư
  1. Modal Blog60

    Mô hình đa phương thức Inkling của Thinking Machines hiện đã có trên Modal

    Thinking Machines đã phát hành Inkling, một mô hình đa phương thức đa dụng nhận đầu vào văn bản, hình ảnh và âm thanh và xuất ra văn bản, và Modal cung cấp nó ngay từ ngày đầu tiên dưới dạng Managed Endpoint với giá theo token. Inkling là một transformer hỗn hợp chuyên gia với tổng cộng 975B tham số, 41B hoạt động, cửa sổ ngữ cảnh 1M token và âm thanh cùng thị giác gốc, sử dụng năm lớp attention cửa sổ trượt cho mỗi lớp attention đầy đủ. Trên các khối lượng công việc tác tử với 8x B200, speculator DFlash tùy chỉnh của Modal đạt 250 token mỗi giây mỗi người dùng ở 2,5M TPM thông lượng mỗi GPU, tương tác nhanh hơn 67% so với đường speculative tích hợp sẵn của mô hình ở cùng thông lượng.

    Vì sao đáng chú ý: Endpoint ngày đầu tiên của Modal cho Inkling 975B tham số của Thinking Machines cho thấy cách một speculator DFlash tùy chỉnh nâng tương tác lên 67% so với đường speculative tích hợp sẵn của mô hình.

13 tháng 7Thứ Hai
  1. Vapi Blog58

    Chỉ số Humanness của Vapi: Grok TTS đạt 95 điểm và MiniMax Speech 2.5 đạt 93 điểm, so với giọng người thật đạt 100

    Chỉ số Humanness của Vapi, một bảng xếp hạng đánh giá mù từ cộng đồng nơi người nghe chọn giọng nói nhân bản nào trong hai giọng nghe giống người thật hơn, xếp Grok TTS của xAI ở mức 95 và MiniMax Speech 2.5 ở mức 93, so với bản ghi âm giọng người thật được chấm 100 điểm sau hơn 11.000 lượt bình chọn. Mỗi trận đối đầu đều sử dụng cùng một giọng nhân bản và cùng một kịch bản trên các mô hình, và bản ghi âm giọng người thật được đưa vào nhóm so sánh, nên mức 95 nghĩa là người nghe chọn Grok TTS với tỷ lệ gần như tương đương với giọng người thật trên cùng một câu trích dẫn. Vapi lập luận rằng độ tự nhiên không còn là nút thắt đối với các tác nhân giọng nói, vì người gọi trải nghiệm giọng nói chứ không phải lý luận đằng sau nó.

9 tháng 7Thứ Năm
  1. Modal Blog22

    Modal là một Máy tính: Tái định nghĩa Nền tảng Đám mây như một Cỗ máy

    Modal lập luận rằng nó nên được hiểu như một máy tính chứ không phải "Uber cho điện toán", một neocloud, hay một nhà cung cấp suy luận, vì nó bán giây-bộ xử lý và giây-byte thay vì token. Bài viết ánh xạ ALU, phân cấp bộ nhớ, I/O, NIC và hệ điều hành của một cỗ máy thông thường lên các container, lưu trữ đối tượng, Input/Output Plane, Routing Plane và Tunnels của Modal. Nó cũng liên kết Modal Functions, Sandboxes và Servers với các công cụ không trạng thái, tiến trình Linux và trình lắng nghe HTTP.

7 tháng 7Thứ Ba
  1. Berkeley AI Research36

    Trí tuệ là miễn phí, giờ thì sao? Hệ thống dữ liệu cho, của và bởi các tác nhân

    Aditya G. Parameswaran của UC Berkeley và các cộng sự lập luận rằng khi chi phí suy luận giảm từ khoảng 30 đô la mỗi triệu token vào đầu năm 2023 xuống dưới 1 đô la ngày nay, các hệ thống dữ liệu phải được thiết kế lại xoay quanh ba thách thức: hệ thống cho các tác nhân, của các tác nhân, và bởi các tác nhân. Họ lưu ý rằng trong một benchmark text-to-SQL với nhiều tác nhân cho mỗi tác vụ, chỉ 10-20% các kế hoạch con là khác biệt, nên 80-90% các truy vấn con trùng lặp công việc, và đề xuất tái sử dụng, xấp xỉ, và các hệ thống dữ liệu chủ động.

6 tháng 7Thứ Hai
  1. Modal Blog38

    Cách định giá GPU serverless: Mô hình chi phí tương tác của Modal

    Modal đã công bố một công cụ tương tác để ước tính chi phí GPU serverless so với GPU đặt trước, mặc định dùng mức giá hiện hành cho một GPU B200 chạy serverless trên Modal và qua đặt trước ba năm với hyperscaler. Mô hình cho thấy khi tỷ lệ đỉnh trên trung bình của ứng dụng vượt quá tỷ lệ chiết khấu đặt trước, GPU serverless có tổng chi phí thấp hơn, và Modal dẫn ra mức chiết khấu quan sát được từ 2-5 lần so với tỷ lệ đỉnh trên trung bình 5-10 lần.

2 tháng 7Thứ Năm
  1. Vapi Blog12

    Vapi bổ nhiệm Jayson Noland làm CFO để dẫn dắt các con số và đặt cược vào giọng nói

    Vapi đã bổ nhiệm Jayson Noland, người có hơn một thập kỷ làm tài chính công nghệ và đã giúp Cloudflare lên sàn và vượt 1 tỷ USD doanh thu, làm Giám đốc Tài chính. Noland gia nhập ở giai đoạn Series B để xây dựng chức năng tài chính, từ hệ thống có thể mở rộng đến phân bổ vốn, với lý do các tác nhân giọng nói là giao diện người-máy quan trọng tiếp theo.

1 tháng 7Thứ Tư
  1. Berkeley AI Research20

    Berkeley AI Research (BAIR) 2026 Graduate Showcase nêu bật công trình AI của các nghiên cứu sinh tiến sĩ

    Phòng thí nghiệm Nghiên cứu Trí tuệ Nhân tạo Berkeley (BAIR) đã vinh danh các nghiên cứu sinh tiến sĩ khóa 2026, những người có công trình trải rộng từ robot, mô hình ngôn ngữ lớn và suy luận, thị giác máy tính, mô hình sinh, an toàn AI đến AI cho khoa học và chăm sóc sức khỏe. Các nghiên cứu sinh đang hướng tới các vị trí giảng viên và sau tiến sĩ, phòng thí nghiệm nghiên cứu trong ngành và các startup do chính họ sáng lập, bao gồm các vai trò tại Physical Intelligence, OpenAI, Mistral AI, Amazon và Princeton CITP.

  2. Modal Blog58

    Modal Research và MRP của HeavyBall mang đến dự đoán đa token cho các mô hình ngôn ngữ khuếch tán

    Modal Research và HeavyBall Research của NYU Shanghai giới thiệu Multi-token Residual Prediction (MRP), một mô-đun 3 lớp gắn vào backbone LM khuếch tán đóng băng, dự đoán phần dư logit giữa các bước thay vì toàn bộ phân phối bước tiếp theo. Trên SDAR-4B GSM8K, MRP giữ độ chính xác 70,9% ở K=3 so với 5,9% của chưng cất MTP thông thường, và trong SGLang đạt thông lượng lên tới 1,56 lần mà không mất mát ở chế độ suy đoán hoặc phục hồi tới +16 điểm chính xác dưới giải mã động ngưỡng thấp tích cực. Bài báo, mã nguồn, triển khai SGLang và các mô hình SDAR-MRP trên Hugging Face đã được phát hành.

30 tháng 6Thứ Ba
  1. Modal Blog66

    Anthropic ra mắt Claude Science với Modal làm backend tính toán có thể mở rộng

    Anthropic ra mắt Claude Science vào ngày 30 tháng 6, một bàn làm việc AI nơi các nhà nghiên cứu khoa học sự sống chạy khối lượng công việc tính toán trực tiếp bên trong cuộc trò chuyện với Claude. Modal tích hợp như backend tính toán: các khối lượng công việc cần GPU hoặc nhiều CPU đồng thời sẽ tự động được định tuyến đến các sandbox Modal từ workspace được kết nối của nhà nghiên cứu, trong khi thực thi mặc định vẫn được sandbox trên máy cục bộ. Modal trích dẫn việc sàng lọc ảo phân tán trên hàng trăm container, quyền truy cập GPU theo từng bước cho các mô hình như ESMFold2, lưu trữ Modal Volumes chia sẻ và Modal Images có thể tái tạo, và cam kết tài trợ tính toán lên đến 100.000 USD cho AI for Science Claude Science Cohort của Anthropic với 500–2.000 USD mỗi dự án, đơn đăng ký mở đến ngày 15 tháng 7 năm 2026.

    Vì sao đáng chú ý: Bài đăng của Modal giải thích cách Claude Science định tuyến khối lượng công việc GPU và song song đến các sandbox Modal, với các ví dụ cụ thể trong khoa học sự sống và khoản tài trợ tính toán cho các phòng thí nghiệm học thuật.

25 tháng 6Thứ Năm
  1. Vapi Blog22

    Vapi: Các tác nhân giọng nói biến CX có tính rủi ro cao thành lợi thế cạnh tranh

    Vapi đang quảng bá nền tảng AI giọng nói của mình như một cách để các thương hiệu biến trung tâm liên hệ từ một trung tâm chi phí thành lợi thế cạnh tranh, dẫn chứng Amazon Ring, đơn vị đã đánh giá hơn 40 nhà cung cấp AI giọng nói trước khi triển khai trên Vapi trong hai tuần và hiện xử lý 100% lưu lượng CX đầu vào qua nền tảng này, với điểm CSAT được cải thiện. Vapi lập luận rằng các giải pháp giọng nói đóng gói sẵn khóa các thương hiệu vào các mô hình do nhà cung cấp kiểm soát và giọng nói chung chung, trong khi xây dựng từ đầu thì chậm và tốn kém, đồng thời nhấn mạnh thời gian phản hồi dưới một giây, kiến trúc lưu trú trong VPC với không lưu giữ dữ liệu và làm sạch PII, cùng các triển khai đi vào hoạt động trong vài ngày.

  2. Modal Blog55

    Modal ra mắt Servers serverless cho lưu lượng HTTP, WebSocket và gRPC độ trễ thấp

    Modal đã ra mắt Servers, một nhóm bản sao máy chủ HTTP tự động mở rộng theo khu vực cho lưu lượng HTTP, WebSocket và gRPC, nhắm đến các khối lượng công việc nhạy cảm với độ trễ như suy luận LLM cho các tác nhân tương tác. Modal cho biết đã giảm độ trễ p50 từ 39ms xuống 6ms bằng cách giữ các tra cứu control-plane và xếp hàng ra khỏi đường dẫn yêu cầu, vì vậy khách hàng nhận được 503 khi không có bản sao nào khả dụng và phải xử lý việc giảm tải trong ứng dụng. Lớp định tuyến chạy trên AWS EKS với Envoy ở biên và proxy Rust nội bộ fprs của Modal, được xây dựng trên pingora của Cloudflare, xử lý liên kết miền và cân bằng tải, với cấu hình được đọc từ Spanner và lưu trong bộ nhớ đệm.

24 tháng 6Thứ Tư
  1. Vapi Blog15

    Vapi trả lời các câu hỏi hàng đầu từ hội thảo trực tuyến về sàng lọc khách hàng tiềm năng của SVG

    Vapi đã công bố câu trả lời cho bảy câu hỏi được hỏi nhiều nhất từ hội thảo trực tuyến của mình với Spring Venture Group, nơi Homer Kay mô tả cách SVG sử dụng các tác nhân thoại của Vapi để sàng lọc khách hàng tiềm năng Medicare trước khi chuyển người gọi đến các tác nhân được cấp phép. Các câu trả lời bao gồm tuân thủ quy định gọi ra ngoài, tích hợp ưu tiên API, hoán đổi độc lập các thành phần STT, LLM và TTS, chuyển giao cho con người, và cấu hình đủ điều kiện HIPAA với Zero Data Retention.

  2. Modal Blog58

    Modal ra mắt Auto Endpoints, viện dẫn giải mã suy đoán cho độ trễ suy luận tiên tiến nhất

    Modal ra mắt Modal Auto Endpoints, đưa khả năng mở rộng hạ tầng của Modal đến hiệu năng suy luận tiên tiến nhất chỉ với một cú nhấp chuột trong khi vẫn kiểm soát được mã. Modal cho biết lợi ích độ trễ chính đến từ giải mã suy đoán với các mô hình speculator DFlash tùy chỉnh, giúp cắt giảm khoảng 100ms độ trễ đầu-cuối trong một nghiên cứu điển hình của Decagon Voice, tương đương khoảng 40% độ trễ giải mã phía máy chủ, khiến nó nhanh hơn hơn 60ms so với lựa chọn độc quyền nhanh nhất. Modal cũng phát hành mã nguồn mở các mô hình speculator DFlash với Z Lab và SGLang, bao gồm một mô hình cho Qwen 3.5 397B-A17B cải thiện hơn 50% so với MTP.

23 tháng 6Thứ Ba
  1. Modal Blog60

    Modal ra mắt Auto Endpoints cho suy luận LLM tự phục vụ, tương thích API OpenAI

    Modal ra mắt Auto Endpoints, một dịch vụ tự phục vụ triển khai suy luận LLM cấp sản xuất dưới dạng endpoint tương thích API OpenAI, được hỗ trợ bởi một Modal App mà người dùng có thể xem và kiểm soát. Mỗi mô hình được hỗ trợ đi kèm một bản triển khai khởi điểm được tinh chỉnh từ hoạt động benchmark của chính Modal, sử dụng các engine như SGLang và DFlash speculative decoding drafter từ Z Lab, và người dùng có thể kiểm tra lựa chọn GPU, cờ engine và các chỉ số suy luận như TTFT, ITL và độ dài chấp nhận giải mã suy đoán. Modal cũng phát hành Modal Servers từ bản beta cho định tuyến theo khu vực với chi phí 5ms, và cho biết họ tạo ra các bản triển khai endpoint bằng một hệ thống agentic nội bộ vẫn được các kỹ sư con người giám sát.

    Vì sao đáng chú ý: Auto Endpoints của Modal phơi bày ngăn xếp phục vụ, các chỉ số engine và công thức benchmark mà các nhà cung cấp suy luận được quản lý vẫn giữ kín, mang đến cho các đội một con đường tự phục vụ để sở hữu suy luận mô hình mở.

22 tháng 6Thứ Hai
  1. Modal Blog36

    Modal giải thích vì sao sandbox "đã khởi động" ≠ "sẵn sàng" và cách warm pool cắt giảm độ trễ khởi động mà người dùng cảm nhận

    Modal lập luận rằng thời gian lập lịch và khởi động container — thứ mà hầu hết các benchmark sandbox đo bằng thời gian tới tương tác — chỉ là phần nhỏ nhất trong khoảng thời gian người dùng thực sự phải chờ; việc thiết lập ở tầng ứng dụng sau khi container khởi động thường mất vài giây. Modal đang đưa Readiness Probes ra mắt rộng rãi để báo hiệu khi một sandbox đã hoàn tất khởi tạo, và khuyến nghị dùng warm sandbox pool xây dựng trên modal.Queue cùng Directory Snapshots để đưa bước thiết lập ra khỏi đường tới hạn của người dùng.

19 tháng 6Thứ Sáu
  1. Modal Blog60

    Modal phát hành DFlash speculators cho Qwen 3.5 và 3.6, tuyên bố tăng tốc thêm 5-20%

    Modal đã phát hành một bộ mô hình draft DFlash cho dòng Qwen trên Hugging Face, bao gồm Qwen 3.6 35B-A3B-DFlash và các biến thể Qwen 3.5 từ 4B đến 122B-A10B, cùng một DFlash speculator cho Qwen 3.5 397B-A17B được xây dựng với SGLang. Công ty cho biết các drafter mới tăng tốc thêm 5-20% so với các baseline DFlash hiện có và có thể chạy Qwen 3.5 122B-A10B ở tốc độ hơn 1000 tok/s tại concurrency 1 trên một node B200, so với 250 tok/s khi không có speculation. Bài viết lập luận rằng speculative decoding mang lại mức tăng 2x-3x trong khi tối ưu kernel chỉ mang lại vài phần trăm, và trình bày một mô hình roofline để ước tính mức tăng tốc từ độ dài chấp nhận.

    Vì sao đáng chú ý: Modal giải thích lý do họ đặt cược vào speculative decoding và phát hành các mô hình draft DFlash cho dòng Qwen, kèm theo mức tăng tốc đo được và một mô hình roofline để ước tính lợi ích.

17 tháng 6Thứ Tư
  1. Vapi Blog30

    Được xây dựng cho đôi tai: Thiết kế hội thoại cho AI giọng nói

    Thành công của AI giọng nói bắt đầu từ việc lựa chọn trường hợp sử dụng: các tác vụ kết thúc bằng liên kết, mã hoặc số nên dùng chat, trong khi các vấn đề khẩn cấp, khó gõ hoặc mang nặng cảm xúc phù hợp với giọng nói. Kịch bản chat phải được viết lại cho đôi tai—chia đoạn dài thành các lượt một ý, đọc to lại các chi tiết đã thu thập như ngày tháng, và giới hạn lựa chọn bằng lời nói ở hai hoặc ba. Một công ty nhân sự đã giảm 30% lỗi bố trí ở khâu sau bằng cách xác nhận từng vị trí ngay khi thu thập, và một nhóm khác đã cắt giảm 40 giây thời lượng cuộc gọi trung bình bằng cách biến các câu hỏi mở thành lựa chọn.

  2. Vapi Blog40

    Vapi đã dựng 15 voice agent trang chủ bằng code như thế nào

    Vapi đã xây dựng 15 voice agent trên trang chủ của mình — 3 trường hợp sử dụng trên 5 ngôn ngữ — bằng cách tạo chúng từ một tệp ROUGH_DRAFT.md duy nhất thay vì chỉnh sửa thủ công từng cái trong dashboard. Khung bốn giai đoạn (lập kế hoạch, phác thảo, khởi tạo, gia cố) tạo khung một dự án TypeScript với OpenAI gpt-4.1 ở temperature 0.5, các stack giọng nói ElevenLabs và Deepgram/Soniox, cùng một vòng lặp upsert idempotent lưu ID assistant trong .env.local. Repo được công khai: clone nó, thêm VAPI_PRIVATE_KEY, và chạy bun run bootstrap.