Tới nội dung
#Triển khai / kỹ thuật
17 tháng 6Thứ Tư
  1. Vapi Blog40

    Vapi đã dựng 15 voice agent trang chủ bằng code như thế nào

    Vapi đã xây dựng 15 voice agent trên trang chủ của mình — 3 trường hợp sử dụng trên 5 ngôn ngữ — bằng cách tạo chúng từ một tệp ROUGH_DRAFT.md duy nhất thay vì chỉnh sửa thủ công từng cái trong dashboard. Khung bốn giai đoạn (lập kế hoạch, phác thảo, khởi tạo, gia cố) tạo khung một dự án TypeScript với OpenAI gpt-4.1 ở temperature 0.5, các stack giọng nói ElevenLabs và Deepgram/Soniox, cùng một vòng lặp upsert idempotent lưu ID assistant trong .env.local. Repo được công khai: clone nó, thêm VAPI_PRIVATE_KEY, và chạy bun run bootstrap.

15 tháng 6Thứ Hai
  1. Modal Blog34

    Cập nhật sản phẩm Modal: VM Sandbox, Định tuyến khu vực, RBAC và hơn thế nữa

    Modal đã phát hành một loạt cập nhật nền tảng, bao gồm VM Sandbox dạng alpha chạy nhân Linux thực để hỗ trợ container Docker, eBPF, systemd và cgroups. Functions giờ có thể định tuyến qua US West, EU West hoặc Asia Pacific South thay vì khu vực mặc định US East, và RBAC khả dụng cho tất cả gói Team và Enterprise. Sandbox readiness probe hiện đã GA, và Python SDK 1.5.0 cùng JS/Go SDK 0.8.0 đặt TTL snapshot mặc định là 30 ngày.

11 tháng 6Thứ Năm
  1. Modal Blog34

    Modal giúp FlashAttention-4 nhanh hơn cho suy luận LLM

    Modal đã đóng góp các tối ưu hóa cho kernel FlashAttention-4 nhằm tăng tốc các khối lượng công việc suy luận LLM nặng về giải mã, nơi băng thông bộ nhớ là điểm nghẽn. Các thay đổi bao gồm việc chuyển kỹ thuật song song hóa "split KV" sang FA4 và thay thế các tải TMA cp.async.bulk bằng cp.async cho các truy cập bộ nhớ không đều. Một PR đầu vào FP8 (được hợp nhất ngày 17 tháng 4 năm 2026) mang lại thông lượng lên đến 1,16 lần so với đường cơ sở bf16 và cho phép bộ nhớ đệm KV nhỏ hơn.

  2. Factory62

    Factory triển khai đánh giá bảo mật tự động trong Droid

    Factory đang triển khai đánh giá bảo mật tự động trong Droid, công cụ này chạy đánh giá bảo mật dựa trên STRIDE song song với đánh giá mã tiêu chuẩn trên mọi PR không phải bản nháp và đăng các phát hiện với mức độ nghiêm trọng, tham chiếu CWE, giải thích và đề xuất sửa lỗi dưới dạng nhận xét nội tuyến trên diff. Công ty cho biết đánh giá bảo mật của Droid đã được chạy trên các cơ sở mã sản xuất và phát hiện các vấn đề đã được công bố có trách nhiệm, bao gồm CVE-2026-42876 trong external-secrets và workos/workos-node#1578. Droid xây dựng một mô hình mối đe dọa nhẹ cho bề mặt thay đổi, quét các lỗ hổng như OWASP Top 10 và OWASP LLM Top 10, sau đó xác thực từng phát hiện ứng viên dựa trên diff để lọc dương tính giả trước khi đăng một bản tóm tắt đã khử trùng lặp cho mỗi PR.

    Vì sao đáng chú ý: Droid của Factory hiện chạy đánh giá bảo mật dựa trên STRIDE trên mọi PR không phải bản nháp, và bài đăng cho thấy các CVE thực tế mà nó đã phát hiện trong các cơ sở mã sản xuất.

1 tháng 6Thứ Hai
  1. Modal Blog46

    Modal: Học tăng cường cho hậu huấn luyện LLM là một bài toán hạ tầng

    Modal cho rằng nút thắt trong hậu huấn luyện bằng học tăng cường cho LLM giờ đây là hạ tầng chứ không phải thuật toán, và đã phát hành một thư viện mã nguồn mở rút ra từ việc chạy RL ở quy mô lớn. Bài viết nêu chi tiết ba điểm đau — mã keo, xếp hàng cụm và GPU sử dụng dưới mức — và báo cáo việc đồng bộ trọng số qua RDMA giảm thời gian cập nhật Qwen3 8B từ 2,62s xuống 41ms.

27 tháng 5Thứ Tư
  1. MiniMax Blog72

    MiniMax nâng cấp Agent thành Mavis và ra mắt Agent Teams cho các tác vụ chạy dài

    MiniMax đã nâng cấp MiniMax Agent dưới tên mới Mavis và ra mắt Agent Teams, cho phép nhiều Agent chuyên biệt theo vai trò chạy song song trên desktop cho các tác vụ dài và phức tạp. Hệ thống sử dụng các vai trò Leader, Worker và Verifier với Team Engine dạng máy trạng thái luân chuyển tác vụ qua các trạng thái đang sản xuất, đang xác minh và hoàn tất, đồng thời hợp nhất TokenPlan và Agent Plan thành một gói đăng ký duy nhất trải rộng CLI, API và Agent trên M2.7, nhạc, video và giọng nói. MiniMax cho biết Agent sẽ được mã nguồn mở sớm, dự kiến cùng với mô hình MiniMax M3, trong khi ứng dụng desktop đã có sẵn.

    Vì sao đáng chú ý: MiniMax giải thích các đánh đổi thiết kế đằng sau Agent Team Leader-Worker-Verifier của mình, bao gồm chi phí bàn giao, chia sẻ và tổng hợp, mang lại một tham chiếu cụ thể cho việc xây dựng các runtime đa Agent.

  2. Modal Blog38

    Modal mở quyền kiểm soát truy cập dựa trên vai trò cho tất cả người dùng Team và Enterprise

    Modal đang cung cấp tính năng Kiểm soát truy cập dựa trên vai trò (RBAC) cho tất cả người dùng trên gói Team và Enterprise, được xây dựng xoay quanh Environments như các ranh giới bảo mật có thể thực thi. Restricted Environments khiến các thành viên workspace chỉ có quyền đọc theo mặc định, chỉ những người dùng hoặc agent được cấp quyền rõ ràng mới có thể triển khai và quản lý tài nguyên, và RBAC liên kết với Audit Logs để có bản ghi đầy đủ về ai đã làm gì và khi nào.

21 tháng 5Thứ Năm
  1. Vapi Blog20

    Vapi: Đưa AI giọng nói vào các bảng điều khiển chăm sóc mãn tính ACCESS

    Vapi lập luận rằng AI giọng nói giờ đây có thể biến giọng nói thành kênh khả thi về mặt kinh tế cho quản lý bệnh mãn tính ACCESS, dẫn dữ liệu từ Hiya cho thấy 42% người tiêu dùng ưa thích giọng nói cho giao tiếp chăm sóc sức khỏe, tăng từ 33% so với năm trước. Bài viết trình bày chi tiết ba quy trình sản xuất, bao gồm tác nhân sàng lọc khách hàng tiềm năng Medicare của Spring Venture Group, được bốn kỹ sư xây dựng trong một tuần, đã nâng tỷ lệ chuyển đổi sang chốt lên 3% và mang lại hơn 5,8 triệu USD tổng tiết kiệm và doanh thu mới.

20 tháng 5Thứ Tư
  1. Modal Blog22

    Applied Compute mở rộng quy mô học tăng cường cho các tác nhân doanh nghiệp tùy chỉnh trên Modal

    Applied Compute huấn luyện các tác nhân AI doanh nghiệp tùy chỉnh thông qua học tăng cường, dựa trên các sandbox, Functions và khởi động nguội dưới một giây của Modal để giữ hàng nghìn lượt rollout song song gắn với GPU. Các tác nhân của công ty bao gồm một mô hình onboarding cho người bán hàng dành cho DoorDash và một tác nhân phát hiện lỗi cho Cognition.

19 tháng 5Thứ Ba
  1. Modal Blog55

    Modal ra mắt tích hợp Sandboxes hạng nhất với Claude Managed Agents

    Modal công bố tích hợp hạng nhất giữa Modal Sandboxes và Claude Managed Agents của Anthropic, cho phép mọi lệnh gọi công cụ chạy trong một Modal Sandbox tự lưu trữ trong khi vòng lặp agent được quản lý của Anthropic xử lý trạng thái phiên. Modal nêu bật khả năng khởi động nguội nhanh trên image tùy chỉnh, lưu trữ snapshot và volume, giá theo lưu lượng với không chi phí khi nhàn rỗi, token kết nối ngắn hạn và lên tới 100.000 sandbox đồng thời cho mỗi khách hàng. Công ty cũng đã công bố hai ví dụ tham chiếu, một agent CLI và một Slack bot, trên cùng nền tảng Modal kết hợp Managed Agents.

15 tháng 5Thứ Sáu
  1. Every40

    Every đang thiết kế lại các AI Agent Plus One của mình thành tài nguyên nhóm dùng chung

    Every đang thay đổi sản phẩm Plus One để các AI agent của mình hoạt động như tài nguyên nhóm dùng chung với nhiệm vụ được xác định, thay vì mỗi nhân viên có một trợ lý cá nhân. Công ty cho biết phiên bản đầu tiên, được xây dựng trên OpenClaw, mang lại nhiều bực bội hơn là hiệu quả, khi các agent thường không tuân theo chỉ dẫn. Phiên bản tiếp theo được kỳ vọng sẽ ổn định hơn, với các kỹ năng và tích hợp vẫn nằm trong kế hoạch.

12 tháng 5Thứ Ba
  1. Modal Blog58

    Modal đã đạt được GPU phi máy chủ thực sự như thế nào

    Modal đã công bố một bài viết kỹ thuật về cách họ giảm thời gian khởi động bản sao suy luận AI từ khoảng 2.000 giây xuống còn khoảng 50 giây bằng bốn thành phần: một bộ đệm các GPU khỏe mạnh nhàn rỗi, một hệ thống tệp được định địa chỉ theo nội dung một cách lười biếng có tên ImageFS, checkpoint/restore phía máy chủ thông qua runsc của gVisor, và checkpoint/restore CUDA được xây dựng trên hỗ trợ trình điều khiển Nvidia. Qua hơn mười nghìn lần khởi động nguội, độ trễ khởi động trung bình của vLLM giảm từ 95.679 ms xuống 13.797 ms và của SGLang từ 83.713 ms xuống 17.486 ms đối với mô hình Qwen 3 0.6B khoảng 1 GiB ở định dạng bf16. Bài viết cũng nêu các hạn chế, bao gồm ảnh chụp nhanh chỉ hỗ trợ một GPU và độ nhạy cảm với môi trường máy chủ đòi hỏi nhiều ảnh chụp nhanh cho mỗi lần triển khai.

8 tháng 5Thứ Sáu
  1. Berkeley AI Research38

    Suy luận song song thích ứng: Khảo sát về mở rộng suy luận hiệu quả

    Một khảo sát của Berkeley AI Research xem xét suy luận song song thích ứng, trong đó bản thân một mô hình suy luận quyết định khi nào phân rã các nhiệm vụ con, nên tạo bao nhiêu luồng đồng thời và cách phối hợp chúng. Bài viết đối chiếu điều này với các phương pháp song song cố định như self-consistency, Best-of-N, Tree of Thoughts, MCTS, ParaThinker, GroupThink và Hogwild! Inference, vốn áp đặt cấu trúc song song từ bên ngoài. Suy luận tuần tự mở rộng tuyến tính theo token và độ trễ và có nguy cơ context-rot, thúc đẩy các luồng song song khám phá độc lập và đồng thời.

4 tháng 5Thứ Hai
  1. Modal Blog36

    Modal tăng hiệu suất suy luận đa phương thức của SGLang hơn 10% nhờ bộ đệm dict Python

    Modal đã phân tích bộ lập lịch của SGLang trên một khối lượng công việc đa phương thức và thay thế việc ghi sổ lặp lại các handle CUDA IPC bằng một bộ đệm dict Python đơn giản, nâng thông lượng 16,2% và giảm TTFT trung bình 13,2% cùng TPOT 17,2% trên Qwen2.5-VL-3B-Instruct chạy trên H100. Bản sửa lỗi đã được hợp nhất trong SGLang v0.5.10.

1 tháng 5Thứ Sáu
  1. Vapi Blog34

    Open Stack và Giải pháp tích hợp: Những cân nhắc chính cho nhà phát triển Voice AI

    Blog Vapi phỏng vấn Iz Shalom của Cartesia về việc lựa chọn giữa stack Voice AI tích hợp và stack mô-đun mở. Stack tích hợp phù hợp với các trường hợp sử dụng hẹp và proof of concept nhanh, trong khi stack mở phù hợp với nhiều trường hợp sử dụng, hỗ trợ đa ngôn ngữ và thay thế linh kiện. Bài viết kêu gọi các đội đo độ trễ P99 trong môi trường của chính họ và xây dựng đánh giá chặt chẽ trước khi đưa vào sản xuất.

29 tháng 4Thứ Tư
  1. Modal Blog33

    Xây dựng quy trình chứng minh định lý bằng RL trên Modal

    AE Studio trình bày chi tiết cách họ huấn luyện LLM chứng minh các định lý toán học bằng học tăng cường trên Modal, so sánh Evolution Strategies với GRPO trong khi giữ nguyên vòng lặp huấn luyện. Thiết lập này chạy suy luận vLLM trên GPU, xác minh trình biên dịch Lean trong các sandbox CPU cô lập, và một bộ điều phối nhẹ, sử dụng image theo từng hàm, .map() fan-out, và Volumes cho trọng số cơ sở.

23 tháng 4Thứ Năm
  1. Factory55

    Factory ra mắt kỹ năng QA tự động kiểm thử ứng dụng như người dùng thật và báo cáo trong PR

    Factory đã phát hành kỹ năng QA tự động, điều khiển ứng dụng theo cách người dùng thật sẽ làm, điền biểu mẫu, nhập vào terminal và gọi endpoint, sau đó đăng báo cáo có cấu trúc kèm ảnh chụp màn hình, ảnh chụp terminal và dấu vết API dưới dạng một bình luận duy nhất trên mỗi pull request. Kỹ năng này chạy trên mỗi lần push thông qua Droid, có thể được cấu hình như một kiểm tra CI tùy chọn được kích hoạt bởi nhãn PR, lệnh bình luận hoặc kích hoạt thủ công, và cũng có sẵn cục bộ thông qua /qa trong bất kỳ phiên Droid nào. Việc thiết lập sử dụng /install-qa, và tính năng này hiện đã có trong tất cả các gói Factory.

22 tháng 4Thứ Tư
  1. Replit Blog22

    Replit giành Giải thưởng Đối tác Công cụ AI của năm 2026 của Google Cloud

    Google Cloud đã vinh danh Replit là Đối tác Công cụ AI của năm 2026, ghi nhận nền tảng hiện được hơn 50 triệu người sử dụng tại 85% trong Fortune 500. Giải thưởng này diễn ra sau khi Replit ra mắt Agent 4, mà công ty cho biết nhanh gấp 10 lần Agent 3 và chạy nhiều agent song song. Replit có mặt trên Google Cloud Marketplace, tích hợp với Cloud Run, Kubernetes Engine và BigQuery.

20 tháng 4Thứ Hai
  1. Berkeley AI Research38

    GRASP: Lập kế hoạch dựa trên gradient cho mô hình thế giới ở tầm xa hơn

    GRASP là một bộ lập kế hoạch dựa trên gradient mới cho các mô hình thế giới đã học, giúp việc lập kế hoạch tầm xa trở nên khả thi bằng cách nâng quỹ đạo lên thành các trạng thái ảo để tối ưu hóa song song theo thời gian, thêm tính ngẫu nhiên vào các lần lặp trạng thái để khám phá, và định hình lại gradient để các hành động nhận được tín hiệu rõ ràng trong khi tránh gradient trạng thái-đầu vào dễ vỡ thông qua các mô hình thị giác đa chiều. Công trình giải quyết các đồ thị tính toán điều kiện kém, cực tiểu cục bộ không tham lam, và các chế độ thất bại tiềm ẩn đa chiều khiến việc lập kế hoạch tầm xa trở nên mong manh. Công trình được thực hiện với Mike Rabbat, Aditi Krishnapriyan, Yann LeCun và Amir Bar.

17 tháng 4Thứ Sáu
  1. OpenAI Developers Blog60

    OpenAI công bố danh sách kiểm tra triển khai API cho khối lượng công việc GPT-6

    OpenAI đã công bố danh sách kiểm tra triển khai API hướng dẫn các nhà phát triển chuyển khối lượng công việc sang Responses API và dòng mô hình GPT-6, bao gồm gpt-6-astra, gpt-6.1-sol, gpt-6 Sol và gpt-6 Luna. Hướng dẫn bao gồm các mức reasoning.effort từ low đến max, text.verbosity, tool_search với tải công cụ trì hoãn, Programmatic Tool Calling, Multi-agent, compaction, bộ nhớ đệm prompt và chế độ WebSocket, mà OpenAI cho biết đã cho thấy tốc độ thực thi end-to-end nhanh hơn tới khoảng 40% đối với các quy trình có 20 lệnh gọi công cụ trở lên. Tài liệu cũng nêu chi tiết các bước về độ tin cậy và an toàn như xử lý lỗi 429 và 503, background=True cho các tác vụ dài, safety_identifier và giám sát misalignment.

    Vì sao đáng chú ý: Danh sách kiểm tra triển khai chính thức của OpenAI hợp nhất việc lựa chọn mô hình, mức reasoning effort, tool search, compaction và chế độ WebSocket vào một hướng dẫn di chuyển duy nhất cho khối lượng công việc GPT-6.

15 tháng 4Thứ Tư
  1. Vapi Blog50

    Vapi ra mắt Vapi Monitoring cho các tác nhân thoại trong môi trường production

    Vapi đã phát hành Vapi Monitoring, một sản phẩm giám sát cho phép các nhóm tạo các bộ giám sát tùy chỉnh cho tác nhân thoại và nhận cảnh báo khi chạm ngưỡng. Sản phẩm bao gồm giám sát hiệu quả và tuân thủ cho gói đăng ký Enterprise, cùng với giám sát kỹ thuật và hạ tầng, đồng thời hiển thị các vấn đề kèm số lượng cuộc gọi bị ảnh hưởng và đề xuất cách khắc phục.

  2. Modal Blog58

    Modal và OpenAI Agents SDK: xây dựng một harness agent lập trình song song với sandbox và GPU

    Modal đã công bố một bài hướng dẫn về cách xây dựng một harness agent lập trình tùy chỉnh trên nền OpenAI Agents SDK, sản phẩm mà OpenAI ra mắt hôm nay, sử dụng Modal Sandboxes để cung cấp cho agent môi trường Linux cô lập và GPU. Hướng dẫn bắt đầu từ một agent tối giản dựa trên exec, sau đó bổ sung session để lưu bộ nhớ, một orchestrator cùng pool subagent cho công việc bất đồng bộ song song, hạn mức GPU, snapshot hệ thống tệp để loại bỏ trùng lặp khâu thiết lập, và một hệ thống con skills, kết thúc bằng một harness chạy thử thách Parameter Golf của OpenAI trên các subagent GPU song song. Modal dẫn chứng đội ngũ agent lập trình chạy nền của Ramp trên Modal, mà theo Modal hiện tạo ra hơn một nửa số PR của công ty.

14 tháng 4Thứ Ba
  1. Vapi Blog27

    Kỹ sư Vapi chia sẻ bài học về triển khai AI giọng nói ở quy mô doanh nghiệp

    Các Kỹ sư Triển khai Tiền phương của Vapi cho biết khoảng cách từ bản demo đến môi trường sản xuất là nơi phần lớn các sáng kiến AI giọng nói doanh nghiệp bị đình trệ, đòi hỏi kiểm thử kỹ lưỡng, các rào chắn bảo vệ và thiết kế dựa trên ý định thay vì khớp cụm từ chính xác. Nhóm cảnh báo về "trôi dạt tính cách", khi các tác nhân tiếp nhận phong cách nói của người gọi, và lưu ý rằng LLM mang tính phi tất định, nên việc triển khai cần có dung sai lỗi được xác định và lặp lại liên tục. Họ khuyên nên bắt đầu với tối ưu hóa chi phí nhưng hướng tới tạo ra doanh thu, và đánh giá chuẩn một tương tác tốt ở mức dưới một phút.

  2. Modal Blog40

    Modal Autoscaling Autoresearch: GPU co giãn cho các tác nhân nghiên cứu AI

    Modal trình diễn việc chạy các tác nhân autoresearch trên GPU co giãn: với Modal Skills, Claude Code đã chạy 113 thí nghiệm trong 238 giờ GPU trên thử thách Parameter Golf của OpenAI, hoàn thành các lượt huấn luyện cốt lõi nhanh gấp 5 lần so với một máy trạm đơn lẻ trong khi chỉ dùng một phần nhỏ tài nguyên của một cụm chuyên dụng. Các tác nhân cấp phát GPU qua các lệnh gọi API, mở rộng từ một đến hàng chục H100 và tự động thu về không.

10 tháng 4Thứ Sáu
  1. Modal Blog38

    Butter được Modal mua lại, nhà sáng lập Erik Dunteman gia nhập đội Sandbox

    Modal đã mua lại Butter, với nhà sáng lập Erik Dunteman và nhà nghiên cứu Raymond Tana gia nhập đội Sandbox của Modal. Đội ngũ Butter mang theo kinh nghiệm kỹ thuật agent harness, bao gồm bVisor, một nhân Linux ảo được viết từ đầu bằng Zig cho các sandbox nhẹ, tạm thời. Modal cho biết việc tuyển dụng này thúc đẩy mục tiêu biến Modal Sandboxes thành một trải nghiệm sản phẩm hàng đầu trong phân khúc.

8 tháng 4Thứ Tư
  1. Modal Blog40

    Modal cung cấp khả năng suy luận thời gian thực cho robot của Physical Intelligence

    Physical Intelligence (Pi) vận hành các mô hình robot Thị giác-Ngôn ngữ-Hành động của mình trên Modal, chỉ thêm ~10-15ms chi phí mạng. Pi đã hợp tác với Modal để xây dựng một cổng dựa trên QUIC qua UDP với khả năng tự động xuyên NAT, thay thế TCP Tunnels nhằm tránh tình trạng tắc nghẽn yêu cầu-phản hồi trong vòng điều khiển robot. Các checkpoint lưu trong Modal Volumes tải trong dưới 30 giây, và các triển khai ghim theo vùng giữ suy luận gần với robot.

7 tháng 4Thứ Ba
  1. Modal Blog22

    Cập nhật sản phẩm Modal: RTX Pro 6000 Blackwell, Command K, Sandbox FS API

    Modal hiện cung cấp RTX Pro 6000 Blackwell của NVIDIA với 96GB VRAM và thông lượng fp4/fp8 mạnh mẽ, có thể sử dụng chỉ với một dòng mã cho các khối lượng công việc suy luận và tinh chỉnh. Bản cập nhật cũng bổ sung Command Palette trên bảng điều khiển (CMD+K), API Hệ thống Tệp Sandbox được cải tiến ở dạng beta hỗ trợ đọc lên đến 5GB và truyền trực tuyến theo cả hai chiều, cùng các lệnh nhật ký CLI với khả năng truy xuất lịch sử.

26 tháng 3Thứ Năm
  1. Modal Blog38

    Runway hợp tác với Modal để cung cấp suy luận thời gian thực cho Runway Characters

    Runway đang hợp tác với Modal để cung cấp suy luận thời gian thực cho Runway Characters, một API tác nhân video thời gian thực được xây dựng trên mô hình thế giới GWM-1 của Runway, tạo ra các nhân vật kỹ thuật số biểu cảm từ một hình ảnh duy nhất mà không cần tinh chỉnh. Nền tảng serverless của Modal cho phép Runway chuyển từ bằng chứng khái niệm sang sản xuất trong vòng chưa đầy 30 ngày, sử dụng các cụm GPU đa nút một dòng lệnh với mạng RDMA trên mọi khu vực. Characters hiện đã có sẵn cho các nhà phát triển và doanh nghiệp tại dev.runwayml.com và cho người tiêu dùng tại runwayml.com.

25 tháng 3Thứ Tư
  1. Modal Blog22

    Doppel đã cắt giảm chi phí hạ tầng ML như thế nào với Modal

    Doppel đã chuyển phần lớn quy trình ML của mình sang Modal, loại bỏ những trở ngại hạ tầng làm chậm việc thử nghiệm huấn luyện và triển khai suy luận. Các thử nghiệm song song qua map() đã thay thế các lần chạy tuần tự, trong khi bộ nhớ đệm lớp image và volume lưu trữ liên tục giúp giảm thời gian build tới 10 lần, với các thiết lập phức tạp đạt thời gian build nóng dưới một phút.

20 tháng 3Thứ Sáu
  1. Vapi Blog38

    Vapi Webinar trả lời các câu hỏi hàng đầu về Composer Voice Agent Builder

    Vapi đã tổ chức một webinar, trong đó Giám đốc Sản phẩm Nick Robin đã demo Composer, trợ lý trong sản phẩm của họ để xây dựng voice agent không cần code, tạo ra một inbound customer service agent hoạt động được trong vòng 30 phút demo. Composer viết system prompt, cấp phát số điện thoại, thiết lập lịch trình và tự đánh dấu lỗi của mình để phê duyệt. Hiện tại nó đang ở giai đoạn alpha và hỗ trợ cả assistant inbound và outbound, tích hợp CRM và lịch, và chỉnh sửa các agent hiện có theo assistant ID.

4 tháng 3Thứ Tư
  1. Modal Blog22

    Cập nhật sản phẩm Modal: Ảnh chụp thư mục, Endpoint GLM-5 và API Thanh toán

    Modal đã bổ sung Ảnh chụp thư mục (Directory Snapshots) cho Sandbox, cho phép người dùng chụp ảnh một thư mục duy nhất và gắn nó vào một Sandbox mới độc lập với image gốc. Modal cũng đã phát hành endpoint GLM-5 công khai miễn phí với Z.ai đến hết tháng 4, tương thích với OpenCode, Claude Code, OpenClaw và Vercel AI SDK. CLI báo cáo thanh toán modal và API modal.billing.workspace_billing_report hiện đã được phát hành chính thức (generally available) cho các workspace Team và Enterprise.

25 tháng 2Thứ Tư
  1. Vapi Blog35

    Vapi ra mắt Skills và MCP Connector để các coding agent có thể xây dựng voice agent

    Vapi đã phát hành Vapi Skills, một repo tuân theo chuẩn Agent Skills, cùng với một connector Model Context Protocol giúp các coding agent truy cập trực tiếp vào tài liệu của Vapi. Một lệnh cài đặt sẽ tải các hướng dẫn từng bước với schema API chính xác cho các quy trình như create-assistant, create-tool, create-call và setup-webhook, và gói skill này chạy trên Claude Code, Cursor, VS Code Copilot và Gemini CLI.

  2. Modal Blog22

    Blog Modal: Modal tăng tốc nghiên cứu AI như thế nào để tăng tốc nghiên cứu AI

    Modal, một nền tảng hạ tầng đám mây cho các khối lượng công việc AI đòi hỏi nhiều dữ liệu và tính toán, giới thiệu nghiên cứu từ Hazy Research, Scaling Intelligence và IRIS đã sử dụng đội GPU của nền tảng này để tăng tốc nghiên cứu AI. Dự án KernelBench, do Anne Ouyang, Simon Guo và Will Hu của Scaling Intelligence dẫn dắt, cung cấp một bộ chuẩn đánh giá gồm 250 bài toán và môi trường nghiên cứu cho việc tự động tạo nhân GPU, sử dụng Modal để đánh giá chuẩn nhất quán, có thể mở rộng trên phần cứng từ L40s đến các hệ thống Blackwell.

24 tháng 2Thứ Ba
  1. Modal Blog55

    Modal ra mắt Directory Snapshots dưới dạng public beta cho trạng thái dự án Sandbox

    Modal đã ra mắt Directory Snapshots dưới dạng public beta, cho phép người dùng chụp nhanh một thư mục cụ thể bên trong một Sandbox đang chạy và gắn nó vào một Sandbox khác một cách độc lập với image gốc và phần còn lại của hệ thống tệp. Tính năng này nhắm đến các coding agent và nền tảng vibe coding cần bảo toàn trạng thái dự án qua các lần khởi động lại sandbox, và Modal cho biết nó cho phép tách biệt phụ thuộc hệ thống khỏi mã ứng dụng, làm nóng trước các pool sandbox, và tải trước các tệp quan trọng nhanh hơn. Directory Snapshots tồn tại trong 30 ngày sau lần sử dụng cuối cùng và gắn kết tức thì, với nội dung được ưu tiên tải trước trên hệ thống tệp container lazy-loading của Modal.

19 tháng 2Thứ Năm
  1. Modal Blog58

    Ramp đã xây dựng Ramp Inspect như thế nào — một background coding agent với đầy đủ ngữ cảnh trên Modal

    Ramp đã xây dựng Ramp Inspect, một background coding agent nội bộ chạy trên Modal Sandboxes, và hiện nó khởi tạo khoảng một nửa tổng số pull request được merge trên các repo frontend và backend của Ramp. Mỗi phiên khởi động một môi trường full-stack với Postgres, Redis, Temporal và RabbitMQ trong vài giây, nhờ một cron job của Modal clone repo và lưu snapshot hệ thống tệp mỗi 30 phút. Modal Functions, Dicts và Queues đảm nhận việc build snapshot, khóa phiên và định tuyến prompt, giúp Inspect hỗ trợ các phiên nhiều người dùng và hàng trăm phiên đồng thời mà không phiên nào ảnh hưởng đến phiên khác.

11 tháng 2Thứ Tư
  1. Vapi Blog55

    Vapi ra mắt Composer, trợ lý AI trong bảng điều khiển giúp xây dựng voice agent

    Vapi đã phát hành Composer, một trợ lý AI bên trong Vapi Dashboard có thể xây dựng voice agent từ một mô tả, viết prompt, cấu hình cài đặt, cấp phát số điện thoại, xây dựng công cụ và thiết lập tích hợp. Composer cũng có thể lấy nhật ký cuộc gọi để giải thích một cuộc gọi thất bại và áp dụng bản sửa lỗi, đồng thời tạo các công cụ mã tùy chỉnh chạy trên hạ tầng của Vapi cho các tích hợp như HubSpot. Hiện đã có sẵn ở dạng Alpha, không cần thiết lập hay quy trình onboarding.

  2. Modal Blog78

    Modal ra mắt endpoint miễn phí cho GLM-5 và phát hành hướng dẫn tự triển khai cùng tích hợp frontend

    Modal giới thiệu endpoint tương thích OpenAI API miễn phí cho GLM-5, dùng được đến cuối tháng 4, giới hạn một yêu cầu đồng thời, đồng thời phát hành mã có thể tái lập để triển khai bằng SGLang trên 8 GPU B200 trong một nút đơn.

    Vì sao đáng chú ý: Modal cung cấp endpoint tương thích OpenAI miễn phí cho GLM-5 của Z.ai, và đưa ra cấu hình cụ thể để tích hợp trong OpenCode, OpenClaw, Claude Code và Vercel AI SDK.

28 tháng 1Thứ Tư
  1. Modal Blog22

    Cập nhật sản phẩm Modal: Có mặt trên AWS & GCP Marketplace, khả năng quan sát Sandbox và cập nhật client

    Modal hiện đã có thể mua qua AWS và Google Cloud Marketplaces, cho phép khách hàng doanh nghiệp áp dụng các cam kết chi tiêu đám mây hiện có cho việc sử dụng Modal. Nền tảng này cũng đã phát hành cập nhật giao diện Sandbox với thông tin tài nguyên và khu vực rõ ràng hơn cùng dòng thời gian thực thi mới, và client 1.3.1 bổ sung hỗ trợ Python 3.14 bao gồm Python không luồng thử nghiệm (3.14t) trong các container Modal.

26 tháng 1Thứ Hai
  1. Charlie O'Neill38

    Học liên tục và kỷ nguyên AI hậu nguyên khối

    Học liên tục gắn liền với chuyên môn hóa vì chi phí ghi nhớ tăng theo phạm vi: khi ngữ cảnh lớn lên, KV cache tăng tuyến tính và có thể vượt quá toàn bộ trọng số mô hình, nên thông tin phải chuyển từ cấp token vào trọng số. Chuyên môn hóa theo tác vụ về cơ bản đã được giải quyết qua các pipeline tinh chỉnh liên tục, trong khi khả năng ghi nhớ một lần với phạm vi rộng, phản hồi thưa vẫn là bài toán khó.

20 tháng 1Thứ Ba
  1. Factory58

    Factory ra mắt Agent Readiness để đánh giá mức độ hỗ trợ của codebase đối với các tác nhân lập trình AI

    Factory ra mắt Agent Readiness, công cụ đánh giá mức độ hỗ trợ phát triển tự động của một codebase trên tám trụ cột kỹ thuật và năm cấp độ trưởng thành, có thể chạy qua /readiness-report trong Droid, bảng điều khiển tổ chức hoặc API. Mỗi tiêu chí mang tính nhị phân và một cấp độ chỉ được mở khóa khi 80% tiêu chí của cấp đó và toàn bộ các cấp trước đó đều đạt; việc neo mỗi đánh giá vào báo cáo trước đó của kho lưu trữ đã giảm phương sai điểm số từ trung bình 7% xuống 0,6% trên 9 kho lưu trữ chuẩn trong sáu tuần. Báo cáo có thể kích hoạt một tác nhân mở pull request để sửa các tiêu chí không đạt như thiếu AGENTS.md, cấu hình linter hoặc pre-commit hook.