Tới nội dung
Chỉ Chính chủ
15 tháng 6Thứ Hai
  1. Modal Blog34

    Cập nhật sản phẩm Modal: VM Sandbox, Định tuyến khu vực, RBAC và hơn thế nữa

    Modal đã phát hành một loạt cập nhật nền tảng, bao gồm VM Sandbox dạng alpha chạy nhân Linux thực để hỗ trợ container Docker, eBPF, systemd và cgroups. Functions giờ có thể định tuyến qua US West, EU West hoặc Asia Pacific South thay vì khu vực mặc định US East, và RBAC khả dụng cho tất cả gói Team và Enterprise. Sandbox readiness probe hiện đã GA, và Python SDK 1.5.0 cùng JS/Go SDK 0.8.0 đặt TTL snapshot mặc định là 30 ngày.

11 tháng 6Thứ Năm
  1. Modal Blog34

    Modal giúp FlashAttention-4 nhanh hơn cho suy luận LLM

    Modal đã đóng góp các tối ưu hóa cho kernel FlashAttention-4 nhằm tăng tốc các khối lượng công việc suy luận LLM nặng về giải mã, nơi băng thông bộ nhớ là điểm nghẽn. Các thay đổi bao gồm việc chuyển kỹ thuật song song hóa "split KV" sang FA4 và thay thế các tải TMA cp.async.bulk bằng cp.async cho các truy cập bộ nhớ không đều. Một PR đầu vào FP8 (được hợp nhất ngày 17 tháng 4 năm 2026) mang lại thông lượng lên đến 1,16 lần so với đường cơ sở bf16 và cho phép bộ nhớ đệm KV nhỏ hơn.

  2. Factory62

    Factory triển khai đánh giá bảo mật tự động trong Droid

    Factory đang triển khai đánh giá bảo mật tự động trong Droid, công cụ này chạy đánh giá bảo mật dựa trên STRIDE song song với đánh giá mã tiêu chuẩn trên mọi PR không phải bản nháp và đăng các phát hiện với mức độ nghiêm trọng, tham chiếu CWE, giải thích và đề xuất sửa lỗi dưới dạng nhận xét nội tuyến trên diff. Công ty cho biết đánh giá bảo mật của Droid đã được chạy trên các cơ sở mã sản xuất và phát hiện các vấn đề đã được công bố có trách nhiệm, bao gồm CVE-2026-42876 trong external-secrets và workos/workos-node#1578. Droid xây dựng một mô hình mối đe dọa nhẹ cho bề mặt thay đổi, quét các lỗ hổng như OWASP Top 10 và OWASP LLM Top 10, sau đó xác thực từng phát hiện ứng viên dựa trên diff để lọc dương tính giả trước khi đăng một bản tóm tắt đã khử trùng lặp cho mỗi PR.

    Vì sao đáng chú ý: Droid của Factory hiện chạy đánh giá bảo mật dựa trên STRIDE trên mọi PR không phải bản nháp, và bài đăng cho thấy các CVE thực tế mà nó đã phát hiện trong các cơ sở mã sản xuất.

9 tháng 6Thứ Ba
  1. MiniMax Blog58

    MiniMax chi tiết hóa MaxProof: RL với trình xác minh sinh tạo và tìm kiếm tiến hóa cho chứng minh toán học

    MiniMax đã công bố một blog kỹ thuật giải thích về MaxProof, khung làm việc đằng sau việc M3 vượt ngưỡng huy chương vàng của con người tại IMO 2025 và USAMO 2026. Quy trình huấn luyện ba mô hình chuyên gia cho việc sinh tạo chứng minh, phán đoán lỗi và sửa chữa chứng minh, sau đó chạy một tìm kiếm tiến hóa tại thời điểm kiểm thử, lấy mẫu 32 ứng viên, xác minh mỗi ứng viên 4 lần và tinh chỉnh qua tối đa 10 vòng. MiniMax cho biết bài học chính là một trình xác minh sinh tạo được dùng làm phần thưởng RL nên ưu tiên tỷ lệ dương tính giả thấp hơn độ chính xác trung bình, dẫn chứng việc reward hacking trong chu kỳ M2 khi tỷ lệ dương tính giả tăng từ khoảng 2,9% lên 8,0% trong quá trình huấn luyện.

1 tháng 6Thứ Hai
  1. MiniMax Blog87

    MiniMax M3 ra mắt với ngữ cảnh 1M, lập trình tiên tiến và đa phương thức gốc

    MiniMax đã phát hành M3, một mô hình trọng số mở mà họ nói là mô hình đầu tiên kết hợp hiệu năng lập trình và tác nhân tiên tiến, cửa sổ ngữ cảnh 1 triệu token, và đầu vào hình ảnh và video gốc. M3 sử dụng kiến trúc chú ý thưa MSA mới của MiniMax, mà công ty báo cáo cắt giảm tính toán mỗi token ở ngữ cảnh 1M xuống còn 1/20 so với thế hệ trước và tăng tốc prefill hơn 9 lần và giải mã hơn 15 lần. Nó đạt 59,0% trên SWE-Bench Pro, 66,0% trên Terminal-Bench 2.1 và 74,2% trên MCP Atlas, và có sẵn thông qua MiniMax Code, Token Plan và API, với trọng số và báo cáo kỹ thuật được hứa hẹn trong vòng 10 ngày.

    Vì sao đáng chú ý: MiniMax M3 kết hợp ngữ cảnh 1 triệu token, điểm số lập trình và tác nhân tiên tiến, và đầu vào hình ảnh và video gốc trong một mô hình trọng số mở, với MSA cắt giảm tính toán mỗi token ở ngữ cảnh dài.

  2. Modal Blog46

    Modal: Học tăng cường cho hậu huấn luyện LLM là một bài toán hạ tầng

    Modal cho rằng nút thắt trong hậu huấn luyện bằng học tăng cường cho LLM giờ đây là hạ tầng chứ không phải thuật toán, và đã phát hành một thư viện mã nguồn mở rút ra từ việc chạy RL ở quy mô lớn. Bài viết nêu chi tiết ba điểm đau — mã keo, xếp hàng cụm và GPU sử dụng dưới mức — và báo cáo việc đồng bộ trọng số qua RDMA giảm thời gian cập nhật Qwen3 8B từ 2,62s xuống 41ms.

27 tháng 5Thứ Tư
  1. MiniMax Blog72

    MiniMax nâng cấp Agent thành Mavis và ra mắt Agent Teams cho các tác vụ chạy dài

    MiniMax đã nâng cấp MiniMax Agent dưới tên mới Mavis và ra mắt Agent Teams, cho phép nhiều Agent chuyên biệt theo vai trò chạy song song trên desktop cho các tác vụ dài và phức tạp. Hệ thống sử dụng các vai trò Leader, Worker và Verifier với Team Engine dạng máy trạng thái luân chuyển tác vụ qua các trạng thái đang sản xuất, đang xác minh và hoàn tất, đồng thời hợp nhất TokenPlan và Agent Plan thành một gói đăng ký duy nhất trải rộng CLI, API và Agent trên M2.7, nhạc, video và giọng nói. MiniMax cho biết Agent sẽ được mã nguồn mở sớm, dự kiến cùng với mô hình MiniMax M3, trong khi ứng dụng desktop đã có sẵn.

    Vì sao đáng chú ý: MiniMax giải thích các đánh đổi thiết kế đằng sau Agent Team Leader-Worker-Verifier của mình, bao gồm chi phí bàn giao, chia sẻ và tổng hợp, mang lại một tham chiếu cụ thể cho việc xây dựng các runtime đa Agent.

  2. Modal Blog38

    Modal mở quyền kiểm soát truy cập dựa trên vai trò cho tất cả người dùng Team và Enterprise

    Modal đang cung cấp tính năng Kiểm soát truy cập dựa trên vai trò (RBAC) cho tất cả người dùng trên gói Team và Enterprise, được xây dựng xoay quanh Environments như các ranh giới bảo mật có thể thực thi. Restricted Environments khiến các thành viên workspace chỉ có quyền đọc theo mặc định, chỉ những người dùng hoặc agent được cấp quyền rõ ràng mới có thể triển khai và quản lý tài nguyên, và RBAC liên kết với Audit Logs để có bản ghi đầy đủ về ai đã làm gì và khi nào.

21 tháng 5Thứ Năm
  1. Vapi Blog20

    Vapi: Đưa AI giọng nói vào các bảng điều khiển chăm sóc mãn tính ACCESS

    Vapi lập luận rằng AI giọng nói giờ đây có thể biến giọng nói thành kênh khả thi về mặt kinh tế cho quản lý bệnh mãn tính ACCESS, dẫn dữ liệu từ Hiya cho thấy 42% người tiêu dùng ưa thích giọng nói cho giao tiếp chăm sóc sức khỏe, tăng từ 33% so với năm trước. Bài viết trình bày chi tiết ba quy trình sản xuất, bao gồm tác nhân sàng lọc khách hàng tiềm năng Medicare của Spring Venture Group, được bốn kỹ sư xây dựng trong một tuần, đã nâng tỷ lệ chuyển đổi sang chốt lên 3% và mang lại hơn 5,8 triệu USD tổng tiết kiệm và doanh thu mới.

  2. Modal Blog58

    Modal huy động được 355 triệu USD trong vòng Series C với định giá 4,65 tỷ USD

    Modal đã huy động được 355 triệu USD với định giá hậu tiền tệ 4,65 tỷ USD trong một vòng gọi vốn do General Catalyst và Redpoint dẫn đầu, cùng với Menlo, Bain Capital Ventures và Accel tham gia với tư cách nhà đầu tư mới. Công ty cho biết đã tăng trưởng gấp năm lần kể từ tháng 9 và vượt 300 triệu USD doanh thu hàng năm, với hơn 1 tỷ sandbox được khởi chạy trên nền tảng và sandbox hiện đóng góp hơn một phần ba doanh thu. Modal có kế hoạch mở rộng suy luận độ trễ thấp, khép kín vòng lặp huấn luyện và suy luận cho học tăng cường, và bổ sung RBAC chi tiết để khách hàng có thể cấp năng lực cho agent mà không gặp rủi ro.

20 tháng 5Thứ Tư
  1. Modal Blog22

    Applied Compute mở rộng quy mô học tăng cường cho các tác nhân doanh nghiệp tùy chỉnh trên Modal

    Applied Compute huấn luyện các tác nhân AI doanh nghiệp tùy chỉnh thông qua học tăng cường, dựa trên các sandbox, Functions và khởi động nguội dưới một giây của Modal để giữ hàng nghìn lượt rollout song song gắn với GPU. Các tác nhân của công ty bao gồm một mô hình onboarding cho người bán hàng dành cho DoorDash và một tác nhân phát hiện lỗi cho Cognition.

19 tháng 5Thứ Ba
  1. Modal Blog55

    Modal ra mắt tích hợp Sandboxes hạng nhất với Claude Managed Agents

    Modal công bố tích hợp hạng nhất giữa Modal Sandboxes và Claude Managed Agents của Anthropic, cho phép mọi lệnh gọi công cụ chạy trong một Modal Sandbox tự lưu trữ trong khi vòng lặp agent được quản lý của Anthropic xử lý trạng thái phiên. Modal nêu bật khả năng khởi động nguội nhanh trên image tùy chỉnh, lưu trữ snapshot và volume, giá theo lưu lượng với không chi phí khi nhàn rỗi, token kết nối ngắn hạn và lên tới 100.000 sandbox đồng thời cho mỗi khách hàng. Công ty cũng đã công bố hai ví dụ tham chiếu, một agent CLI và một Slack bot, trên cùng nền tảng Modal kết hợp Managed Agents.

12 tháng 5Thứ Ba
  1. Modal Blog58

    Modal đã đạt được GPU phi máy chủ thực sự như thế nào

    Modal đã công bố một bài viết kỹ thuật về cách họ giảm thời gian khởi động bản sao suy luận AI từ khoảng 2.000 giây xuống còn khoảng 50 giây bằng bốn thành phần: một bộ đệm các GPU khỏe mạnh nhàn rỗi, một hệ thống tệp được định địa chỉ theo nội dung một cách lười biếng có tên ImageFS, checkpoint/restore phía máy chủ thông qua runsc của gVisor, và checkpoint/restore CUDA được xây dựng trên hỗ trợ trình điều khiển Nvidia. Qua hơn mười nghìn lần khởi động nguội, độ trễ khởi động trung bình của vLLM giảm từ 95.679 ms xuống 13.797 ms và của SGLang từ 83.713 ms xuống 17.486 ms đối với mô hình Qwen 3 0.6B khoảng 1 GiB ở định dạng bf16. Bài viết cũng nêu các hạn chế, bao gồm ảnh chụp nhanh chỉ hỗ trợ một GPU và độ nhạy cảm với môi trường máy chủ đòi hỏi nhiều ảnh chụp nhanh cho mỗi lần triển khai.

  2. Vapi Blog50

    Vapi gọi vốn 50 triệu USD vòng Series B khi các voice agent của họ vượt 1 tỷ cuộc gọi

    Vapi công bố vòng Series B trị giá 50 triệu USD do Peak XV dẫn dắt, với sự tham gia của YC, M12, Kleiner Perkins và các nhà đầu tư trước đó, nâng tổng vốn đầu tư lên 72 triệu USD. Vòng gọi vốn này diễn ra sau một năm mà doanh thu doanh nghiệp của Vapi tăng 10 lần và các voice agent của họ vượt mốc 1.000.000.000 cuộc gọi được xử lý. Vapi cho biết Amazon Ring đã chuyển từ giai đoạn đánh giá sang vận hành 100% cuộc gọi đến trên nền tảng của họ trong hai tuần, với chỉ số CSAT tăng lên.

8 tháng 5Thứ Sáu
  1. Berkeley AI Research38

    Suy luận song song thích ứng: Khảo sát về mở rộng suy luận hiệu quả

    Một khảo sát của Berkeley AI Research xem xét suy luận song song thích ứng, trong đó bản thân một mô hình suy luận quyết định khi nào phân rã các nhiệm vụ con, nên tạo bao nhiêu luồng đồng thời và cách phối hợp chúng. Bài viết đối chiếu điều này với các phương pháp song song cố định như self-consistency, Best-of-N, Tree of Thoughts, MCTS, ParaThinker, GroupThink và Hogwild! Inference, vốn áp đặt cấu trúc song song từ bên ngoài. Suy luận tuần tự mở rộng tuyến tính theo token và độ trễ và có nguy cơ context-rot, thúc đẩy các luồng song song khám phá độc lập và đồng thời.

5 tháng 5Thứ Ba
  1. Vapi Blog22

    Năm dấu hiệu cho thấy trường hợp sử dụng của bạn phù hợp với tác nhân thoại

    Nhóm của Vapi đã xem xét hàng nghìn triển khai thoại và xác định năm đặc điểm dự báo liệu một trường hợp sử dụng tác nhân thoại có thành công hay không: khối lượng cuộc gọi cao, hội thoại lặp lại và có thể dự đoán, tiêu chí thành công rõ ràng, và hai đặc điểm nữa. Thiếu một đặc điểm có thể được bù đắp, nhưng thiếu ba đặc điểm nghĩa là nên khám phá các trường hợp sử dụng thay thế.

  2. OpenAI Developers Blog50

    Hướng dẫn prompting thời gian thực của OpenAI cho voice agent

    OpenAI đã công bố hướng dẫn prompting thời gian thực cho voice agent, bao gồm Realtime 2 reasoning, preambles, tools và trích xuất thực thể chính xác. Hướng dẫn giải thích cách cấu trúc prompt để voice agent thời gian thực xử lý reasoning và sử dụng tool trong khi trích xuất thực thể một cách chính xác.

4 tháng 5Thứ Hai
  1. Modal Blog36

    Modal tăng hiệu suất suy luận đa phương thức của SGLang hơn 10% nhờ bộ đệm dict Python

    Modal đã phân tích bộ lập lịch của SGLang trên một khối lượng công việc đa phương thức và thay thế việc ghi sổ lặp lại các handle CUDA IPC bằng một bộ đệm dict Python đơn giản, nâng thông lượng 16,2% và giảm TTFT trung bình 13,2% cùng TPOT 17,2% trên Qwen2.5-VL-3B-Instruct chạy trên H100. Bản sửa lỗi đã được hợp nhất trong SGLang v0.5.10.

1 tháng 5Thứ Sáu
  1. Vapi Blog34

    Open Stack và Giải pháp tích hợp: Những cân nhắc chính cho nhà phát triển Voice AI

    Blog Vapi phỏng vấn Iz Shalom của Cartesia về việc lựa chọn giữa stack Voice AI tích hợp và stack mô-đun mở. Stack tích hợp phù hợp với các trường hợp sử dụng hẹp và proof of concept nhanh, trong khi stack mở phù hợp với nhiều trường hợp sử dụng, hỗ trợ đa ngôn ngữ và thay thế linh kiện. Bài viết kêu gọi các đội đo độ trễ P99 trong môi trường của chính họ và xây dựng đánh giá chặt chẽ trước khi đưa vào sản xuất.

30 tháng 4Thứ Năm
  1. OpenAI Developers Blog47

    Plugin OpenAI Developers cho ChatGPT và Codex

    OpenAI đã phát hành plugin Developers, cho phép ChatGPT và Codex truy cập vào Nền tảng API OpenAI cùng hướng dẫn thiết lập API, với các điều chỉnh dành cho Claude Code và Cursor đi kèm các kỹ năng phát triển di động và máy chủ MCP OpenAI Docs công khai. Plugin bao gồm thiết lập khóa API, xây dựng ứng dụng Agents SDK, chuyển đổi API sang Responses API và xử lý sự cố các lỗi API phổ biến.

29 tháng 4Thứ Tư
  1. Factory58

    Factory đánh giá 13 mô hình trên code review, nhận thấy GPT-5.2 tốt nhất và MiniMax M2.7 rẻ nhất

    Factory đã xây dựng một benchmark mã nguồn mở thử nghiệm 13 mô hình trên 50 pull request thực tế từ Sentry, Grafana, Keycloak, Discourse và Cal.com, với mỗi mô hình review mỗi PR ít nhất ba lần ở mức nỗ lực suy luận cao và một giám khảo LLM chấm điểm các phát hiện so với một golden set do con người tuyển chọn. GPT-5.2 dẫn đầu với 60,5% F1 với $1,25 mỗi PR, trước Claude Opus 4.6 với 59,8% F1 và $3,11 mỗi PR, trong khi MiniMax M2.7 đạt 45,6% F1 với $0,15 mỗi PR và Kimi K2.5 đạt 51,9% F1 với $0,41. Factory cho biết chi phí chỉ giải thích khoảng 21% phương sai chất lượng, và họ đã mã nguồn mở golden set, các script đánh giá và một Droid Action GitHub Action hỗ trợ cả 13 mô hình.

  2. Modal Blog33

    Xây dựng quy trình chứng minh định lý bằng RL trên Modal

    AE Studio trình bày chi tiết cách họ huấn luyện LLM chứng minh các định lý toán học bằng học tăng cường trên Modal, so sánh Evolution Strategies với GRPO trong khi giữ nguyên vòng lặp huấn luyện. Thiết lập này chạy suy luận vLLM trên GPU, xác minh trình biên dịch Lean trong các sandbox CPU cô lập, và một bộ điều phối nhẹ, sử dụng image theo từng hàm, .map() fan-out, và Volumes cho trọng số cơ sở.

23 tháng 4Thứ Năm
  1. Factory55

    Factory ra mắt kỹ năng QA tự động kiểm thử ứng dụng như người dùng thật và báo cáo trong PR

    Factory đã phát hành kỹ năng QA tự động, điều khiển ứng dụng theo cách người dùng thật sẽ làm, điền biểu mẫu, nhập vào terminal và gọi endpoint, sau đó đăng báo cáo có cấu trúc kèm ảnh chụp màn hình, ảnh chụp terminal và dấu vết API dưới dạng một bình luận duy nhất trên mỗi pull request. Kỹ năng này chạy trên mỗi lần push thông qua Droid, có thể được cấu hình như một kiểm tra CI tùy chọn được kích hoạt bởi nhãn PR, lệnh bình luận hoặc kích hoạt thủ công, và cũng có sẵn cục bộ thông qua /qa trong bất kỳ phiên Droid nào. Việc thiết lập sử dụng /install-qa, và tính năng này hiện đã có trong tất cả các gói Factory.

22 tháng 4Thứ Tư
  1. Replit Blog22

    Replit giành Giải thưởng Đối tác Công cụ AI của năm 2026 của Google Cloud

    Google Cloud đã vinh danh Replit là Đối tác Công cụ AI của năm 2026, ghi nhận nền tảng hiện được hơn 50 triệu người sử dụng tại 85% trong Fortune 500. Giải thưởng này diễn ra sau khi Replit ra mắt Agent 4, mà công ty cho biết nhanh gấp 10 lần Agent 3 và chạy nhiều agent song song. Replit có mặt trên Google Cloud Marketplace, tích hợp với Cloud Run, Kubernetes Engine và BigQuery.

20 tháng 4Thứ Hai
  1. Berkeley AI Research38

    GRASP: Lập kế hoạch dựa trên gradient cho mô hình thế giới ở tầm xa hơn

    GRASP là một bộ lập kế hoạch dựa trên gradient mới cho các mô hình thế giới đã học, giúp việc lập kế hoạch tầm xa trở nên khả thi bằng cách nâng quỹ đạo lên thành các trạng thái ảo để tối ưu hóa song song theo thời gian, thêm tính ngẫu nhiên vào các lần lặp trạng thái để khám phá, và định hình lại gradient để các hành động nhận được tín hiệu rõ ràng trong khi tránh gradient trạng thái-đầu vào dễ vỡ thông qua các mô hình thị giác đa chiều. Công trình giải quyết các đồ thị tính toán điều kiện kém, cực tiểu cục bộ không tham lam, và các chế độ thất bại tiềm ẩn đa chiều khiến việc lập kế hoạch tầm xa trở nên mong manh. Công trình được thực hiện với Mike Rabbat, Aditi Krishnapriyan, Yann LeCun và Amir Bar.

17 tháng 4Thứ Sáu
  1. OpenAI Developers Blog60

    OpenAI công bố danh sách kiểm tra triển khai API cho khối lượng công việc GPT-6

    OpenAI đã công bố danh sách kiểm tra triển khai API hướng dẫn các nhà phát triển chuyển khối lượng công việc sang Responses API và dòng mô hình GPT-6, bao gồm gpt-6-astra, gpt-6.1-sol, gpt-6 Sol và gpt-6 Luna. Hướng dẫn bao gồm các mức reasoning.effort từ low đến max, text.verbosity, tool_search với tải công cụ trì hoãn, Programmatic Tool Calling, Multi-agent, compaction, bộ nhớ đệm prompt và chế độ WebSocket, mà OpenAI cho biết đã cho thấy tốc độ thực thi end-to-end nhanh hơn tới khoảng 40% đối với các quy trình có 20 lệnh gọi công cụ trở lên. Tài liệu cũng nêu chi tiết các bước về độ tin cậy và an toàn như xử lý lỗi 429 và 503, background=True cho các tác vụ dài, safety_identifier và giám sát misalignment.

    Vì sao đáng chú ý: Danh sách kiểm tra triển khai chính thức của OpenAI hợp nhất việc lựa chọn mô hình, mức reasoning effort, tool search, compaction và chế độ WebSocket vào một hướng dẫn di chuyển duy nhất cho khối lượng công việc GPT-6.

16 tháng 4Thứ Năm
  1. OpenAI Developers Blog60

    Bản cập nhật ứng dụng OpenAI Codex mở rộng sang công cụ, ứng dụng và tự động hóa

    OpenAI đã công bố tổng quan về các bản cập nhật mới của ứng dụng Codex, hướng đến việc hoạt động xuyên suốt các công cụ, ứng dụng, tự động hóa và các quy trình làm việc khác của nhà phát triển. Tài liệu chỉ là bản tóm tắt ngắn, nên không mô tả các tính năng cụ thể, phiên bản và chi tiết về khả năng cung cấp.

    Vì sao đáng chú ý: OpenAI phác thảo các bản cập nhật ứng dụng Codex mở rộng tác nhân lập trình sang công cụ, ứng dụng và tự động hóa, cho thấy phạm vi của nó đang mở rộng ra ngoài việc tạo mã.

15 tháng 4Thứ Tư
  1. Vapi Blog50

    Vapi ra mắt Vapi Monitoring cho các tác nhân thoại trong môi trường production

    Vapi đã phát hành Vapi Monitoring, một sản phẩm giám sát cho phép các nhóm tạo các bộ giám sát tùy chỉnh cho tác nhân thoại và nhận cảnh báo khi chạm ngưỡng. Sản phẩm bao gồm giám sát hiệu quả và tuân thủ cho gói đăng ký Enterprise, cùng với giám sát kỹ thuật và hạ tầng, đồng thời hiển thị các vấn đề kèm số lượng cuộc gọi bị ảnh hưởng và đề xuất cách khắc phục.

  2. Modal Blog58

    Modal và OpenAI Agents SDK: xây dựng một harness agent lập trình song song với sandbox và GPU

    Modal đã công bố một bài hướng dẫn về cách xây dựng một harness agent lập trình tùy chỉnh trên nền OpenAI Agents SDK, sản phẩm mà OpenAI ra mắt hôm nay, sử dụng Modal Sandboxes để cung cấp cho agent môi trường Linux cô lập và GPU. Hướng dẫn bắt đầu từ một agent tối giản dựa trên exec, sau đó bổ sung session để lưu bộ nhớ, một orchestrator cùng pool subagent cho công việc bất đồng bộ song song, hạn mức GPU, snapshot hệ thống tệp để loại bỏ trùng lặp khâu thiết lập, và một hệ thống con skills, kết thúc bằng một harness chạy thử thách Parameter Golf của OpenAI trên các subagent GPU song song. Modal dẫn chứng đội ngũ agent lập trình chạy nền của Ramp trên Modal, mà theo Modal hiện tạo ra hơn một nửa số PR của công ty.

14 tháng 4Thứ Ba
  1. Vapi Blog18

    Phó Chủ tịch Sản phẩm Vapi: Nền tảng cơ bản quan trọng hơn bao giờ hết đối với các sản phẩm AI khác biệt

    Phó Chủ tịch Quản lý Sản phẩm của Vapi, Nathalie Criou, đã nói với một phiên thảo luận HumanX cùng Salesforce, Databricks và TinyFish rằng AI khuếch đại chứ không thay thế các nền tảng cơ bản như chuyên môn lĩnh vực và khả năng phán đoán. Bà cho biết nền tảng của Vapi, được xây dựng trên hàng triệu tương tác giọng nói trong thế giới thực, phát triển trí nhớ tổ chức mà một lần huấn luyện đơn lẻ không thể tái tạo. Phiên thảo luận lập luận rằng những hào cạnh tranh nông như việc tiên phong ra thị trường đang bị xói mòn trong khi niềm tin, chi phí chuyển đổi và dữ liệu tương tác độc đáo tích lũy nhanh hơn.

  2. Vapi Blog27

    Kỹ sư Vapi chia sẻ bài học về triển khai AI giọng nói ở quy mô doanh nghiệp

    Các Kỹ sư Triển khai Tiền phương của Vapi cho biết khoảng cách từ bản demo đến môi trường sản xuất là nơi phần lớn các sáng kiến AI giọng nói doanh nghiệp bị đình trệ, đòi hỏi kiểm thử kỹ lưỡng, các rào chắn bảo vệ và thiết kế dựa trên ý định thay vì khớp cụm từ chính xác. Nhóm cảnh báo về "trôi dạt tính cách", khi các tác nhân tiếp nhận phong cách nói của người gọi, và lưu ý rằng LLM mang tính phi tất định, nên việc triển khai cần có dung sai lỗi được xác định và lặp lại liên tục. Họ khuyên nên bắt đầu với tối ưu hóa chi phí nhưng hướng tới tạo ra doanh thu, và đánh giá chuẩn một tương tác tốt ở mức dưới một phút.

  3. Modal Blog40

    Modal Autoscaling Autoresearch: GPU co giãn cho các tác nhân nghiên cứu AI

    Modal trình diễn việc chạy các tác nhân autoresearch trên GPU co giãn: với Modal Skills, Claude Code đã chạy 113 thí nghiệm trong 238 giờ GPU trên thử thách Parameter Golf của OpenAI, hoàn thành các lượt huấn luyện cốt lõi nhanh gấp 5 lần so với một máy trạm đơn lẻ trong khi chỉ dùng một phần nhỏ tài nguyên của một cụm chuyên dụng. Các tác nhân cấp phát GPU qua các lệnh gọi API, mở rộng từ một đến hàng chục H100 và tự động thu về không.

10 tháng 4Thứ Sáu
  1. Modal Blog38

    Butter được Modal mua lại, nhà sáng lập Erik Dunteman gia nhập đội Sandbox

    Modal đã mua lại Butter, với nhà sáng lập Erik Dunteman và nhà nghiên cứu Raymond Tana gia nhập đội Sandbox của Modal. Đội ngũ Butter mang theo kinh nghiệm kỹ thuật agent harness, bao gồm bVisor, một nhân Linux ảo được viết từ đầu bằng Zig cho các sandbox nhẹ, tạm thời. Modal cho biết việc tuyển dụng này thúc đẩy mục tiêu biến Modal Sandboxes thành một trải nghiệm sản phẩm hàng đầu trong phân khúc.

8 tháng 4Thứ Tư
  1. Modal Blog40

    Modal cung cấp khả năng suy luận thời gian thực cho robot của Physical Intelligence

    Physical Intelligence (Pi) vận hành các mô hình robot Thị giác-Ngôn ngữ-Hành động của mình trên Modal, chỉ thêm ~10-15ms chi phí mạng. Pi đã hợp tác với Modal để xây dựng một cổng dựa trên QUIC qua UDP với khả năng tự động xuyên NAT, thay thế TCP Tunnels nhằm tránh tình trạng tắc nghẽn yêu cầu-phản hồi trong vòng điều khiển robot. Các checkpoint lưu trong Modal Volumes tải trong dưới 30 giây, và các triển khai ghim theo vùng giữ suy luận gần với robot.

7 tháng 4Thứ Ba
  1. Modal Blog22

    Cập nhật sản phẩm Modal: RTX Pro 6000 Blackwell, Command K, Sandbox FS API

    Modal hiện cung cấp RTX Pro 6000 Blackwell của NVIDIA với 96GB VRAM và thông lượng fp4/fp8 mạnh mẽ, có thể sử dụng chỉ với một dòng mã cho các khối lượng công việc suy luận và tinh chỉnh. Bản cập nhật cũng bổ sung Command Palette trên bảng điều khiển (CMD+K), API Hệ thống Tệp Sandbox được cải tiến ở dạng beta hỗ trợ đọc lên đến 5GB và truyền trực tuyến theo cả hai chiều, cùng các lệnh nhật ký CLI với khả năng truy xuất lịch sử.