Tới nội dung
22 tháng 10Thứ Năm
  1. Google Developers Blog58

    Google Cloud API Gateway bổ sung hỗ trợ streaming trong Public Preview

    Google Cloud API Gateway hiện đã hỗ trợ streaming trong Public Preview, cho phép các endpoint streaming SSE, HTTP chunked, WebSocket và gRPC streaming nằm sau cùng một gateway và các chính sách như các API hiện có. Streaming được bật bằng một cờ --enable-streaming duy nhất khi tạo gateway, không yêu cầu thay đổi đặc tả API, và vẫn duy trì việc thực thi API key, xác thực JWT, xác thực service account cũng như Cloud Logging và Monitoring hoạt động như trước. Các gateway cũng có hostname mặc định xác định là GATEWAY_ID-PROJECT_NUMBER.REGION.gateway.dev, và các luồng stream có thể mở trong tối đa một giờ.

21 tháng 10Thứ Tư
  1. Modal Blog58

    Modal ra mắt Dojo, thư viện cho huấn luyện LLM cấp production

    Modal đã phát hành Modal Dojo, một thư viện huấn luyện cung cấp các building block, công thức mặc định đã tinh chỉnh và bảng điều khiển observability cho hậu huấn luyện LLM cấp production. Nó được xây dựng trên các framework mã nguồn mở Miles và Slime, hỗ trợ các mô hình từ nửa tỷ đến hàng nghìn tỷ tham số, và cung cấp API cùng CLI mà các agent có thể điều khiển để khởi chạy và gỡ lỗi các lượt chạy. Modal cho biết Axiom Bio đã dùng nó để mở rộng lên các lượt chạy DeepSeek V4.1 Flash với ngữ cảnh 64k trên 64 B300, và Afterquery huấn luyện Kimi và DeepSeek ở độ dài ngữ cảnh 256k.

  2. LiveKit Blog25

    Acuity Health sử dụng LiveKit Voice Agents để tự động hóa việc tiếp nhận bệnh nhân như thế nào

    Acuity Health đã xây dựng lại các voice agent tiếp nhận bệnh nhân trên LiveKit sau khi một nền tảng low-code tỏ ra quá cứng nhắc và thiếu minh bạch, và hiện nay 80% cuộc gọi được AI agent xử lý trọn vẹn. Các agent chạy trên LiveKit Inference với mô hình Gemma 4 31B, phần lớn lượt đặt lịch hoàn tất trong dưới một phút, và 81% cuộc gọi đặt lịch kết thúc bằng một lời "cảm ơn." LiveKit Simulations kiểm thử từng thay đổi với các hồ sơ bệnh nhân trước khi phát hành, và một lần rà soát prompt đã cắt khoảng 24% số từ mà vẫn vượt qua các kịch bản tương tự.

  3. Google Developers Blog58

    Google Agents CLI 1.8.0 phát hành Extension System và tiện ích mở rộng LangChain chính thức

    Google Agents CLI hiện đã bao gồm Extension System, được giới thiệu từ v1.5.0, cho phép nhà phát triển ghi đè hoặc thêm lệnh mà không cần fork công cụ, và v1.8.0 phát hành tiện ích mở rộng LangChain chính thức. Mẫu LangChain tạo khung dự án không có phụ thuộc google-adk, triển khai lên Cloud Run qua cùng đường dẫn mã như dự án ADK, trong khi sáu lệnh gắn với ADK như playground, run và eval generate bị thay thế hoặc từ chối một cách rõ ràng. Tiện ích mở rộng được phân phối dưới dạng thư mục trong kho Git với lockfile ghim chính xác commit SHA, và hệ thống được đánh dấu là thử nghiệm trong v1.8.0.

20 tháng 10Thứ Ba
  1. Sakana AI Blog15

    Sakana AI Engineer Open House 2026: Công ty trình bày chiến lược chủ quyền AI và năm vị trí kỹ thuật

    Sakana AI đã tổ chức Engineer Open House lần thứ hai vào ngày 5 tháng 10 năm 2026, giới thiệu năm vị trí kỹ thuật gồm Applied Research Engineer, Forward Deployed Engineer, Software Engineer, Solution Engineer và Cybersecurity Engineer. CEO David Ha đã trình bày chiến lược "chủ quyền AI" được xây dựng trên pre-training, post-training với Namazu và điều phối với Fugu, sau khi mở rộng danh mục sản phẩm sang Sakana Chat, Marlin, Fugu và Translate trong sáu tháng qua. Sự kiện cũng trình bày chi tiết về công việc với các tổ chức tài chính Nhật Bản và các dự án quốc phòng, bao gồm nghiên cứu với Cục Thông tin của Bộ Quốc phòng và Viện Khoa học và Công nghệ Đổi mới Quốc phòng.

  2. Mistral AI82

    Mistral ra mắt mô hình giọng nói Voxtral 3 và SDK tác nhân giọng nói

    Mistral đã phát hành Voxtral 3, một họ mô hình chuyển giọng nói thành văn bản và văn bản thành giọng nói cùng một SDK tác nhân giọng nói được xây dựng trên LiveKit, cho phép truyền phát nghe, suy luận, gọi công cụ và nói trong một quy trình duy nhất. Voxtral Small Transcribe 3 hỗ trợ hơn 50 ngôn ngữ với tính năng phân tách người nói và điều chỉnh theo ngữ cảnh, Voxtral Mini TTS 3 hỗ trợ hơn 35 ngôn ngữ và hơn 50 phương ngữ, và bộ công cụ này có sẵn thông qua API do Mistral lưu trữ tại EU hoặc triển khai tự túc. Giá khởi điểm từ 0,0035 USD/phút cho phiên âm hàng loạt và 13 USD cho mỗi 1 triệu ký tự cho TTS.

    Vì sao đáng chú ý: Voxtral 3 của Mistral kết hợp các mô hình giọng nói đa ngôn ngữ với SDK tác nhân giọng nói dựa trên LiveKit, mang đến cho các đội ngũ một lựa chọn có thể triển khai có chủ quyền cho các tác nhân giọng nói thời gian thực.

  3. Zyphra Research58

    Zyphra Inference Wave 2 mang kernel HIP MoE tùy chỉnh và kernel sparse-attention đến phục vụ trên MI355X

    Zyphra phát hành làn sóng thứ hai của Zyphra Optimization Engine (ZOE) cho GPU AMD Instinct MI355X, bổ sung bốn kernel HIP tùy chỉnh cho MoE và sparse attention vào các bản fork sản xuất của vLLM và SGLang. 40x). 3 checkpoint vẫn nằm trong phạm vi 3 điểm so với FP8 trên bốn benchmark suy luận nhưng chỉ giải mã nhanh hơn ở mức đồng thời cao.

  4. Waymo Blog58

    Waymo sẽ khởi động các bước chuẩn bị cho dịch vụ gọi xe tự hành tại vùng Madrid, dự kiến đón hành khách đầu tiên vào năm 2027

    Waymo thông báo đang đặt nền móng cho dịch vụ gọi xe hoàn toàn tự hành tại Tây Ban Nha, bắt đầu từ Vùng Madrid, với mục tiêu đón những hành khách đầu tiên vào năm 2027. Xe điện Jaguar I-PACE sẽ xuất hiện trên các tuyến phố trong khu vực trong những ngày tới, bắt đầu bằng chế độ lái thủ công trước khi được các chuyên gia tự hành được đào tạo tại địa phương kiểm định kỹ thuật. Waymo dẫn số liệu hơn 20 triệu chuyến đi đã hoàn thành và dữ liệu từ hơn 400 triệu km tự hành hoàn toàn cho thấy số vụ va chạm gây thương tích nghiêm trọng hoặc nặng hơn ít hơn 95% so với người lái trong các thành phố nơi công ty vận hành.

  5. Google Developers Blog60

    Google tích hợp TorchTitan vào TorchTPU và phát hành sổ tay tối ưu hóa mô hình TPU

    Google đã phát hành bản fork TPU của TorchTitan do Meta phát triển, cho phép huấn luyện PyTorch trên Cloud TPU thông qua backend torch.device("tpu") gốc của TorchTPU, với các kernel gốc TPU và một playbook tối ưu hóa từng bước. Trên TPU v7x (Ironwood), Llama 3 405B duy trì khoảng 57% MFU từ 128 đến 1.024 chip, Qwen3 235B đạt 32,42% MFU trên một slice 1.024 chip, và FLUX.1 đạt 19,4% MFU trên 1.024 chip với hiệu suất weak-scaling 93%. Bản fork có tại https://github.com/google-pytorch/torchtitan/, và một backend mô hình hóa Transformers cùng một kỹ năng onboarding agent mở rộng cùng trainer này cho các checkpoint khác.

    Vì sao đáng chú ý: Google hợp tác với Meta để chuyển TorchTitan sang TPU, đồng thời đưa ra lộ trình tinh chỉnh từng bước từ FLUX.1 đến Qwen3 235B cùng các con số MFU, có thể dùng làm tài liệu tham khảo cho các nhóm PyTorch đánh giá tính khả thi của huấn luyện trên TPU.

  6. Modal Blog40

    Modal ra mắt Sticky Sessions cho định tuyến serverless nhận biết phiên

    Modal ra mắt Sticky Sessions, tính năng ghim mọi yêu cầu trong một phiên vào cùng một container trên nền Modal Servers độ trễ thấp. Nhà phát triển tạo Server có phiên bằng decorator @modal.sessioned() và khởi tạo phiên qua SDK hoặc HTTP API, với tự động mở rộng dựa trên số phiên đang hoạt động thay vì lưu lượng yêu cầu.

19 tháng 10Thứ Hai
  1. Modal Blog58

    Modal đánh giá CPU NVIDIA Vera: thông lượng sandbox tăng tối đa 2 lần dưới tải

    Modal đã đánh giá máy chủ CPU Vera tương thích Arm mới của NVIDIA và đo được thông lượng tác vụ tăng tối đa gấp đôi so với một máy GNR x86 tương đương, với độ trễ mỗi tác vụ bằng hoặc đôi khi thấp hơn. Kết quả đến từ Agentless Agent Bench, 50 giải pháp oracle Terminal-Bench và các trình xác minh đã được loại bỏ các lệnh gọi mạng và chạy trong các container Docker đồng thời. Modal cho rằng mức tăng này là nhờ Vera giữ được nhịp độ khi các container đồng thời tích tụ, điều mà họ liên hệ với băng thông bộ nhớ cao, và nói rằng việc hỗ trợ Arm sẽ đòi hỏi thay đổi trên toàn bộ hạ tầng và hệ thống build image của họ.

  2. Modal Blog38

    Legora chạy 2.000 đánh giá agent song song trên Modal Sandboxes như thế nào

    Legora hiện chạy từng đánh giá agent pháp lý của mình trong một Modal Sandbox riêng, khởi động toàn bộ ứng dụng được ghim vào một commit cụ thể để mỗi lần chạy phản ánh đúng phiên bản sản phẩm. Một thử nghiệm điển hình gồm 100 ca, 4 biến thể harness và 5 lần thử mỗi ca — 2.000 lần chạy song song — với Modal Volumes chụp nhanh trạng thái tài liệu, cơ sở dữ liệu và quyền. Legora cũng chuyển từ gVisor sang Modal VM Sandboxes, loại bỏ các giải pháp vòng cho mạng Docker và FUSE, đồng thời giảm 30% chi phí agent nhờ nén thông minh hơn và tìm kiếm công cụ tùy chỉnh.

16 tháng 10Thứ Sáu
  1. Modal Blog36

    Modal giải thích cách họ xây dựng một ngăn xếp hệ thống tệp nhanh cho VM Sandboxes

    Modal đã trình bày chi tiết cách họ phát triển ngăn xếp hệ thống tệp của mình để hỗ trợ VM Sandboxes, định tuyến các yêu cầu từ khách thông qua virtio-fs và virtiofsd vào hệ thống tệp tải lười ImageFS của họ. Phiên bản đầu tiên khởi động nhanh nhưng chạy chậm: lệnh chown đệ quy tăng từ bốn giây lên hơn một phút, và cài đặt pnpm và bun chậm khoảng ba lần. Các vi mô phép đo cho thấy chown mất 9,87 giây qua virtio-fs so với 2,31 giây trên gVisor và 1,58 giây trên ImageFS.

  2. Replit Blog40

    Replit mang Bring Your Own Cloud (BYOC) đến nền tảng của mình

    Replit đang giới thiệu các tùy chọn Bring Your Own Cloud (BYOC) cho phép doanh nghiệp chạy nền tảng Replit và các ứng dụng đã xuất bản bên trong tenant Microsoft Azure, Google Cloud hoặc Amazon Web Services của chính họ. BYOC đầy đủ, ở chế độ private preview, triển khai các cell và agent harness của Replit trong cloud của khách hàng, trong khi BYOC cho Published Apps, ở chế độ early access, lưu trữ các dự án đã xuất bản tại đó với Replit quản lý nền tảng. Image Exports thay vào đó cung cấp cho các nhóm một Docker image, tệp Terraform và SBOM để tự lưu trữ các ứng dụng do Replit xây dựng.

  3. OpenClaw Blog22

    PJ giúp các doanh nghiệp nhỏ tiếp nhận và sở hữu OpenClaw như thế nào

    PJ, một kỹ sư chuyển sang làm chủ dịch vụ diệt côn trùng tại Ocala, Florida, hiện tư vấn cho các doanh nghiệp nhỏ—trong đó có nhà thầu lợp mái, hồ bơi và ô tô—thiết lập OpenClaw và hướng dẫn họ tự vận hành. Khách hàng của anh muốn một công cụ họ sở hữu hoàn toàn thay vì đưa dữ liệu công ty vào phần mềm thuê, và một khách hàng, Donna, 66 tuổi, quản trị viên, sử dụng OpenClaw của mình hàng ngày.

  4. LiveKit Blog38

    Cách xây dựng một AI Voice Agent sẵn sàng cho môi trường production

    Hướng dẫn của LiveKit đúc kết kinh nghiệm từ các kiến trúc sư giải pháp và kỹ sư triển khai tại chỗ về việc đưa AI voice agent từ bản demo đến môi trường production, được tổ chức xoay quanh ba câu hỏi: liệu agent có đủ thông minh và tự nhiên hay không, hiệu năng của nó có thể quan sát được hay không, và liệu nó có mở rộng một cách đáng tin cậy và tiết kiệm chi phí hay không. Hướng dẫn khuyến nghị đo riêng lượt hội thoại đầu tiên, vì một công ty phát hiện khoảng 3 trong 4 cuộc gọi kết thúc ngay ở bước chào hỏi, và ghi nhận việc khách hàng chuyển từ GPT-4.1 sang Gemma 4 31B trên LiveKit Inference tiết kiệm được 300–500ms ở p50.

15 tháng 10Thứ Năm
  1. Anthropic · Claude.dev62

    Nhóm Claude Code thực hiện đánh giá mã như thế nào

    Nhóm Claude Code mô tả quy trình đánh giá mã theo nhiều lớp của mình, trong đó phần lớn việc đọc được thực hiện bởi máy móc và sự chú ý của con người được dành cho việc phê duyệt dựa trên rủi ro. Từ tháng 6 đến tháng 9, số pull request đã hợp nhất vào cơ sở mã Claude Code tăng hơn gấp đôi trong khi tỷ lệ phải hoàn nguyên giảm hơn 40 phần trăm. Quy trình xếp chồng các bước xác minh trước PR, CI bắt buộc, đánh giá của Claude, đánh giá bảo mật, phê duyệt của con người theo cấp rủi ro và hàng đợi hợp nhất với cờ và hoàn nguyên nhanh, và nhóm đã biến các sự cố trong quá khứ thành một bộ đánh giá hàng ngày cho người đánh giá.

    Vì sao đáng chú ý: Nhóm Claude Code của Anthropic trình bày chi tiết cách họ chuyển phần lớn việc đọc mã sang các lớp tự động trong khi PR đã hợp nhất tăng gấp đôi và số lần hoàn nguyên giảm hơn 40 phần trăm, mang lại một mô hình đánh giá có thể chuyển giao cho các nhóm sử dụng nhiều tác nhân.

  2. Modal Blog34

    Tăng cường LiveKit Agent của bạn với Modal GPUs

    Modal giải thích cách chạy LiveKit Agents với các mô hình open-weights hoặc tùy chỉnh trên GPU serverless của mình, sử dụng Expression Video Avatar open-weights của BitHuman với giọng đọc từ Qwen3-TTS để nhân bản Charles Frye. Thiết lập này mở endpoint /launch của container avatar thông qua một Modal Server và dùng Sticky Sessions để giữ các client WebSocket trên cùng một container, với GPU snapshots che giấu cold start.

  3. Modal Blog78

    Meta phát hành trọng số mở Muse Spark Open và có sẵn trên Modal Auto Endpoints

    Meta đã phát hành trọng số cho Muse Spark Open, và Modal hiện cung cấp mô hình này thông qua Auto Endpoints với tính phí theo token. Mô hình hướng đến lập trình tác tử và các tác vụ dài hạn, với khả năng hiểu đa phương thức gốc, cửa sổ ngữ cảnh 1M token, lập kế hoạch nhiều bước, sử dụng công cụ tuần tự và phục hồi sau lỗi. Meta báo cáo 76,4 trên Terminal-Bench 2.1 với tác tử Terminus 2 và 60 trên DeepSWE 1.1 khi dùng harness ưa thích của mình ở mức nỗ lực suy luận xhigh.

    Vì sao đáng chú ý: Muse Spark Open trọng số mở của Meta hiện được cung cấp trên Modal, mang đến cho các đội nhóm một cách tính phí theo token để thử một mô hình lập trình tác tử với cửa sổ ngữ cảnh 1M token.

14 tháng 10Thứ Tư
  1. GitHub Blog · AI & ML38

    Mô hình phát hiện bí mật của GitHub: tìm được nhiều bí mật hơn với ít nhiễu hơn

    GitHub đã huấn luyện một bộ phân loại ModernBERT được tinh chỉnh để thay thế pipeline dựa trên LLM trước đó cho việc phát hiện bí mật chung, cải thiện độ chính xác cảnh báo có trọng số theo chủ sở hữu thêm 11,5% và giảm thời gian thực thi quét trung vị sau khi push xuống 86%. Pipeline hai giai đoạn sử dụng tạo ứng viên bằng regex theo sau là phân loại nhận biết ngữ cảnh, điều này cũng giảm chi phí phục vụ hơn 98% so với gọi LLM từ xa. Lợi ích về hiệu quả đã khiến việc mở rộng phát hiện bí mật chung sang bảo vệ khi push trở nên khả thi, trả kết quả trước khi thay đổi được push.

  2. Modal Blog71

    Modal đạt tốc độ doanh thu thường niên 1 tỷ USD và gọi được 750 triệu USD vòng Series D với định giá 15,75 tỷ USD

    Modal đã vượt 1 tỷ USD tốc độ doanh thu thường niên và gọi được 750 triệu USD vòng Series D do Accel dẫn dắt với định giá hậu tiền tệ 15,75 tỷ USD, có sự tham gia của tất cả nhà đầu tư hiện hữu. Công ty cho biết mức sử dụng đã tăng gấp ba kể từ vòng Series C cách đây năm tháng và tăng hơn 15 lần so với cùng kỳ năm ngoái, và riêng sản phẩm Sandboxes đã đạt tốc độ doanh thu 300 triệu USD với gần 3 tỷ sandbox được khởi tạo. Modal cũng mô tả việc tự xây dựng lại hệ thống tệp, runtime container, bộ lập lịch và mạng của riêng mình trên một bể năng lực trải khắp hơn 20 đám mây, và chỉ ra các ra mắt gần đây trong huấn luyện đa nút, Modal servers và VM dùng chung cho Sandboxes.

    Vì sao đáng chú ý: Bài đăng của Modal giải thích lý do các khối lượng công việc AI thúc đẩy họ xây dựng lại hệ thống tệp, runtime container và bộ lập lịch của riêng mình trên hơn 20 đám mây, một góc nhìn cụ thể về cách ngăn xếp hạ tầng AI đang tách khỏi ngăn xếp đám mây.

13 tháng 10Thứ Ba
  1. LiveKit Blog18

    Khắc phục sự cố LiveKit Egress: Các lỗi thường gặp và cách sửa

    LiveKit đã xuất bản hướng dẫn khắc phục sự cố cho Egress, bao gồm các lỗi thường gặp như lỗi 412 "không nhận được tín hiệu khởi động" từ các template không bao giờ gọi START_RECORDING, lỗi 404 không tìm thấy participant hoặc track trong vòng 30 giây, và lỗi 400 tải lên thất bại do thông tin xác thực S3/GCP/Azure không hợp lệ. Hướng dẫn cũng đề cập đến các vấn đề về layout, webhook và Egress tự lưu trữ, đồng thời lưu ý rằng hướng dẫn này áp dụng cho cả API StartEgress hiện tại và các API riêng theo nguồn đã bị ngừng hỗ trợ.

  2. Modal Blog58

    Modal thử nghiệm bộ lấy mẫu RL hỗn hợp độ chính xác và hỗn hợp tăng tốc trên Qwen3.6-35B-A3B

    Modal đã huấn luyện Qwen3.6-35B-A3B trên tác vụ lập trình dạng agent với các bộ lấy mẫu trải rộng trên sáu loại tăng tốc (B200, B300, H100, H200, A100, RTX PRO 6000) ở độ chính xác NVFP4, FP8 và BF16, cấp dữ liệu cho một bộ huấn luyện BF16 trên B200. GRPO thuần đã sụp đổ trên cả bộ lấy mẫu hỗn hợp lẫn đồng nhất, nhưng khi thêm lấy mẫu quan trọng có mặt nạ cùng căn giữa điểm số, dù có hay không có phát lại mặt nạ top-p, quá trình huấn luyện vẫn ổn định đến cuối và đạt pass@4 trên SWE-bench Pro V2 ngang với bộ lấy mẫu đồng nhất, với chi phí bộ lấy mẫu mỗi lần cập nhật thấp hơn khoảng 15%. Các bộ lấy mẫu hỗn hợp chạy với KL trung bình giữa bộ lấy mẫu và bộ huấn luyện gấp 4,7 lần so với thiết lập đồng nhất, và các tác giả lập luận rằng tính ổn định phụ thuộc vào việc giữ độ lệch ở mức có giới hạn chứ không phải ở mức thấp.

  3. Amazon Science75

    Các nhà nghiên cứu của Amazon Web Services đề xuất phương pháp priming để chuyển đổi Transformer đã huấn luyện trước thành mô hình không gian trạng thái lai mà không cần huấn luyện lại toàn bộ

    Các nhà nghiên cứu của Amazon Web Services giới thiệu priming, một phương pháp tái sử dụng trọng số Transformer đã huấn luyện trước để cắt giảm chi phí huấn luyện trước của kiến trúc không gian trạng thái lai xuống hơn 99%, chỉ sử dụng dưới 0,5% ngân sách token huấn luyện trước của mô hình nguồn. Trong các so sánh có kiểm soát, Gated KalmaNet vượt trội hơn Gated DeltaNet và Mamba-2, và một mô hình lai dựa trên GKA 32B đạt kết quả tương đương Transformer nguồn trên các bài đánh giá suy luận trong khi giải mã nhanh gấp đôi ở ngữ cảnh 128.000 token. Nhóm đã phát hành các mô hình lai đã priming 8B và 32B, mã huấn luyện, Triton kernel và plugin phục vụ vLLM theo Giấy phép Apache 2.0.

    Vì sao đáng chú ý: Các nhà nghiên cứu của Amazon Web Services cho thấy việc tái sử dụng trọng số Transformer đã huấn luyện trước có thể cắt giảm chi phí huấn luyện trước kiến trúc lai xuống hơn 99%, giúp việc so sánh có kiểm soát các lớp không gian trạng thái trở nên khả thi.

  4. Apple Newsroom58

    Apple ra mắt HomeView, màn hình nhà thông minh giá 299 USD tích hợp Siri AI

    Apple đã giới thiệu Apple HomeView, một màn hình nhà thông minh 7 inch Liquid Retina kết hợp giải trí, gọi FaceTime, giám sát nhà cửa và tự động hóa rảnh tay, với giá 299 USD tại Mỹ. Thiết bị nhận diện người dùng qua khuôn mặt để hiển thị nội dung cá nhân của họ và chạy Siri AI, một phiên bản Siri mới mang tính hội thoại hơn, có thể tận dụng ngữ cảnh cá nhân khi được ghép nối với iPhone hoặc iPad hỗ trợ Apple Intelligence. Đơn đặt hàng trước đã mở từ ngày 13 tháng 10 tại Australia, Canada, Ấn Độ, New Zealand, Vương quốc Anh và Mỹ, với thời điểm bán ra bắt đầu từ thứ Sáu, ngày 13 tháng 11; Apple cho biết HomeView không được bán tại Liên minh châu Âu vì Siri AI hiện chưa khả dụng trên iOS tại đây.

12 tháng 10Thứ Hai
  1. Descript Changelog22

    Tổng hợp Descript tháng 10 năm 2026: Tìm kiếm toàn bộ Drive, Yêu cầu ghi âm không đồng bộ và Nhân bản giọng nói ElevenLabs v4

    Bản phát hành ngày 12 tháng 10 năm 2026 của Descript bổ sung thanh tìm kiếm trên toàn bộ drive của bạn, với trang kết quả đầy đủ và tính năng tìm tệp của Underlord. Các drive doanh nghiệp giờ đây có thể gửi yêu cầu ghi âm không đồng bộ để khách mời tự ghi theo lịch của họ, và AI Speech chuyển sang ElevenLabs v4 để nhân bản giọng nói chính xác hơn. Các gói trả phí cũng mặc định dùng MiniMax H3 Max Turbo để tạo video bằng AI.

  2. Modal Blog40

    Modal ra mắt Endpoint Candidates để đánh giá và thăng cấp các endpoint suy luận

    Modal đã phát hành Endpoint Candidates, hiện được cung cấp rộng rãi cho tất cả workspace, cho phép người dùng triển khai tạm các bản triển khai thay thế cho Dedicated Endpoints, sao chép một mẫu lưu lượng sản xuất trong khi Modal vận hành hạ tầng. Người dùng có thể kiểm tra các chỉ số độ trễ và thông lượng, chạy benchmark và kiểm thử chất lượng đầu ra qua URL riêng của từng Candidate, sau đó thăng cấp nó lên sản xuất từ dashboard. Các yêu cầu được sao chép là best-effort và được tính phí theo giá compute tiêu chuẩn của Modal.

9 tháng 10Thứ Sáu
  1. LiveKit Blog34

    Serve AI sử dụng LiveKit Agent Simulations để xây dựng lại voice agent của mình trên một prompt duy nhất

    Serve AI đã xây dựng lại phone agent của mình cho một khách hàng kiểm soát côn trùng trị giá 150 triệu đô la trên LiveKit, thu gọn một đồ thị luồng Retell gồm 224 nút thành một prompt duy nhất và xác thực nó bằng Agent Simulations. Khoảng 100 cuộc gọi sản xuất thực tế đã được chuyển thành các kịch bản mô phỏng, đạt tỷ lệ vượt qua 98% qua 10–15 lần lặp trước khi chuyển đổi, với độ trễ lượt trung vị là 1,3 giây so với ngưỡng trần 1,5 giây. Lần di chuyển đầu tiên mất một tuần mà không có rollback, và tỷ lệ containment tăng 15%, mà Serve ước tính tiết kiệm thêm 320.000 đô la mỗi năm cho khách hàng.

  2. LiveKit Blog58

    LiveKit ra mắt Agent Simulations để kiểm thử các voice agent

    LiveKit đã đưa Agent Simulations vào trạng thái dùng chung (generally available) cho tất cả các dự án LiveKit Cloud, một cách có thể lặp lại để kiểm thử voice agent ở cấp độ tác vụ thay vì từng lượt. Một người dùng mô phỏng do LLM điều khiển sẽ diễn lại từng kịch bản, bao gồm cả backchannel và ngắt lời ở chế độ âm thanh, và một LLM judge trả về phán quyết đạt/không đạt kèm lý do; một CLI có thể sinh kịch bản từ chính prompt và công cụ của agent. Chạy văn bản là mặc định và đủ rẻ cho mọi pull request, trong khi chạy âm thanh bao phủ toàn bộ pipeline và phù hợp hơn với lịch chạy ban đêm hoặc trước phát hành. Simulations miễn phí đến hết tháng 10, dù chúng gọi LLM, STT và TTS của agent thật theo mức giá thông thường.

8 tháng 10Thứ Năm
  1. Anthropic · Claude.dev62

    Anthropic hướng dẫn xây dựng tự động hóa tác nhân theo lịch với Claude Managed Agents

    Anthropic đã công bố một bản triển khai tham chiếu cho Claude Managed Agents (bản beta), đọc các kênh Slack và pull request GitHub theo lịch cron, theo dõi thay đổi kể từ lần chạy trước thông qua bookmark theo từng nguồn, và đăng bản tóm tắt lên Slack. Hướng dẫn bao gồm thông tin xác thực lưu trong vault, quyền truy cập chỉ đọc và giới hạn chi tiêu mỗi lần chạy, cùng các quy tắc báo cáo nguồn bị lỗi là không thể đọc thay vì coi là ngày yên ắng và xác nhận bài đăng Slack trước khi cập nhật bookmark và sổ cái. Một lệnh Claude Code với kỹ năng claude-api cấu hình tác nhân theo hướng dẫn trong bài viết.

    Vì sao đáng chú ý: Anthropic chia sẻ bản triển khai tham chiếu cho Claude Managed Agents theo lịch đọc Slack và GitHub, với các quy tắc cụ thể về bookmark, đọc lỗi và xác nhận đăng bài.

  2. Zyphra Research36

    Zyphra Research: Ghép nối chuyên gia cắt giảm thông tin liên lạc khi tiền huấn luyện MoE

    Zyphra Research chỉ ra rằng định tuyến MoE có cấu trúc cao, với các chuyên gia được chọn cùng nhau có tương quan trong một lớp và lựa chọn chuyên gia của một token dự đoán định tuyến lớp sau. Khai thác điều này thông qua bố trí chuyên gia tương quan và xáo trộn token giúp cắt giảm thời gian liên lạc all-to-all lên đến 2,63× và cải thiện thời gian bước huấn luyện end-to-end lên đến 1,41× trong các thí nghiệm Megatron-LM trên GPU MI300X, mà không thay đổi kiến trúc hay quyết định định tuyến.

  3. GitHub Blog · AI & ML58

    GitHub ra mắt mô hình phát hiện bí mật AI dựa trên ModernBERT, mở rộng bảo vệ push

    GitHub giới thiệu mô hình phát hiện bí mật chung do AI hỗ trợ, được xây dựng cùng Microsoft Applied Sciences, một bộ phân loại ModernBERT đánh giá các bí mật ứng viên trong ngữ cảnh dưới hai mili giây và có thể tăng hơn gấp đôi số lượng bí mật mà bảo vệ push chặn được.

  4. Goodfire Research71

    Goodfire huấn luyện và triển khai các bộ giám sát lạm dụng không gian mạng dựa trên probe trên Kimi K3 và GLM 5.3

    3 và triển khai chúng trên một ngăn xếp suy luận production, nơi một probe rẻ tiền lọc các lượt và chỉ những trao đổi đáng ngờ mới đến một LLM judge. Tỷ lệ gián đoạn phiên lành tính 5%, chi phí 65 đô la cho mỗi triệu lượt không có suy luận của judge và 185 đô la khi có nó, và không thêm tổn thất thông lượng đo được nào bên trong SGLang.

    Vì sao đáng chú ý: Goodfire cho thấy một chuỗi probe-cộng-judge có thể giám sát lạm dụng không gian mạng tác tử với chi phí thấp hơn khoảng 50 lần mà không có tổn thất thông lượng đo được, một công thức cụ thể để phục vụ các mô hình mở một cách an toàn.

6 tháng 10Thứ Ba
  1. Anthropic · Claude.dev72

    Phiên Claude Code trên đám mây: hướng dẫn thực địa để chạy tác vụ trên các VM riêng biệt

    Addy Osmani đi qua các phiên Claude Code trên đám mây, nơi mỗi tác vụ chạy trên một VM mới do Anthropic quản lý với kho lưu trữ được sao chép vào nhánh riêng của nó, và các phiên đám mây được bao gồm trong các gói Pro, Max, Team và Enterprise mà không tính thêm phí tính toán. Trong một thử nghiệm bốn phiên trên một kho Node mẫu, ba phiên bắt đầu trong vòng 16 giây của nhau đã hoàn thành 87 giây sau khi phiên đầu tiên bắt đầu, và phiên kiểm thử không ổn định đã chạy bộ kiểm thử 40 lần với không lỗi. Hướng dẫn bao gồm các script thiết lập, mức mạng, các đường kết nối GitHub và bảy quy trình phù hợp với các phiên đám mây, đồng thời lưu ý rằng các phiên cục bộ vẫn phù hợp hơn cho các tác vụ cần dữ liệu cục bộ, dịch vụ VPN, GPU hoặc Zero Data Retention.

    Vì sao đáng chú ý: Một hướng dẫn thực địa thực hành về các phiên Claude Code trên đám mây, cho thấy cách các VM theo từng tác vụ cho phép làm việc song song và nơi các phiên cục bộ vẫn phù hợp hơn.

  2. LiveKit Blog38

    Retell vs. Vapi vs. LiveKit: So sánh dành cho nhà phát triển về AI Agent thoại

    LiveKit đã công bố một so sánh hướng đến nhà phát triển giữa Retell, Vapi và LiveKit để xây dựng AI agent thoại, định hình lựa chọn quanh bốn câu hỏi: ai sẽ lặp cải tiến agent sau khi ra mắt, điều gì xảy ra khi nhu cầu vượt ra ngoài các cấu hình mặc định, liệu nó có phải chạy ngoài phạm vi cuộc gọi điện thoại, và chi phí ở quy mô lớn. Retell là một nền tảng được quản lý với trình chỉnh sửa trực quan, Vapi là một nền tảng được quản lý hướng đến nhà phát triển, được cấu hình qua API và dashboard, còn LiveKit là một framework mã nguồn mở Apache 2.0 có thể tự lưu trữ. Chi phí ước tính tổng cộng mỗi phút khoảng $0.070–$0.310 cho Retell, $0.070–$0.116 cho Vapi và $0.037–$0.099 cho LiveKit.

  3. Figma Blog50

    Figma agent thoát beta với hướng dẫn, ngữ cảnh đa nền tảng và agent đa người dùng theo sau

    Figma agent đã thoát beta với khả năng tuân thủ chỉ dẫn và xử lý tác vụ dài tốt hơn, giành chiến thắng trong hơn 60% đánh giá do con người chấm với các nhà thiết kế chuyên nghiệp. Các khả năng mới cho phép chủ thư viện tải lên hướng dẫn markdown, lấy ngữ cảnh từ FigJam, Figma Slides và Figma Design, và theo dõi agent của cộng tác viên trên canvas. Nhóm hệ thống thiết kế của Uber giờ đây xuất bản tài liệu mà trước đây cần nhiều người làm trong nhiều tháng chỉ trong một buổi chiều.

5 tháng 10Thứ Hai
  1. Modal Blog35

    TypeSafe AI mở rộng quy mô Jev lên hàng nghìn tỷ token trong ba ngày trên Modal

    TypeSafe AI đã sử dụng nền tảng serverless của Modal để huấn luyện và triển khai Jev, System One Model đầu tiên của mình, và phục vụ hơn một nghìn tỷ token trong vòng ba ngày kể từ khi ra mắt. Jev không phải là một LLM tự hồi quy: nó nhận trạng thái và câu hỏi làm đầu vào và xuất ra các giá trị có kiểu, có cấu trúc kèm xác suất song song, hướng tới các khối lượng công việc có độ trễ thấp. Một tuần sau khi ra mắt, nó đứng đầu bảng xếp hạng của OpenRouter cho ngữ cảnh 1K-10K token, xử lý 15,1% số yêu cầu.

2 tháng 10Thứ Sáu
  1. OpenClaw Blog40

    Tencent AIG gia nhập ClawScan để tăng cường đánh giá bảo mật skill và plugin trên ClawHub

    AI-Infra-Guard (AIG) của Tencent đã được tích hợp vào ClawScan, công cụ dòng lệnh mã nguồn mở phụ trách đánh giá bảo mật trên ClawHub, nhờ đó mọi skill và plugin được tải lên giờ đây đều đi qua AIG. ClawScan chạy AIG và SkillSpector của NVIDIA một cách độc lập, với một AI judge đưa ra đánh giá cuối cùng. Trên một tập con cố định gồm 556 trường hợp của SkillTrustBench, ClawScan khớp 86,9% nhãn của benchmark và phân loại đúng 98,6% các trường hợp độc hại.

1 tháng 10Thứ Năm
  1. Modal Blog58

    Modal Clusters chính thức khả dụng, chỉ với một dòng mã @modal.clustered để có cụm RDMA đa nút

    Modal thông báo Modal Clusters đã chính thức khả dụng cho tất cả workspace, cho phép người dùng yêu cầu cụm đa nút thông qua decorator duy nhất @modal.clustered. Các cụm cung cấp giao tiếp InfiniBand RDMA lên đến 6,4 Tbps, tự động cấu hình cho PyTorch và NCCL, cụm khởi động trong vài giây và tính phí theo giây. Modal cũng mô tả một gang scheduler mới đặt N nút cùng lúc và hỗ trợ RDMA được tích hợp vào runtime gVisor, với Decagon, 1x và Runway được nêu là người dùng cho tinh chỉnh nghìn tỷ tham số, tiền huấn luyện world model và suy luận video đa nút.