Tới nội dung
5 tháng 11Thứ Năm
  1. Mastra Blog38

    Mastra ra mắt Chương trình Harness Tùy chỉnh với các Kỹ sư Triển khai Tiền tuyến nhúng

    Mastra đã ra mắt Chương trình Harness Tùy chỉnh, trong đó các kỹ sư triển khai tiền tuyến nhúng vào đội ngũ khách hàng để cùng xây dựng các harness agent phù hợp. Chương trình bao gồm khả năng quan sát, đánh giá, MCP tùy chỉnh, quy trình làm việc có con người tham gia, xác thực và RBAC, cùng quyền truy cập sớm vào Nền tảng Doanh nghiệp Mastra. Mastra dẫn chứng Workday, đơn vị đã chuyển khỏi Amazon Bedrock Agents trong 31 ngày, cắt giảm 3.000 dòng mã và giảm chi phí lưu trữ vector 98%.

4 tháng 11Thứ Tư
  1. vLLM Blog73

    Buoyant phát hành Kinference, một control plane suy luận mã nguồn mở cho vLLM và Kubernetes

    Buoyant công bố Kinference, một control plane mã nguồn mở Apache v2 định tuyến lưu lượng suy luận tương thích OpenAI và Anthropic đến các worker vLLM trên Kubernetes, bổ sung giới hạn tốc độ token, theo dõi mức sử dụng và chi phí theo từng tenant, cân bằng tải nhận biết KV-cache và các chính sách suy luận bằng YAML. Trong các benchmark công khai của dự án, Kinference giảm 95% thời gian đến token đầu tiên trung vị và 45% độ trễ end-to-end trung vị so với cân bằng tải dịch vụ Kubernetes tiêu chuẩn trên một workload, và phục vụ goodput gấp 7,4 lần trên shared-prefix và khoảng 3,5 lần trên multiturn trong một bài kiểm tra công suất. Các chính sách có thể định tuyến prompt đơn giản hơn đến các mô hình rẻ hơn, đẩy lưu lượng đột biến tràn sang các nhà cung cấp như Bedrock và Databricks, hoặc giữ các yêu cầu gắn thẻ PII bên trong cluster, và các chỉ số theo từng tenant bao gồm tốc độ token, TTFT, ITL và token prompt có cache so với không có cache.

    Vì sao đáng chú ý: Kinference của Buoyant bổ sung cân bằng tải nhận biết KV-cache và các chính sách suy luận bằng YAML lên trên vLLM, với các benchmark tuyên bố cải thiện lớn về TTFT và goodput so với định tuyến dịch vụ Kubernetes tiêu chuẩn.

  2. LiveKit Blog22

    Clerk AI sử dụng LiveKit để vận hành các tác nhân thoại doanh nghiệp ở quy mô lớn

    Clerk AI đang vận hành các tác nhân thoại và nhắn tin doanh nghiệp trên khung mã nguồn mở và mạng biên toàn cầu của LiveKit, xử lý hơn 1.000 phiên thoại đồng thời mà không cần cấp phát trước. Các tác nhân phản hồi trong dưới 500ms và hỗ trợ gốc hơn 30 ngôn ngữ, với tính năng sàng lọc cuộc gọi ScreenSense đạt độ chính xác 97% và phát hiện thư thoại TrueReach trên 98%. Nền tảng này duy trì toàn quyền kiểm soát các nhà cung cấp STT, LLM và TTS, đồng thời có chứng nhận SOC 2 Type II với tính năng tuân thủ TCPA tích hợp sẵn.

  3. Meta Engineering Blog34

    Meta F3 Lightning tăng tốc phát hành tính năng ML cho quảng cáo ~3,6 lần

    Meta đã giới thiệu F3 Lightning, một lớp hạ tầng nằm trên Facebook Feature Framework (F3) của họ, giúp tách việc phát hành tính năng khỏi việc thực thi chung, nhờ đó mỗi tính năng trong số hơn 20.000 tính năng xếp hạng quảng cáo được biên dịch, xác thực, triển khai và hoàn tác một cách độc lập. Các tính năng trích xuất tương đương giờ đây đến môi trường production nhanh hơn ~3,6 lần so với F3 trước đây mà không làm tăng chi phí tính toán hạ tầng.

  4. Preferred Networks News18

    Preferred Networks sẽ trưng bày dòng MN-Core tại SC26

    Preferred Networks sẽ trưng bày dòng MN-Core của mình tại SC26, hội nghị quốc tế về điện toán hiệu năng cao diễn ra từ ngày 15–20 tháng 11 tại Chicago, với các buổi trình diễn tại gian hàng diễn ra từ ngày 17–19 tháng 11. Tại gian hàng 4606, công ty sẽ giới thiệu mô hình cấu trúc và bản mô phỏng của chip AI suy luận MN-Core L1000 đang được phát triển, các kế hoạch tương lai cho dòng MN-Core L, một bản demo trực tiếp trên MN-Core 2 Devkit, và hoạt động R&D về cơ sở hạ tầng điện toán AI siêu hiệu quả.

  5. Figma Blog58

    Figma mở code layer cho tất cả người dùng trong bản beta mở với quy trình tạo nguyên mẫu do agent dẫn dắt

    Tính năng code layer của Figma hiện đã ở bản beta mở cho 100% người dùng, cho phép các nhóm xây dựng và so sánh các nguyên mẫu dựa trên code trực tiếp trên canvas Figma. Phần hướng dẫn cho thấy một nhà thiết kế clone kho GitHub vào một code layer, nhắc agent của Figma tạo ba biến thể địa chỉ giao hàng cạnh nhau, và tinh chỉnh một biến thể trong trình soạn thảo code toàn màn hình. Extract designs biến màn hình hoặc luồng đã ghi thành các design layer có thể chỉnh sửa, có thể gửi lại vào nguyên mẫu bằng Update code layer, và agent có thể hợp nhất code layer của hai đồng đội thành một trải nghiệm kết hợp.

3 tháng 11Thứ Ba
  1. OpenAI Alignment Blog60

    OpenAI trình bày chi tiết về việc huấn luyện các bộ phân loại kích hoạt cho an toàn và căn chỉnh

    OpenAI mô tả việc huấn luyện các bộ phân loại kích hoạt, hay còn gọi là probe, đọc các kích hoạt luồng dư nội bộ của mô hình để gắn cờ các phản hồi của trợ lý bị lệch chuẩn hoặc vi phạm chính sách, và cho biết đã triển khai chúng trên lưu lượng nội bộ và bên ngoài của các mô hình có năng lực nhất bắt đầu từ GPT-5.6. Các probe sử dụng kiến trúc Attention probe với MLP cộng QV-attention và trung bình động lũy thừa, được huấn luyện trên tối đa 1M tin nhắn được gán nhãn bởi các giám khảo mô hình suy luận, và chạy theo kiểu truyền phát trên công cụ suy luận để một phản hồi có thể bị chặn giữa lượt. OpenAI báo cáo khả năng chuyển giao probe xuất sắc qua nhiều giai đoạn hậu huấn luyện nhưng chuyển giao hạn chế hơn qua các checkpoint tiền huấn luyện, và cho biết các probe nhìn chung chống jailbreak tốt hơn các bộ phân loại dựa trên nội dung trong đợt red-teaming của mình.

    Vì sao đáng chú ý: OpenAI trình bày chi tiết cách các probe kích hoạt trên kích hoạt nội bộ của mô hình đóng vai trò lớp an toàn truyền phát, bao gồm các giới hạn về chuyển giao qua các checkpoint và nhu cầu huấn luyện lại.

  2. Sierra Blog42

    Sierra thiết kế lại Agent Studio xoay quanh Ghostwriter

    Sierra đã thiết kế lại Agent Studio xoay quanh Ghostwriter, agent luôn hoạt động của hãng để xây dựng agent, nhờ đó việc điều tra sự cố, chỉnh sửa một journey và kiểm thử bản sửa giờ diễn ra trong một cuộc hội thoại. Ghostwriter theo bạn qua các journey, simulation và dashboard, và mỗi phiên giữ các thay đổi cùng kết quả kiểm thử với nhau cho đến khi đồng đội xem xét và merge chúng. Agent Studio cũng nhóm các agent liên quan vào một project duy nhất và bổ sung diff từng dòng, Preview Chat, Simulations, cùng quản trị phát hành với phê duyệt bắt buộc và triển khai có kiểm soát.

  3. Google Developers Blog58

    Google đánh giá các bộ phân loại giá rẻ để định tuyến mô hình Gemini theo chi phí mỗi tác vụ

    Google đã chạy một bài đánh giá tác nhân lập trình tự động chấm gồm 50 câu hỏi để kiểm tra liệu một bộ phân loại nhẹ, Jev của TypeSafe, có thể định tuyến từng tác vụ đến cấu hình Gemini rẻ nhất mà vẫn trả lời đúng hay không. Một heuristic regex cố định và độ dài prompt đạt 93,8% trên 16 câu hỏi phát triển nhưng giảm 23,2 điểm xuống 70,6% trên 34 tác vụ giữ lại, trong khi Jev đạt 96,0% trên toàn bộ bộ kiểm thử. Thiết lập không định tuyến mạnh nhất, Gemini 3.8 Flash ở chế độ suy nghĩ thấp, giải được tất cả 50 tác vụ, và một bộ định tuyến Jev gửi tác vụ đến Flash-Lite trước rồi nâng cấp những tác vụ bị gắn cờ cũng giải được tất cả 50 tác vụ trong khi giảm chi phí và thời gian phản hồi; giới hạn maxOutputTokens ở 300 không tiết kiệm gì trên các tác vụ dễ và làm hỏng 7 trong số 25 tác vụ khó.

2 tháng 11Thứ Hai
  1. Zyphra Research58

    Zyphra giới thiệu ZHA hierarchical attention, một phương pháp thưa với định tuyến dưới bậc hai

    Zyphra đã giới thiệu Zyphra Hierarchical Attention (ZHA), một phương pháp attention thưa xây dựng một cây các bản tóm tắt KV-cache nén và định tuyến các truy vấn từ trên xuống qua cây đó, mang lại độ phức tạp dưới bậc hai với các ngưỡng top-p phù hợp. Các mô hình đã được huấn luyện trước hiện có thể được thích nghi thông qua một giai đoạn chưng cất KL ngắn chỉ sử dụng vài tỷ token; trên Qwen3.6-35B-A3B, ZHA thêm 81.920 tham số có thể huấn luyện, khoảng 0,00024% của mô hình cơ sở. Trên RULER-13 ở 256K token, mô hình cây rộng đạt 96,2% so với 96,0% của dense attention, và cây sâu sáu tầng đạt 63,4% trên LongBench v2 so với 58,0% của dense trong khi chỉ chú ý đến khoảng 1,1% của KV cache; một mô hình roofline trên GPU dự báo tốc độ nhanh hơn 32-35 lần so với dense attention ở 10M token.

  2. Ai2 · Allen Institute for AI32

    Olmo 3 đã đạt được xếp hạng AI đạo đức cao nhất của Nextcloud như thế nào

    Olmo 3 của Ai2 đã nhận được xếp hạng AI Đạo đức cao nhất của Nextcloud, màu xanh lá, đòi hỏi phần mềm huấn luyện và suy luận mã nguồn mở, một mô hình đã huấn luyện có thể tự lưu trữ, và dữ liệu huấn luyện công khai. Nextcloud đóng gói Olmo 3 với backend LLM cục bộ llm2 của mình, và biến thể 7B được chọn để người dùng không có 16 hoặc 32 GB VRAM vẫn có được trải nghiệm cục bộ tốt ngay khi dùng.

  3. Anthropic Research70

    Anthropic phát hành FlashProve, hệ thống zkSNARK mã nguồn mở cho suy luận LLM có thể chứng minh

    Anthropic phát hành FlashProve, một nguyên mẫu mã nguồn mở sử dụng zkSNARK để chứng minh một phản hồi đến từ một mô hình đã cam kết mà không tiết lộ trọng số của nó. Trên Llama 4 Maverick (MoE 400 tỷ tham số, trọng số 4-bit), một H100 duy nhất tạo bằng chứng với tốc độ khoảng 110 token/giây với bằng chứng ~19 MB mỗi yêu cầu 1.024 token, tức khoảng 70-95 lần thời gian GPU mà vLLM cần cho cùng công việc. Bản phát hành bao gồm mã prover và verifier có thể thực thi, một verifier C++ nhanh, một verifier Lean với các tuyên bố completeness, soundness và zero-knowledge được máy kiểm chứng, và một báo cáo kỹ thuật, tất cả theo Apache 2.0.

    Vì sao đáng chú ý: FlashProve của Anthropic cho thấy các bằng chứng dựa trên zkSNARK về suy luận đang trở nên thực tiễn đối với một mô hình MoE 400 tỷ tham số, với mã nguồn mở và các tuyên bố bảo mật được Lean kiểm chứng.

30 tháng 10Thứ Sáu
  1. Google DeepMind58

    Google DeepMind mở rộng công cụ lập kế hoạch AI PlanAssist tới 12 hội đồng tiếng Anh khác

    Google DeepMind đang mở rộng PlanAssist, công cụ lập kế hoạch AI được xây dựng trên Gemini của mình, tới 12 cơ quan lập kế hoạch địa phương khác ở Anh, nâng tổng số lên 15. Trong các thử nghiệm tại Barnet, Camden và Dorset từ tháng 6, công cụ này đã giảm thời gian trung bình mà các cán bộ dành cho các nhiệm vụ đánh giá chủ hộ xuống tới 58%, và hơn 70% báo cáo do công cụ tạo ra được phê duyệt mà không cần chỉnh sửa.

  2. Waymo Blog58

    Toyota và Waymo sẽ thử nghiệm đội xe tự hành bZ4X tại Nhật Bản vào năm 2027

    Toyota và Waymo công bố giai đoạn tiếp theo trong hợp tác phát triển xe tự hành, với hoạt động ban đầu nhằm thử nghiệm và xác thực đội xe Toyota bZ4X tự hành tại Nhật Bản vào năm 2027, sau đó dự kiến triển khai đến Vương quốc Anh và các thị trường khác do Waymo phục vụ. Toyota sẽ sản xuất xe tại nhà máy Takaoka ở thành phố Toyota, tỉnh Aichi, lắp ráp xe cơ sở và tích hợp phần cứng xe tự hành của Waymo dưới một mái nhà. Các công ty mô tả quan hệ đối tác này là một cột mốc cho dịch vụ gọi xe tự hành hoàn toàn đầu tiên của Nhật Bản sử dụng xe sản xuất trong nước với số lượng lớn.

  3. Amazon Science38

    Tăng tốc LLM cho các ứng dụng du lịch: Medusa kết hợp chưng cất tri thức

    Kết hợp chưng cất tri thức với khung Medusa giúp một học trò TinyLlama 1,1 tỷ tham số đạt chất lượng tương đương giáo viên Llama-3.1 70 tỷ tham số trong khi chạy nhanh gấp 10 đến 20 lần với chi phí dưới một phần ba. Khi làm việc với Booking.com trên AI Trip Planner, Smart Filters và tạo mô tả chỗ ở, pipeline đã thu hẹp hơn 90% khoảng cách chất lượng và tăng thêm tốc độ gấp 2 đến 3,6 lần nhờ các đầu Medusa.

  4. Meta Engineering Blog58

    Meta trình bày chi tiết triển khai sản xuất Catching JiTTests với quy trình đánh giá có con người trong vòng lặp

    Meta đã đưa Catching JiTTests, phương pháp tạo kiểm thử đúng lúc dựa trên LLM của mình, từ nguyên mẫu nghiên cứu vào hạ tầng sản xuất và công bố kết quả trong bài báo FSE 2026 "Just-in-Time Catching Test Generation at Meta." Hệ thống chạy qua đêm trên công suất dư thừa, nhắm vào các diff rủi ro, tạo kiểm thử thông qua quy trình dodgy-diff và nhận biết ý định, đồng thời lọc dương tính giả bằng một tập hợp LLM-as-Judge cùng bộ đánh giá RubFake dựa trên quy tắc trước khi đến tay kỹ sư. Tính đến thời điểm viết bài, 589 kỹ sư (64% số được tiếp cận) đã tương tác với kết quả, cho thấy tỷ lệ dương tính thật 60%, và trong nửa đầu năm 2026 hệ thống đã phát hiện 74 lỗi quyền riêng tư nghiêm trọng ở giai đoạn diff và giảm 20% SEV về quyền riêng tư.

  5. Google Developers Blog12

    DevFest 2026 trở lại: Hơn 800 sự kiện cộng đồng tại 115 quốc gia

    DevFest, chuỗi sự kiện dành cho nhà phát triển do cộng đồng dẫn dắt của Google và được tổ chức bởi các Google Developer Groups, sẽ trở lại từ ngày 1 tháng 10 đến ngày 31 tháng 12 năm 2026, với hơn 800 sự kiện tại 115 quốc gia, dự kiến thu hút gần 1 triệu người tham dự. Các phiên thảo luận và workshop bao gồm các công nghệ Google AI cùng các nhánh Google Cloud, Android và Web, xoay quanh việc xây dựng, bảo mật và mở rộng quy mô trong kỷ nguyên tác tử. Các sự kiện được tổ chức bằng ngôn ngữ địa phương bởi những nhà tổ chức cơ sở, với diễn giả bao gồm các Google Developer Experts và kỹ sư Google.

29 tháng 10Thứ Năm
  1. inclusionAI Models34

    inclusionAI phát hành Ling-3.0-flash-Sante-fp8, mô hình chăm sóc sức khỏe lượng tử hóa FP8

    inclusionAI đã phát hành Ling-3.0-flash-Sante-fp8, phiên bản lượng tử hóa FP8 của mô hình Ling-3.0-flash-Sante chuyên về chăm sóc sức khỏe, giữ nguyên 124B tổng tham số và 5.1B tham số hoạt động mỗi token. Mô hình đạt mức trung bình 73.9 trên các benchmark chăm sóc sức khỏe, tương đương checkpoint BF16, đồng thời giảm bộ nhớ trọng số cho phần cứng hỗ trợ FP8. Mô hình chỉ dành cho nghiên cứu này hỗ trợ ngữ cảnh 256K token và mặc định ở chế độ thinking với khả năng gọi công cụ.

  2. Meta Engineering Blog40

    Meta Andromeda: Công cụ truy xuất quảng cáo thế hệ mới của Meta đạt 1 tỷ quảng cáo mỗi giây

    Meta đã trình bày chi tiết về thế hệ tiếp theo của Andromeda, công cụ truy xuất quảng cáo được cá nhân hóa của họ, công cụ này chấm điểm hơn một tỷ quảng cáo mỗi giây trong môi trường production — tăng 100 lần thông lượng so với hệ thống năm 2024. Kiến trúc mới mang mixture-of-experts lấy cảm hứng từ LLM vào truy xuất, đạt hiệu năng mô hình gần mức xếp hạng với số FLOPs lúc suy luận ít hơn khoảng 300 lần, với hơn 10 tỷ quảng cáo mỗi giây trên một GPU NVIDIA GH200 duy nhất. Kể từ năm 2025, Andromeda đã mang lại mức tăng 2,4% về chuyển đổi trên Facebook.

  3. Replit Blog55

    Replit trình bày chi tiết kiến trúc bảo mật đằng sau Agent Habitat dành cho công việc của agent

    Replit đã công bố kiến trúc đằng sau Agent Habitat, sản phẩm cho phép agent truy cập kiến thức và hệ thống của công ty trong ranh giới do công ty kiểm soát. Bài viết nêu bốn nguyên tắc: quyền hạn tối thiểu cho agent, ngăn chặn lan rộng khi có sự cố, thay đổi sản xuất có trách nhiệm giải trình, và công việc được ủy quyền có thể quản trị. Replit cho biết cơ chế cô lập microVM hiện có của mình đã ngăn chặn việc khai thác các lỗ hổng nhân Linux mới được công bố gần đây, và thông tin xác thực của connector nằm ngoài ngữ cảnh của agent, với một credential broker ủy quyền từng yêu cầu trước khi lấy bí mật từ vault.

  4. Preferred Networks News40

    Tập đoàn Zenrin và Preferred Networks hợp tác kinh doanh và liên minh vốn để kết hợp dữ liệu không gian địa lý với AI

    Zenrin, Zenrin DataCom và Preferred Networks đã ký kết liên minh kinh doanh và vốn, trong đó các công ty Zenrin đăng ký phân bổ bên thứ ba của PFN. Các đối tác sẽ kết hợp dữ liệu không gian địa lý được cập nhật liên tục, bao gồm hồ sơ thay đổi lịch sử, với AI tạo sinh, AI vật lý và công nghệ nhận dạng không gian 3D của PFN để xây dựng các mô hình AI hiểu và dự đoán sự thay đổi trong thế giới thực. Các lĩnh vực trọng tâm ban đầu bao gồm khu vực công, bất động sản, bán lẻ và phân phối, nhắm đến dự báo nhu cầu, lựa chọn địa điểm cửa hàng và quy hoạch đô thị, phòng chống thiên tai và mô phỏng hậu cần.

  5. Figma Blog58

    Figma đã huấn luyện một mô hình chỉnh sửa thiết kế thành thạo Figma như thế nào

    Figma đã trình bày chi tiết cách họ huấn luyện một mô hình chỉnh sửa thiết kế do chính họ phát triển cho Figma agent của mình, bắt đầu bằng việc tinh chỉnh có giám sát trên các yêu cầu chỉnh sửa tổng hợp được biểu diễn dưới định dạng tệp gốc của Figma và được xác thực bằng các kiểm tra tất định cùng các mô hình đánh giá trực quan.

28 tháng 10Thứ Tư
  1. Meta Engineering Blog34

    Meta PrivacyLib: Kiểm soát quyền riêng tư tại ranh giới truy cập dữ liệu

    Meta đã trình bày chi tiết về PrivacyLib, một thư viện chung được nhúng trong các ứng dụng khách của hàng trăm hệ thống dữ liệu và xử lý của mình, nhằm thực thi các yêu cầu về quyền riêng tư ngay tại điểm truy cập dữ liệu, thực hiện hàng tỷ lượt kiểm tra mỗi giây. Các hệ thống chỉ cần tích hợp một lần, và các khả năng quyền riêng tư mới được phát hành dưới dạng mô-đun plug-in, thay thế cho các triển khai riêng lẻ theo từng hệ thống vốn có thể mất hàng tháng. Một mô-đun Agent Observability theo dõi việc truy cập dữ liệu của các AI agent nội bộ bằng cách mang ngữ cảnh agent đến PrivacyLib.

27 tháng 10Thứ Ba
  1. Replit Blog75

    Replit Cloud Agents giờ đây cho phép cả những người không phải kỹ sư đóng góp vào cơ sở mã của công ty

    Replit đã ra mắt Cloud Agents cho các kho lưu trữ hiện có, cho phép bất kỳ ai trong nhóm mô tả thay đổi bằng ngôn ngữ tự nhiên và để agent mở một pull request đã được kiểm thử trên GitHub hoặc GitLab, khả dụng cho tất cả khách hàng Pro và Enterprise. Agent chạy từng thay đổi trong các sandbox đám mây biệt lập, nhấp qua ứng dụng đang chạy và đính kèm ảnh chụp màn hình cùng video vào PR, trong khi môi trường chia sẻ cung cấp cho mọi người đóng góp một thiết lập được cấu hình sẵn và cập nhật từ nhánh chính. Replit cũng giới thiệu bộ nhớ không gian làm việc tự cải thiện ở chế độ truy cập sớm, biến các bình luận đánh giá thành kỹ năng nhóm do kỹ sư phê duyệt, và tích hợp Slack cho phép người dùng nhắc @Replit trong một luồng để bắt đầu một thay đổi.

    Vì sao đáng chú ý: Replit tích hợp Cloud Agents vào cơ sở mã hiện có của doanh nghiệp, cho phép nhân sự không phải kỹ sư gửi thay đổi dưới dạng PR kèm video kiểm thử, thể hiện một hướng đi của công cụ lập trình AI khi mở rộng sang quy trình cộng tác nhóm.

  2. Sakana AI Blog40

    Sakana AI mở quyền truy cập sớm cho Nền tảng Sakana API dành cho doanh nghiệp

    Sakana AI đã mở chương trình truy cập sớm cho Nền tảng Sakana API, cung cấp cho khách hàng doanh nghiệp quyền truy cập API vào các LLM của mình với khả năng quản lý thành viên và chi phí sử dụng ở cấp tổ chức và không gian làm việc. API tương thích với OpenAI chỉ yêu cầu thay đổi endpoint, và Sakana Fugu cùng Fugu Ultra được cung cấp trước, Sakana Namazu và Fugu Max sẽ theo sau. Các tính năng bao gồm kiểm soát truy cập dựa trên vai trò, nhật ký kiểm toán CSV, giới hạn ngân sách, thanh toán bằng hóa đơn, MSA và DPA, cùng cam kết không huấn luyện trên dữ liệu đầu vào của khách hàng.

  3. Google Developers Blog34

    Xây dựng Thương mại Hội thoại với Bầy Đa Tác tử trên GCP: Một Nguyên mẫu Hoạt động

    Các nhà phát triển Google Cloud đã xây dựng HappyDelivery, một nguyên mẫu hoạt động của thương mại hội thoại sử dụng LangGraph, Gemini, FastAPI và Google Cloud, theo một bản thiết kế ba lớp trước đó gồm Ingress, Memory và Cognition. Lớp Ingress xác thực chữ ký webhook đặc thù của nền tảng cho WhatsApp, RCS, Apple Messages và SMS, chuẩn hóa payload thành một schema chung và chuyển chúng sang Pub/Sub, trả về HTTP 200 trong khoảng 300ms. Bài viết đi qua mã nguồn, máy trạng thái, các công cụ tài chính tất định và một bộ kiểm thử xác minh tự động.

  4. Google Developers Blog58

    Google A2UI bổ sung các định dạng suy luận có thể hoán đổi, với Express giảm độ trễ tới 3 lần

    Google đã phát hành các định dạng suy luận có thể hoán đổi cho A2UI, giao thức tối ưu cho agent của hãng dành cho giao diện người dùng tạo sinh, cho phép các agent tạo ra một định dạng trung gian mà trình biên dịch SDK chuyển thành các thông điệp A2UI đã được xác thực. Định dạng mặc định mới, A2UI Express, sử dụng ít hơn tới 3 lần token so với Direct JSON cho cùng một giao diện và giảm độ trễ tới 3 lần, đồng thời được phát hành trong các SDK Python (a2ui-agent-sdk 0.9.0), TypeScript (@a2ui/agent) và Dart. Google cũng đã trình diễn các mô hình ra quyết định như Jev của TypeSafe lựa chọn giữa các bố cục được định nghĩa trước, mà hãng cho biết có thể giảm độ trễ tới 80 lần; trong ví dụ Apparite, các màn hình đã hoàn tất trong 0,8 đến 1,7 giây qua 11 lời nhắc.

  5. Preferred Networks News60

    PFN phát hành PLaMo 3.1 Prime với tìm kiếm Web và Deep Research

    Preferred Networks bắt đầu cung cấp PLaMo 3.1 Prime vào ngày 27 tháng 10 năm 2026, bổ sung tính năng tìm kiếm Web và Deep Research tự động lập kế hoạch, thu thập, phân tích và viết báo cáo có trích dẫn nguồn trong vài phút đến vài chục phút. Deep Research cũng chạy được tại chỗ (on-premises) và có thể kết nối với các hệ thống tìm kiếm tài liệu nội bộ, trong khi công ty báo cáo mức cải thiện điểm trung bình khoảng 15% trên tám benchmark liên quan đến ảo giác (hallucination), bao gồm AA Omniscience, so với PLaMo 3.0 Prime. PFN cũng cho biết tốc độ xử lý nhanh hơn 1,7 lần nhờ giải mã suy đoán (speculative decoding) và giảm 90% token đầu ra ở chế độ không suy luận, đồng thời ra mắt gói PLaMo API miễn phí cùng chiến dịch PLaMo Chat cung cấp Deep Research hai lần mỗi ngày cho đến ngày 30 tháng 11 năm 2026.

    Vì sao đáng chú ý: PLaMo 3.1 Prime của PFN bổ sung Deep Research tự động chạy tại chỗ, mang đến cho doanh nghiệp Nhật Bản một lựa chọn triển khai cục bộ cho công việc điều tra có trích dẫn nguồn.

  6. Apple Newsroom58

    Apple Creator Studio bổ sung trợ lý AI, hỗ trợ MCP và MotionVFX trong Final Cut Pro

    Apple đã giới thiệu các bản cập nhật cho Apple Creator Studio, mang đến một trợ lý thông minh được xây dựng trên các mô hình của Apple và bên thứ ba cho Keynote, Pages và Numbers, cùng với hỗ trợ Model Context Protocol để các tác nhân AI bên ngoài có thể đọc nội dung và thực hiện chỉnh sửa trong các ứng dụng đó. Final Cut Pro cho Mac hiện bao gồm MotionVFX tích hợp sẵn và video kho Content Hub, Logic Pro có thêm trợ lý bản beta và Stem Splitter tách trống, và Pixelmator Pro bổ sung Generate Fill cho chỉnh sửa hình ảnh bằng ngôn ngữ tự nhiên. Các bản cập nhật sẽ có mặt trên App Store vào tháng 11 này, miễn phí cho người đăng ký hiện tại, với đăng ký mới ở mức 12,99 đô la Mỹ mỗi tháng hoặc 129 đô la Mỹ mỗi năm.

26 tháng 10Thứ Hai
  1. Replit Blog38

    Replit: Mọi công ty trong Fortune 500 sẽ trở thành công ty tự vận hành vào năm 2030

    Replit dự đoán mọi công ty trong Fortune 500 sẽ trở thành "Công ty Tự vận hành" vào cuối năm 2030, với các tác nhân AI thực thi và phối hợp công việc trong khi con người đặt mục tiêu và chịu trách nhiệm. Replit cho biết các kỹ sư của họ gần như tăng gấp ba sản lượng mã trong nửa đầu năm 2026 trong khi thời gian đánh giá, số lần hoàn nguyên và sự cố sản phẩm vẫn không đổi. Replit for Business đang được xây dựng làm nền tảng, và tại SMFL, một quy trình phát triển trước đây cần sáu người trong sáu tháng đã được một người hoàn thành trong một tuần.

  2. Vapi Blog38

    Vapi ra mắt tính năng chia tách lưu lượng cho việc triển khai voice agent

    Vapi đã ra mắt tính năng chia tách lưu lượng, cho phép các nhóm định tuyến 0,1%, 1% hoặc 5% cuộc gọi đến và đi tới một phiên bản agent mới trước khi cam kết. Trước đây, việc xuất bản một phiên bản assistant mới sẽ gửi 100% lưu lượng tới đó ngay lập tức. Tính năng này bao gồm "stickiness" để giữ những người gọi lại ở cùng một phiên bản, và Vapi khuyến nghị bắt đầu với chia tách hai chiều.

  3. Mastra Blog40

    Mastra mở Knowledge, bộ não công ty tự lưu trữ cho AI agent, cho thêm tám đối tác thiết kế

    Mastra đang mở dịch vụ Knowledge của mình, một lớp ngữ cảnh toàn công ty tự lưu trữ dành cho AI agent, cho thêm tám đối tác thiết kế theo nguyên tắc ai đến trước được phục vụ trước. Knowledge kết nối các hệ thống như Slack và Monday, tự cập nhật và hỗ trợ các cơ sở tri thức riêng biệt theo từng chức năng với quyền ở cấp cá nhân, nhóm và tổ chức. Mastra cho biết việc nối một đồ thị tri thức toàn công ty vào các coding agent của mình đã tạo ra cải thiện rõ rệt về chất lượng mã được giao.

24 tháng 10Thứ Bảy
  1. Google Research58

    Google Research phác thảo cách AI sàng lọc bệnh lao của mình chuyển từ đánh giá chuẩn mực sang triển khai lâm sàng được chứng nhận

    Google Research đã trình bày tại IDWeek 2026 về cách các mô hình sàng lọc bệnh lao qua X-quang ngực của mình tiến triển từ một đánh giá chuẩn mực trên Radiology năm 2019 thành một công cụ được chứng nhận CE MDR Class IIb, được đối tác Nexus AI triển khai tại khoảng 40 cơ sở y tế trên sáu quốc gia. Hơn 90 bác sĩ lâm sàng đã đánh giá hơn 25.000 phim X-quang ngực, rút ngắn thời gian xử lý từ vài tuần xuống dưới 45 giây, và công cụ này cũng đã được triển khai ngoại tuyến ở độ sâu bốn kilômét dưới lòng đất tại Mỏ vàng Mponeng của Nam Phi. Google đã mã nguồn mở các embedding X-quang ngực và MedSigLIP thông qua HAI-DEF và phát hành MedGemma, mà họ cho biết đã vượt 10 triệu lượt tải xuống, trong khi Bộ Y tế Indonesia đang tinh chỉnh cả hai mô hình trên phim X-quang trong nước cho một chương trình sàng lọc quốc gia.

23 tháng 10Thứ Sáu
  1. Amazon Science38

    Khoa học đằng sau TorchNeuron, backend PyTorch mới của Amazon cho chip AWS Trainium

    Amazon đã phát hành TorchNeuron, một backend PyTorch mã nguồn mở chuyển đổi mã PyTorch thành các phép toán có thể thực thi trên hệ thống AWS Trainium với ít hoặc không cần thay đổi mã. Nó bổ sung chế độ eager thích ứng tùy chọn giúp nhóm và biên dịch các phép toán để đạt hiệu năng gần như biên dịch, cùng với bộ nhớ đệm NEFF đa cấp; một dịch vụ biên dịch dùng chung đã giảm thời gian đến bước huấn luyện đầu tiên khoảng một phần ba trong một thử nghiệm LLM 64 tiến trình. Nhóm Annapurna đã tinh chỉnh và đánh giá hiệu năng nó bằng 841 mô hình đại diện được chắt lọc từ hàng trăm nghìn mô hình mã nguồn mở.

  2. Modal Blog58

    Modal và Sakana AI đã phục vụ một mô hình MoE ~1T tham số cho API Sakana Namazu như thế nào

    Nhóm kỹ sư triển khai tại chỗ của Modal đã làm việc với Sakana AI để chạy Sakana Namazu, một mô hình MoE ~1T tham số được tinh chỉnh cho bối cảnh kinh doanh Nhật Bản, trên Modal cho lần ra mắt API công khai của mô hình này. Nhóm đã áp dụng lượng tử hóa NVFP4 chọn lọc chỉ cho các routed expert, giữ attention, router và shared expert ở BF16, đồng thời hiệu chỉnh trên các cuộc hội thoại chủ yếu bằng tiếng Nhật để cả 23.040 expert đều thấy lưu lượng đại diện. Một mô hình draft DFlash tùy chỉnh được huấn luyện trên hơn 30 tỷ raw token ID đã tăng tỷ lệ chấp nhận token suy đoán thêm 25% và giảm độ trễ giải mã mỗi token khoảng 35%, trong khi một drafter thứ hai được huấn luyện trên khoảng 1 triệu yêu cầu thực tế đã nâng độ dài chấp nhận trung bình từ 3,51 lên 5,01 và giảm độ trễ p99 từ 68s xuống 52s.

  3. Figma Blog40

    Cách đưa Hệ thống thiết kế của bạn vào hoạt động với Figma Agent

    Figma agent hiện đã được phát hành rộng rãi, và Figma giải thích cách cung cấp hệ thống thiết kế của bạn cho nó để đầu ra khớp với sản phẩm của bạn. Việc kết nối một thư viện đã xuất bản cho phép agent sử dụng các thành phần và token đã được phê duyệt, trong khi các tệp hướng dẫn mã hóa quy tắc của nhóm và các trang Examples hoặc cách đặt tên _example cung cấp các mẫu có thể tái sử dụng.

22 tháng 10Thứ Năm
  1. Sakana AI Blog58

    Sakana AI ra mắt Sakana Aquarium, nền tảng AI agent dựa trên ontology cho quyết định doanh nghiệp

    Sakana AI công bố Sakana Aquarium, một nền tảng để xây dựng, vận hành và quản lý các AI agent hỗ trợ ra quyết định và thực thi trong tổ chức dựa trên một ontology. Nền tảng kết hợp ba phần: Ontology tổ chức tri thức, quy tắc và dữ liệu cùng ý nghĩa và mối quan hệ của chúng, đồng thời kết nối các nguồn hiện có mà không cần di chuyển dữ liệu; Governance thiết lập quyền truy cập và phê duyệt trước khi thực thi, đồng thời ghi log mọi thứ từ lý do quyết định đến kết quả thực thi; và Managed Agents triển khai các quy trình bao gồm tra cứu thông tin, đánh giá bằng AI, thực thi chức năng và phê duyệt của con người. Sakana AI cho biết các kết nối dữ liệu và ontology có thể được tái sử dụng giữa các agent, và nền tảng này xuất phát từ công việc do FDE dẫn dắt với các tổ chức tài chính như MUFG, SMBC Group và Daiwa Securities Group.

  2. Modal Blog71

    Modal phát hành Spindle, một máy chủ huấn luyện mã nguồn mở tương thích với Tinker

    Modal đã phát hành Spindle, một máy chủ huấn luyện mã nguồn mở tương thích với Tinker, chạy trong workspace Modal của khách hàng, cho phép các nhóm tùy chỉnh stack và trả tiền cho thời gian GPU thay vì token. Spindle hỗ trợ huấn luyện toàn bộ tham số và multi-LoRA trên các mô hình mở, và Modal báo cáo rằng việc chia sẻ một trainer cho 8 khách hàng đã cắt giảm chi phí trên mỗi 1M token đầu ra tới 80% so với Tinker trên một job GRPO DAPO-math. Modal cho biết Spindle vẫn đang trong giai đoạn beta và định vị nó giữa thư viện huấn luyện Dojo và các primitive cụm thô của mình.

    Vì sao đáng chú ý: Máy chủ Spindle mã nguồn mở của Modal mang đến cho các nhóm một lựa chọn thay thế tương thích với Tinker, đánh đổi giá theo token lấy thời gian GPU, với việc chia sẻ multi-LoRA được báo cáo giúp cắt giảm chi phí tới 80%.

  3. Google Developers Blog38

    Project Chrysalis của Google Cloud: Kiến trúc AI Agent tự tiến hóa có quản trị trên Gemini và ADK

    Các nhà nghiên cứu Google Cloud đã công bố Project Chrysalis, một kiến trúc tham chiếu cho các AI agent tự tiến hóa có quản trị, được xây dựng trên nền tảng Gemini và Agent Development Kit (ADK). Trong các mô phỏng sự cố ngừng dịch vụ do cache-stampede vào Black Friday, kiến trúc này đã rút ngắn thời gian từ lúc bắt đầu đến biện pháp giảm thiểu đầu tiên từ 15–45 phút xuống còn 1,8 giây, giảm lỗi HTTP 5xx từ 72,7%–80,0% xuống 0,0%, và giảm độ trễ P99 từ 519,8 ms xuống 18,2 ms. Mọi hành động tự động đều bị giới hạn bởi Model Armor, Cloud KMS, Binary Authorization, OPA Policy Controller và quy trình phê duyệt có con người trong vòng lặp với dual-custody.