Tới nội dung
#Triển khai / kỹ thuật
6 tháng 11Thứ Sáu
  1. Sierra Blog58

    Sierra mua lại Anon để bổ sung xác thực và điều hướng tác nhân trên trình duyệt

    Sierra đã mua lại Anon, một startup đã xây dựng cơ sở hạ tầng cho phép các tác nhân AI doanh nghiệp đăng nhập, điều hướng trang và điền biểu mẫu trên các trang web không có API. Anon đã huy động được hơn 13 triệu USD và tung ra sản phẩm được hàng trăm khách hàng sử dụng, và đội ngũ của công ty giờ đây sẽ giúp các tác nhân của Sierra hoàn thành các bước yêu cầu đăng nhập vào một trang web hoặc làm việc thông qua một cổng thông tin trên trình duyệt. Nhà sáng lập Daniel Mason cho biết các mô hình và harness tốt hơn đã khiến tác nhân trình duyệt trở nên đáng tin cậy hơn nhiều, và các tác nhân Horizon của Sierra đang theo đuổi các mục tiêu dài hơi hơn như khởi tạo một khoản vay hoặc xin chấp thuận trước cho một thủ thuật chăm sóc sức khỏe.

5 tháng 11Thứ Năm
  1. The Pragmatic Engineer22

    Mở rộng quy mô Slack và GitHub: Maude Lemaire về hiệu năng backend và phân mảnh cơ sở dữ liệu

    Maude Lemaire, kỹ sư chính và là tác giả của "Refactoring at Scale", chia sẻ góc nhìn nội bộ về việc mở rộng quy mô Slack và GitHub trên podcast The Pragmatic Engineer. Cô đã dành gần tám năm dẫn dắt nhóm hạ tầng hiệu năng backend của Slack, sau đó gia nhập GitHub vào năm 2024 để giải quyết bài toán mở rộng cơ sở dữ liệu, và gần đây nhất làm việc về hiệu năng tại Cursor, bao gồm thời gian đến token đầu tiên. Cô giải thích giới hạn 23 emoji tùy chỉnh của Slack nhằm tránh hiệu ứng thundering herd, việc kiểm thử tải 500.000 kết nối WebSocket theo cách ngây thơ sẽ tốn 150.000 đô la mỗi lần chạy, và lý do lớp trừu tượng Active Record cùng các truy vấn scatter của GitHub giới hạn nó ở 16 phân mảnh cơ sở dữ liệu.

  2. Mistral AI69

    Mistral mở rộng Studio với các agent được quản lý, workflow và ứng dụng cùng Mistral Large 4 (Le Chonk)

    Mistral đã mở rộng nền tảng AI doanh nghiệp Studio với các agent và ứng dụng được quản lý, cùng các khả năng mới về workflow, ngữ cảnh doanh nghiệp, quan sát và đánh giá agent, chạy trên mô hình Mistral Large 4 (Le Chonk). Nhà phát triển có thể xây dựng các agent nhiều bước với skills, sandbox, subagent và hook, rồi triển khai lên Studio bằng một lệnh thông qua Mistral MCP server mới. Mistral cho biết các khách hàng gồm ABANCA, BNP Paribas, Capgemini và TCS đã sử dụng Studio trong môi trường production, với các triển khai có sẵn trên cloud, VPC hoặc on-premises.

    Vì sao đáng chú ý: Mistral mở rộng Studio với các agent được quản lý, workflow và ứng dụng, cho thấy doanh nghiệp có thể giữ quyền kiểm soát triển khai và dữ liệu trong môi trường của chính mình.

  3. Zyphra Research36

    ZYFA: Nhân tính toán Attention FP8 nhanh và chính xác trên AMD MI355X

    Zyphra Research đã phát hành ZYFA, các nhân tính toán attention prefill nhân quả BF16 và FP8 cho MI355X của AMD (CDNA4, gfx950), hỗ trợ head dimension 128 và hình dạng MLA của DeepSeek-V2. Trên các activation từ Mistral-7B, Qwen3-8B và DeepSeek-V2-Lite ở 16K token, các nhân FP8 của ZYFA đạt thông lượng 1,16–1,76× so với AITER, và trên đầu vào Gaussian ở 32K token đạt 1,26–1,37× ở head dimension 128 và 1,99× ở hình dạng MLA. Sai số FP8 thấp hơn 62–78% so với AITER ở head dimension 128.

  4. inclusionAI Repositories38

    ASpec: Khung huấn luyện thông lượng cao cho các mô hình nháp giải mã suy đoán

    ASpec là một khung huấn luyện thông lượng cao cho các mô hình nháp giải mã suy đoán, được xây dựng từ cơ sở mã TorchSpec với cơ chế attention tối ưu, các kernel hợp nhất và tính toán head/loss chọn lọc. Trên một lần chạy Qwen3-8B 4K, huấn luyện chỉ Draft đạt 15.256,44 token đầu vào/giây trên một GPU, gấp 1,96× TorchSpec, trong khi cửa sổ ổn định trực tuyến 8 GPU đạt 77.721,37 token/giây, gấp 2,28× TorchSpec. Nó hỗ trợ DSpark, DFlash, EAGLE3/4 và các draft MTP gốc, với quickstart Qwen3-8B và Ling tiny.

  5. Waymo Blog38

    Cách Waymo Driver xử lý thời tiết mùa đông khắc nghiệt

    Waymo đang chuẩn bị cho đội xe của mình đối phó với thời tiết mùa đông khắc nghiệt, bao gồm cả mùa El Niño lịch sử, bằng cách mở rộng khả năng chịu lạnh của Waymo Driver thế hệ thứ 6. Hệ thống kết hợp camera, radar và lidar với bộ sưởi tích hợp và cần gạt nước siêu nhỏ, đo độ bám thời gian thực tại mỗi bánh xe và sử dụng lốp tuyết, trong khi xe hoạt động như các trạm thời tiết di động chia sẻ dữ liệu đường đi trong toàn đội xe. Waymo cho biết họ sẽ giảm tốc, hạn chế hoặc tạm dừng dịch vụ khi điều kiện vượt quá ranh giới Khung An toàn của mình, và đang chạy thử nghiệm trên đường kín và thu thập dữ liệu tuyết rơi dày ở Alaska trong mùa này.

  6. MIT Technology Review · AI67

    Chiến thắng bầu cử giữa nhiệm kỳ của đảng Dân chủ Texas đặt việc xây dựng trung tâm dữ liệu AI của bang vào thế rủi ro

    Đảng Dân chủ đã thắng các cuộc đua vào Thượng viện và ghế thống đốc Texas, đồng thời nắm quyền kiểm soát Hạ viện bang lần đầu tiên sau 24 năm, sau khi biến trung tâm dữ liệu thành vấn đề trọng tâm trong chiến dịch tranh cử. Thống đốc đắc cử Gina Hinojosa đã thúc đẩy lệnh tạm hoãn hoàn toàn, và thống đốc sắp mãn nhiệm Greg Abbott trước đó đã chỉ đạo một cơ quan quản lý của bang vào ngày 21 tháng 9 tạm dừng cấp phép cho trung tâm dữ liệu.

  7. Mastra Blog38

    Mastra ra mắt Chương trình Harness Tùy chỉnh với các Kỹ sư Triển khai Tiền tuyến nhúng

    Mastra đã ra mắt Chương trình Harness Tùy chỉnh, trong đó các kỹ sư triển khai tiền tuyến nhúng vào đội ngũ khách hàng để cùng xây dựng các harness agent phù hợp. Chương trình bao gồm khả năng quan sát, đánh giá, MCP tùy chỉnh, quy trình làm việc có con người tham gia, xác thực và RBAC, cùng quyền truy cập sớm vào Nền tảng Doanh nghiệp Mastra. Mastra dẫn chứng Workday, đơn vị đã chuyển khỏi Amazon Bedrock Agents trong 31 ngày, cắt giảm 3.000 dòng mã và giảm chi phí lưu trữ vector 98%.

4 tháng 11Thứ Tư
  1. vLLM Blog73

    Buoyant phát hành Kinference, một control plane suy luận mã nguồn mở cho vLLM và Kubernetes

    Buoyant công bố Kinference, một control plane mã nguồn mở Apache v2 định tuyến lưu lượng suy luận tương thích OpenAI và Anthropic đến các worker vLLM trên Kubernetes, bổ sung giới hạn tốc độ token, theo dõi mức sử dụng và chi phí theo từng tenant, cân bằng tải nhận biết KV-cache và các chính sách suy luận bằng YAML. Trong các benchmark công khai của dự án, Kinference giảm 95% thời gian đến token đầu tiên trung vị và 45% độ trễ end-to-end trung vị so với cân bằng tải dịch vụ Kubernetes tiêu chuẩn trên một workload, và phục vụ goodput gấp 7,4 lần trên shared-prefix và khoảng 3,5 lần trên multiturn trong một bài kiểm tra công suất. Các chính sách có thể định tuyến prompt đơn giản hơn đến các mô hình rẻ hơn, đẩy lưu lượng đột biến tràn sang các nhà cung cấp như Bedrock và Databricks, hoặc giữ các yêu cầu gắn thẻ PII bên trong cluster, và các chỉ số theo từng tenant bao gồm tốc độ token, TTFT, ITL và token prompt có cache so với không có cache.

    Vì sao đáng chú ý: Kinference của Buoyant bổ sung cân bằng tải nhận biết KV-cache và các chính sách suy luận bằng YAML lên trên vLLM, với các benchmark tuyên bố cải thiện lớn về TTFT và goodput so với định tuyến dịch vụ Kubernetes tiêu chuẩn.

  2. LiveKit Blog22

    Clerk AI sử dụng LiveKit để vận hành các tác nhân thoại doanh nghiệp ở quy mô lớn

    Clerk AI đang vận hành các tác nhân thoại và nhắn tin doanh nghiệp trên khung mã nguồn mở và mạng biên toàn cầu của LiveKit, xử lý hơn 1.000 phiên thoại đồng thời mà không cần cấp phát trước. Các tác nhân phản hồi trong dưới 500ms và hỗ trợ gốc hơn 30 ngôn ngữ, với tính năng sàng lọc cuộc gọi ScreenSense đạt độ chính xác 97% và phát hiện thư thoại TrueReach trên 98%. Nền tảng này duy trì toàn quyền kiểm soát các nhà cung cấp STT, LLM và TTS, đồng thời có chứng nhận SOC 2 Type II với tính năng tuân thủ TCPA tích hợp sẵn.

  3. SemiAnalysis65

    SemiAnalysis: SpaceX sẽ trở thành đám mây AI lớn nhất thế giới, với mục tiêu ~13GW vào năm 2027

    SemiAnalysis báo cáo rằng SpaceX hiện đang xây dựng 3,6GW công suất trung tâm dữ liệu tại nhiều địa điểm và đã nâng ước tính cho năm 2027 lên khoảng 13GW, tăng so với con số 10GW đưa ra trong cuộc gọi thu nhập đầu tiên. Công ty cho biết đã xác định được hơn 9GW công suất khả thi và lập luận rằng SpaceX có thể là đơn vị xây dựng trung tâm dữ liệu nhanh nhất thế giới, dẫn chứng thời gian xây dựng Colossus 2 là 91 ngày cho 210MW và một địa điểm mới tại Mississippi với mục tiêu khoảng 4 tháng. Báo cáo cũng chỉ ra khả năng có một trung tâm dữ liệu tại địa điểm nhà máy chip TeraFab ở Texas và việc triển khai BESS tại Colossus 2 gần đạt 6GWh.

  4. Meta Engineering Blog34

    Meta F3 Lightning tăng tốc phát hành tính năng ML cho quảng cáo ~3,6 lần

    Meta đã giới thiệu F3 Lightning, một lớp hạ tầng nằm trên Facebook Feature Framework (F3) của họ, giúp tách việc phát hành tính năng khỏi việc thực thi chung, nhờ đó mỗi tính năng trong số hơn 20.000 tính năng xếp hạng quảng cáo được biên dịch, xác thực, triển khai và hoàn tác một cách độc lập. Các tính năng trích xuất tương đương giờ đây đến môi trường production nhanh hơn ~3,6 lần so với F3 trước đây mà không làm tăng chi phí tính toán hạ tầng.

  5. Preferred Networks News18

    Preferred Networks sẽ trưng bày dòng MN-Core tại SC26

    Preferred Networks sẽ trưng bày dòng MN-Core của mình tại SC26, hội nghị quốc tế về điện toán hiệu năng cao diễn ra từ ngày 15–20 tháng 11 tại Chicago, với các buổi trình diễn tại gian hàng diễn ra từ ngày 17–19 tháng 11. Tại gian hàng 4606, công ty sẽ giới thiệu mô hình cấu trúc và bản mô phỏng của chip AI suy luận MN-Core L1000 đang được phát triển, các kế hoạch tương lai cho dòng MN-Core L, một bản demo trực tiếp trên MN-Core 2 Devkit, và hoạt động R&D về cơ sở hạ tầng điện toán AI siêu hiệu quả.

  6. Figma Blog58

    Figma mở code layer cho tất cả người dùng trong bản beta mở với quy trình tạo nguyên mẫu do agent dẫn dắt

    Tính năng code layer của Figma hiện đã ở bản beta mở cho 100% người dùng, cho phép các nhóm xây dựng và so sánh các nguyên mẫu dựa trên code trực tiếp trên canvas Figma. Phần hướng dẫn cho thấy một nhà thiết kế clone kho GitHub vào một code layer, nhắc agent của Figma tạo ba biến thể địa chỉ giao hàng cạnh nhau, và tinh chỉnh một biến thể trong trình soạn thảo code toàn màn hình. Extract designs biến màn hình hoặc luồng đã ghi thành các design layer có thể chỉnh sửa, có thể gửi lại vào nguyên mẫu bằng Update code layer, và agent có thể hợp nhất code layer của hai đồng đội thành một trải nghiệm kết hợp.

3 tháng 11Thứ Ba
  1. OpenAI Alignment Blog60

    OpenAI trình bày chi tiết về việc huấn luyện các bộ phân loại kích hoạt cho an toàn và căn chỉnh

    OpenAI mô tả việc huấn luyện các bộ phân loại kích hoạt, hay còn gọi là probe, đọc các kích hoạt luồng dư nội bộ của mô hình để gắn cờ các phản hồi của trợ lý bị lệch chuẩn hoặc vi phạm chính sách, và cho biết đã triển khai chúng trên lưu lượng nội bộ và bên ngoài của các mô hình có năng lực nhất bắt đầu từ GPT-5.6. Các probe sử dụng kiến trúc Attention probe với MLP cộng QV-attention và trung bình động lũy thừa, được huấn luyện trên tối đa 1M tin nhắn được gán nhãn bởi các giám khảo mô hình suy luận, và chạy theo kiểu truyền phát trên công cụ suy luận để một phản hồi có thể bị chặn giữa lượt. OpenAI báo cáo khả năng chuyển giao probe xuất sắc qua nhiều giai đoạn hậu huấn luyện nhưng chuyển giao hạn chế hơn qua các checkpoint tiền huấn luyện, và cho biết các probe nhìn chung chống jailbreak tốt hơn các bộ phân loại dựa trên nội dung trong đợt red-teaming của mình.

    Vì sao đáng chú ý: OpenAI trình bày chi tiết cách các probe kích hoạt trên kích hoạt nội bộ của mô hình đóng vai trò lớp an toàn truyền phát, bao gồm các giới hạn về chuyển giao qua các checkpoint và nhu cầu huấn luyện lại.

  2. Sierra Blog42

    Sierra thiết kế lại Agent Studio xoay quanh Ghostwriter

    Sierra đã thiết kế lại Agent Studio xoay quanh Ghostwriter, agent luôn hoạt động của hãng để xây dựng agent, nhờ đó việc điều tra sự cố, chỉnh sửa một journey và kiểm thử bản sửa giờ diễn ra trong một cuộc hội thoại. Ghostwriter theo bạn qua các journey, simulation và dashboard, và mỗi phiên giữ các thay đổi cùng kết quả kiểm thử với nhau cho đến khi đồng đội xem xét và merge chúng. Agent Studio cũng nhóm các agent liên quan vào một project duy nhất và bổ sung diff từng dòng, Preview Chat, Simulations, cùng quản trị phát hành với phê duyệt bắt buộc và triển khai có kiểm soát.

  3. Newcomer58

    Các startup thúc đẩy biến GPU Compute thành hàng hóa có thể giao dịch

    Một số startup, bao gồm Ornn, Silicon Data, Architect và Liquid Compute, đang xây dựng thị trường tương lai, chỉ số giá và dịch vụ môi giới để chuẩn hóa giá GPU compute. Ornn đang gọi vốn vòng mới gồm ba đợt với định giá khoảng 1 tỷ USD, Thrive Capital và General Catalyst đang đàm phán tham gia, sau vòng hạt giống 33 triệu USD do a16z crypto dẫn dắt vào tháng 6. Chưa công ty nào được cơ quan quản lý tài chính phê duyệt, và kế hoạch niêm yết hợp đồng tương lai của CME gắn với chỉ số cho thuê GPU H100 và B200 của Silicon Data đã trượt mục tiêu ngày 5 tháng 10.

  4. Google Developers Blog58

    Google đánh giá các bộ phân loại giá rẻ để định tuyến mô hình Gemini theo chi phí mỗi tác vụ

    Google đã chạy một bài đánh giá tác nhân lập trình tự động chấm gồm 50 câu hỏi để kiểm tra liệu một bộ phân loại nhẹ, Jev của TypeSafe, có thể định tuyến từng tác vụ đến cấu hình Gemini rẻ nhất mà vẫn trả lời đúng hay không. Một heuristic regex cố định và độ dài prompt đạt 93,8% trên 16 câu hỏi phát triển nhưng giảm 23,2 điểm xuống 70,6% trên 34 tác vụ giữ lại, trong khi Jev đạt 96,0% trên toàn bộ bộ kiểm thử. Thiết lập không định tuyến mạnh nhất, Gemini 3.8 Flash ở chế độ suy nghĩ thấp, giải được tất cả 50 tác vụ, và một bộ định tuyến Jev gửi tác vụ đến Flash-Lite trước rồi nâng cấp những tác vụ bị gắn cờ cũng giải được tất cả 50 tác vụ trong khi giảm chi phí và thời gian phản hồi; giới hạn maxOutputTokens ở 300 không tiết kiệm gì trên các tác vụ dễ và làm hỏng 7 trong số 25 tác vụ khó.

2 tháng 11Thứ Hai
  1. Zyphra Research58

    Zyphra giới thiệu ZHA hierarchical attention, một phương pháp thưa với định tuyến dưới bậc hai

    Zyphra đã giới thiệu Zyphra Hierarchical Attention (ZHA), một phương pháp attention thưa xây dựng một cây các bản tóm tắt KV-cache nén và định tuyến các truy vấn từ trên xuống qua cây đó, mang lại độ phức tạp dưới bậc hai với các ngưỡng top-p phù hợp. Các mô hình đã được huấn luyện trước hiện có thể được thích nghi thông qua một giai đoạn chưng cất KL ngắn chỉ sử dụng vài tỷ token; trên Qwen3.6-35B-A3B, ZHA thêm 81.920 tham số có thể huấn luyện, khoảng 0,00024% của mô hình cơ sở. Trên RULER-13 ở 256K token, mô hình cây rộng đạt 96,2% so với 96,0% của dense attention, và cây sâu sáu tầng đạt 63,4% trên LongBench v2 so với 58,0% của dense trong khi chỉ chú ý đến khoảng 1,1% của KV cache; một mô hình roofline trên GPU dự báo tốc độ nhanh hơn 32-35 lần so với dense attention ở 10M token.

  2. Ai2 · Allen Institute for AI32

    Olmo 3 đã đạt được xếp hạng AI đạo đức cao nhất của Nextcloud như thế nào

    Olmo 3 của Ai2 đã nhận được xếp hạng AI Đạo đức cao nhất của Nextcloud, màu xanh lá, đòi hỏi phần mềm huấn luyện và suy luận mã nguồn mở, một mô hình đã huấn luyện có thể tự lưu trữ, và dữ liệu huấn luyện công khai. Nextcloud đóng gói Olmo 3 với backend LLM cục bộ llm2 của mình, và biến thể 7B được chọn để người dùng không có 16 hoặc 32 GB VRAM vẫn có được trải nghiệm cục bộ tốt ngay khi dùng.

  3. SemiAnalysis58

    SemiAnalysis ra mắt bộ đánh giá GDPx cho năng lực tác nhân tiên tiến trên các lĩnh vực giá trị cao

    SemiAnalysis đã phát hành GDPx, một bộ đánh giá bao gồm thiết kế chip, an ninh mạng, sinh học, tài chính, pháp lý, giao dịch định lượng, RSI, thiết kế phần cứng, khoa học vật liệu, căn chỉnh và kỹ thuật phần mềm, được xây dựng với 14 đối tác môi trường RL chuyên biệt. Ngay cả mô hình tốt nhất cũng chỉ đạt 12%, với Opus 5.5 giành chiến thắng ở giao dịch định lượng, phần cứng và thiết kế chip, Gemini 4 Carbon dẫn đầu về sinh học và kỹ thuật phần mềm, và GPT-6 Astra đứng đầu về RSI và khoa học vật liệu. Mỗi nhiệm vụ đều chạy trong một môi trường mô phỏng thực tế, chẳng hạn như một phòng giao dịch cổ phần tư nhân với ~4.000 tệp hoặc các dải an ninh mạng đa dịch vụ trực tiếp, khác với GDPval của OpenAI, mà SemiAnalysis lập luận rằng cung cấp ngữ cảnh sẵn và thiếu môi trường.

  4. SemiAnalysis58

    SemiAnalysis: Phản ứng dữ dội từ trung tâm dữ liệu trở thành vấn đề lưỡng đảng khi bầu cử giữa nhiệm kỳ đe dọa kế hoạch xây dựng 2028

    SemiAnalysis lập luận rằng bùng nổ trung tâm dữ liệu Mỹ năm 2027 phần lớn đã được chốt, với khoảng ba phần tư trong 33,8 GW dự kiến tại 20 bang hàng đầu của họ đã trong quá trình xây dựng, trong khi rủi ro bầu cử thực sự nằm ở năm 2028, khi mô hình của họ dự báo 62,2 GW công suất tăng ròng của Mỹ, phần lớn chưa khởi công. Họ theo dõi 13 bang nắm giữ 43,5 GW, tương đương 70% công suất quốc gia dự kiến, và phát hiện chín trong số 20 ứng viên bầu cử giữa nhiệm kỳ muốn tạm dừng xây dựng mới trong khi 11 người muốn có điều kiện, chia tương đối đều theo đảng phái. Rủi ro lớn nhất trong ngắn hạn là việc đóng băng cấp phép kéo dài tại TCEQ của Texas, vì riêng Texas đóng góp gần 30% GW của Mỹ trong năm 2028.

  5. Anthropic Research70

    Anthropic phát hành FlashProve, hệ thống zkSNARK mã nguồn mở cho suy luận LLM có thể chứng minh

    Anthropic phát hành FlashProve, một nguyên mẫu mã nguồn mở sử dụng zkSNARK để chứng minh một phản hồi đến từ một mô hình đã cam kết mà không tiết lộ trọng số của nó. Trên Llama 4 Maverick (MoE 400 tỷ tham số, trọng số 4-bit), một H100 duy nhất tạo bằng chứng với tốc độ khoảng 110 token/giây với bằng chứng ~19 MB mỗi yêu cầu 1.024 token, tức khoảng 70-95 lần thời gian GPU mà vLLM cần cho cùng công việc. Bản phát hành bao gồm mã prover và verifier có thể thực thi, một verifier C++ nhanh, một verifier Lean với các tuyên bố completeness, soundness và zero-knowledge được máy kiểm chứng, và một báo cáo kỹ thuật, tất cả theo Apache 2.0.

    Vì sao đáng chú ý: FlashProve của Anthropic cho thấy các bằng chứng dựa trên zkSNARK về suy luận đang trở nên thực tiễn đối với một mô hình MoE 400 tỷ tham số, với mã nguồn mở và các tuyên bố bảo mật được Lean kiểm chứng.

30 tháng 10Thứ Sáu
  1. Google DeepMind58

    Google DeepMind mở rộng công cụ lập kế hoạch AI PlanAssist tới 12 hội đồng tiếng Anh khác

    Google DeepMind đang mở rộng PlanAssist, công cụ lập kế hoạch AI được xây dựng trên Gemini của mình, tới 12 cơ quan lập kế hoạch địa phương khác ở Anh, nâng tổng số lên 15. Trong các thử nghiệm tại Barnet, Camden và Dorset từ tháng 6, công cụ này đã giảm thời gian trung bình mà các cán bộ dành cho các nhiệm vụ đánh giá chủ hộ xuống tới 58%, và hơn 70% báo cáo do công cụ tạo ra được phê duyệt mà không cần chỉnh sửa.

  2. Waymo Blog58

    Toyota và Waymo sẽ thử nghiệm đội xe tự hành bZ4X tại Nhật Bản vào năm 2027

    Toyota và Waymo công bố giai đoạn tiếp theo trong hợp tác phát triển xe tự hành, với hoạt động ban đầu nhằm thử nghiệm và xác thực đội xe Toyota bZ4X tự hành tại Nhật Bản vào năm 2027, sau đó dự kiến triển khai đến Vương quốc Anh và các thị trường khác do Waymo phục vụ. Toyota sẽ sản xuất xe tại nhà máy Takaoka ở thành phố Toyota, tỉnh Aichi, lắp ráp xe cơ sở và tích hợp phần cứng xe tự hành của Waymo dưới một mái nhà. Các công ty mô tả quan hệ đối tác này là một cột mốc cho dịch vụ gọi xe tự hành hoàn toàn đầu tiên của Nhật Bản sử dụng xe sản xuất trong nước với số lượng lớn.

  3. Amazon Science38

    Tăng tốc LLM cho các ứng dụng du lịch: Medusa kết hợp chưng cất tri thức

    Kết hợp chưng cất tri thức với khung Medusa giúp một học trò TinyLlama 1,1 tỷ tham số đạt chất lượng tương đương giáo viên Llama-3.1 70 tỷ tham số trong khi chạy nhanh gấp 10 đến 20 lần với chi phí dưới một phần ba. Khi làm việc với Booking.com trên AI Trip Planner, Smart Filters và tạo mô tả chỗ ở, pipeline đã thu hẹp hơn 90% khoảng cách chất lượng và tăng thêm tốc độ gấp 2 đến 3,6 lần nhờ các đầu Medusa.

  4. Meta Engineering Blog58

    Meta trình bày chi tiết triển khai sản xuất Catching JiTTests với quy trình đánh giá có con người trong vòng lặp

    Meta đã đưa Catching JiTTests, phương pháp tạo kiểm thử đúng lúc dựa trên LLM của mình, từ nguyên mẫu nghiên cứu vào hạ tầng sản xuất và công bố kết quả trong bài báo FSE 2026 "Just-in-Time Catching Test Generation at Meta." Hệ thống chạy qua đêm trên công suất dư thừa, nhắm vào các diff rủi ro, tạo kiểm thử thông qua quy trình dodgy-diff và nhận biết ý định, đồng thời lọc dương tính giả bằng một tập hợp LLM-as-Judge cùng bộ đánh giá RubFake dựa trên quy tắc trước khi đến tay kỹ sư. Tính đến thời điểm viết bài, 589 kỹ sư (64% số được tiếp cận) đã tương tác với kết quả, cho thấy tỷ lệ dương tính thật 60%, và trong nửa đầu năm 2026 hệ thống đã phát hiện 74 lỗi quyền riêng tư nghiêm trọng ở giai đoạn diff và giảm 20% SEV về quyền riêng tư.

  5. Google Developers Blog12

    DevFest 2026 trở lại: Hơn 800 sự kiện cộng đồng tại 115 quốc gia

    DevFest, chuỗi sự kiện dành cho nhà phát triển do cộng đồng dẫn dắt của Google và được tổ chức bởi các Google Developer Groups, sẽ trở lại từ ngày 1 tháng 10 đến ngày 31 tháng 12 năm 2026, với hơn 800 sự kiện tại 115 quốc gia, dự kiến thu hút gần 1 triệu người tham dự. Các phiên thảo luận và workshop bao gồm các công nghệ Google AI cùng các nhánh Google Cloud, Android và Web, xoay quanh việc xây dựng, bảo mật và mở rộng quy mô trong kỷ nguyên tác tử. Các sự kiện được tổ chức bằng ngôn ngữ địa phương bởi những nhà tổ chức cơ sở, với diễn giả bao gồm các Google Developer Experts và kỹ sư Google.

29 tháng 10Thứ Năm
  1. inclusionAI Models34

    inclusionAI phát hành Ling-3.0-flash-Sante-fp8, mô hình chăm sóc sức khỏe lượng tử hóa FP8

    inclusionAI đã phát hành Ling-3.0-flash-Sante-fp8, phiên bản lượng tử hóa FP8 của mô hình Ling-3.0-flash-Sante chuyên về chăm sóc sức khỏe, giữ nguyên 124B tổng tham số và 5.1B tham số hoạt động mỗi token. Mô hình đạt mức trung bình 73.9 trên các benchmark chăm sóc sức khỏe, tương đương checkpoint BF16, đồng thời giảm bộ nhớ trọng số cho phần cứng hỗ trợ FP8. Mô hình chỉ dành cho nghiên cứu này hỗ trợ ngữ cảnh 256K token và mặc định ở chế độ thinking với khả năng gọi công cụ.

  2. Meta Engineering Blog40

    Meta Andromeda: Công cụ truy xuất quảng cáo thế hệ mới của Meta đạt 1 tỷ quảng cáo mỗi giây

    Meta đã trình bày chi tiết về thế hệ tiếp theo của Andromeda, công cụ truy xuất quảng cáo được cá nhân hóa của họ, công cụ này chấm điểm hơn một tỷ quảng cáo mỗi giây trong môi trường production — tăng 100 lần thông lượng so với hệ thống năm 2024. Kiến trúc mới mang mixture-of-experts lấy cảm hứng từ LLM vào truy xuất, đạt hiệu năng mô hình gần mức xếp hạng với số FLOPs lúc suy luận ít hơn khoảng 300 lần, với hơn 10 tỷ quảng cáo mỗi giây trên một GPU NVIDIA GH200 duy nhất. Kể từ năm 2025, Andromeda đã mang lại mức tăng 2,4% về chuyển đổi trên Facebook.

  3. Replit Blog55

    Replit trình bày chi tiết kiến trúc bảo mật đằng sau Agent Habitat dành cho công việc của agent

    Replit đã công bố kiến trúc đằng sau Agent Habitat, sản phẩm cho phép agent truy cập kiến thức và hệ thống của công ty trong ranh giới do công ty kiểm soát. Bài viết nêu bốn nguyên tắc: quyền hạn tối thiểu cho agent, ngăn chặn lan rộng khi có sự cố, thay đổi sản xuất có trách nhiệm giải trình, và công việc được ủy quyền có thể quản trị. Replit cho biết cơ chế cô lập microVM hiện có của mình đã ngăn chặn việc khai thác các lỗ hổng nhân Linux mới được công bố gần đây, và thông tin xác thực của connector nằm ngoài ngữ cảnh của agent, với một credential broker ủy quyền từng yêu cầu trước khi lấy bí mật từ vault.

  4. Preferred Networks News40

    Tập đoàn Zenrin và Preferred Networks hợp tác kinh doanh và liên minh vốn để kết hợp dữ liệu không gian địa lý với AI

    Zenrin, Zenrin DataCom và Preferred Networks đã ký kết liên minh kinh doanh và vốn, trong đó các công ty Zenrin đăng ký phân bổ bên thứ ba của PFN. Các đối tác sẽ kết hợp dữ liệu không gian địa lý được cập nhật liên tục, bao gồm hồ sơ thay đổi lịch sử, với AI tạo sinh, AI vật lý và công nghệ nhận dạng không gian 3D của PFN để xây dựng các mô hình AI hiểu và dự đoán sự thay đổi trong thế giới thực. Các lĩnh vực trọng tâm ban đầu bao gồm khu vực công, bất động sản, bán lẻ và phân phối, nhắm đến dự báo nhu cầu, lựa chọn địa điểm cửa hàng và quy hoạch đô thị, phòng chống thiên tai và mô phỏng hậu cần.

  5. Figma Blog58

    Figma đã huấn luyện một mô hình chỉnh sửa thiết kế thành thạo Figma như thế nào

    Figma đã trình bày chi tiết cách họ huấn luyện một mô hình chỉnh sửa thiết kế do chính họ phát triển cho Figma agent của mình, bắt đầu bằng việc tinh chỉnh có giám sát trên các yêu cầu chỉnh sửa tổng hợp được biểu diễn dưới định dạng tệp gốc của Figma và được xác thực bằng các kiểm tra tất định cùng các mô hình đánh giá trực quan.

28 tháng 10Thứ Tư
  1. The Pragmatic Engineer58

    Giải thích về AI SRE: các tác nhân xử lý sự cố AI thay đổi chế độ trực on-call như thế nào và liệu chúng có hiệu quả không

    The Pragmatic Engineer đã phỏng vấn Rootly, incident.io và ResolveAI về các công cụ AI SRE, phần lớn chỉ tăng tốc điều tra sự cố trong Slack thay vì hành động tự chủ. Tần suất triển khai đã tăng khoảng gấp đôi trong một năm ở nhiều công ty, và dữ liệu của Rootly cho thấy số trang cảnh báo tăng với các trang ngoài giờ gần như tăng gấp đôi, trong khi các nhà cung cấp xây dựng lại tác nhân điều tra dựa trên đồ thị tri thức, bộ nhớ và tác nhân xác minh. Các ví dụ nội bộ bao gồm Sevbot của OpenAI, tác nhân điều tra của Stripe (khoảng 3 phút cho một lần chạy đơn giản, 14 phút cho một lần chuyên sâu) và ProdAgent của Google trong Gemini CLI, công cụ này gợi ý công cụ qua MCP và không viết mã.

  2. Meta Engineering Blog34

    Meta PrivacyLib: Kiểm soát quyền riêng tư tại ranh giới truy cập dữ liệu

    Meta đã trình bày chi tiết về PrivacyLib, một thư viện chung được nhúng trong các ứng dụng khách của hàng trăm hệ thống dữ liệu và xử lý của mình, nhằm thực thi các yêu cầu về quyền riêng tư ngay tại điểm truy cập dữ liệu, thực hiện hàng tỷ lượt kiểm tra mỗi giây. Các hệ thống chỉ cần tích hợp một lần, và các khả năng quyền riêng tư mới được phát hành dưới dạng mô-đun plug-in, thay thế cho các triển khai riêng lẻ theo từng hệ thống vốn có thể mất hàng tháng. Một mô-đun Agent Observability theo dõi việc truy cập dữ liệu của các AI agent nội bộ bằng cách mang ngữ cảnh agent đến PrivacyLib.

27 tháng 10Thứ Ba
  1. Replit Blog75

    Replit Cloud Agents giờ đây cho phép cả những người không phải kỹ sư đóng góp vào cơ sở mã của công ty

    Replit đã ra mắt Cloud Agents cho các kho lưu trữ hiện có, cho phép bất kỳ ai trong nhóm mô tả thay đổi bằng ngôn ngữ tự nhiên và để agent mở một pull request đã được kiểm thử trên GitHub hoặc GitLab, khả dụng cho tất cả khách hàng Pro và Enterprise. Agent chạy từng thay đổi trong các sandbox đám mây biệt lập, nhấp qua ứng dụng đang chạy và đính kèm ảnh chụp màn hình cùng video vào PR, trong khi môi trường chia sẻ cung cấp cho mọi người đóng góp một thiết lập được cấu hình sẵn và cập nhật từ nhánh chính. Replit cũng giới thiệu bộ nhớ không gian làm việc tự cải thiện ở chế độ truy cập sớm, biến các bình luận đánh giá thành kỹ năng nhóm do kỹ sư phê duyệt, và tích hợp Slack cho phép người dùng nhắc @Replit trong một luồng để bắt đầu một thay đổi.

    Vì sao đáng chú ý: Replit tích hợp Cloud Agents vào cơ sở mã hiện có của doanh nghiệp, cho phép nhân sự không phải kỹ sư gửi thay đổi dưới dạng PR kèm video kiểm thử, thể hiện một hướng đi của công cụ lập trình AI khi mở rộng sang quy trình cộng tác nhóm.

  2. Sakana AI Blog40

    Sakana AI mở quyền truy cập sớm cho Nền tảng Sakana API dành cho doanh nghiệp

    Sakana AI đã mở chương trình truy cập sớm cho Nền tảng Sakana API, cung cấp cho khách hàng doanh nghiệp quyền truy cập API vào các LLM của mình với khả năng quản lý thành viên và chi phí sử dụng ở cấp tổ chức và không gian làm việc. API tương thích với OpenAI chỉ yêu cầu thay đổi endpoint, và Sakana Fugu cùng Fugu Ultra được cung cấp trước, Sakana Namazu và Fugu Max sẽ theo sau. Các tính năng bao gồm kiểm soát truy cập dựa trên vai trò, nhật ký kiểm toán CSV, giới hạn ngân sách, thanh toán bằng hóa đơn, MSA và DPA, cùng cam kết không huấn luyện trên dữ liệu đầu vào của khách hàng.

  3. Google Developers Blog34

    Xây dựng Thương mại Hội thoại với Bầy Đa Tác tử trên GCP: Một Nguyên mẫu Hoạt động

    Các nhà phát triển Google Cloud đã xây dựng HappyDelivery, một nguyên mẫu hoạt động của thương mại hội thoại sử dụng LangGraph, Gemini, FastAPI và Google Cloud, theo một bản thiết kế ba lớp trước đó gồm Ingress, Memory và Cognition. Lớp Ingress xác thực chữ ký webhook đặc thù của nền tảng cho WhatsApp, RCS, Apple Messages và SMS, chuẩn hóa payload thành một schema chung và chuyển chúng sang Pub/Sub, trả về HTTP 200 trong khoảng 300ms. Bài viết đi qua mã nguồn, máy trạng thái, các công cụ tài chính tất định và một bộ kiểm thử xác minh tự động.

  4. Google Developers Blog58

    Google A2UI bổ sung các định dạng suy luận có thể hoán đổi, với Express giảm độ trễ tới 3 lần

    Google đã phát hành các định dạng suy luận có thể hoán đổi cho A2UI, giao thức tối ưu cho agent của hãng dành cho giao diện người dùng tạo sinh, cho phép các agent tạo ra một định dạng trung gian mà trình biên dịch SDK chuyển thành các thông điệp A2UI đã được xác thực. Định dạng mặc định mới, A2UI Express, sử dụng ít hơn tới 3 lần token so với Direct JSON cho cùng một giao diện và giảm độ trễ tới 3 lần, đồng thời được phát hành trong các SDK Python (a2ui-agent-sdk 0.9.0), TypeScript (@a2ui/agent) và Dart. Google cũng đã trình diễn các mô hình ra quyết định như Jev của TypeSafe lựa chọn giữa các bố cục được định nghĩa trước, mà hãng cho biết có thể giảm độ trễ tới 80 lần; trong ví dụ Apparite, các màn hình đã hoàn tất trong 0,8 đến 1,7 giây qua 11 lời nhắc.