Tới nội dung
#Triển khai / kỹ thuật
10 tháng 11Thứ Ba
  1. Recode China AI38

    Ulanqab, một thành phố xa xôi của Trung Quốc, trở thành thị trấn bùng nổ AI và nam châm thu hút lao động trẻ

    Ulanqab, từng là một thành phố ít được biết đến ở Nội Mông, đã trở thành một trung tâm điện toán AI mới nổi khi các trung tâm dữ liệu lan rộng khắp vùng đồng cỏ, thu hút lao động trẻ từ khắp Trung Quốc. Kuaishou bắt đầu vận hành trung tâm dữ liệu tự xây đầu tiên tại đây vào năm 2023, và DeepSeek đã quảng cáo các vị trí vận hành và bảo trì cấp cao với mức lương lên tới 30.000 nhân dân tệ (4.200 USD) một tháng vào tháng 4 năm nay. Thị trường lao động hiện đang bão hòa, với các nhà tuyển dụng nâng cao tiêu chuẩn tuyển dụng và một số chỉ xem xét ứng viên có bằng cử nhân.

  2. Google Blog · AI58

    Google Cloud ra mắt Gemini cho lĩnh vực y tế nhằm tự động hóa quy trình lâm sàng và hành chính

    Google Cloud công bố Gemini cho lĩnh vực y tế, một giải pháp AI hợp nhất các hệ thống lâm sàng, vận hành và hành chính bị phân mảnh bằng cách kết nối với hồ sơ sức khỏe điện tử, nền tảng thanh toán, hướng dẫn lâm sàng và bộ dữ liệu Medicare. Nền tảng này lập luận dựa trên ngữ cảnh đó để điều phối các quy trình nhiều bước như tổng hợp hồ sơ y tế và xem xét ủy quyền trước trong các giới hạn được xác định và có sự giám sát của con người. Ban đầu nó có sẵn ở dạng xem trước với các đối tác ra mắt gồm HCA Healthcare, Highmark Health và Northwell Health, nhắm đến khoảng 28 giờ mỗi tuần mà các bác sĩ lâm sàng mất vào giấy tờ.

  3. LangChain Blog59

    Stripe đã xây dựng Kai trên Deep Agents trong một tuần như thế nào

    Stripe đã xây dựng Kai, Nền tảng AI Tri thức toàn công ty của mình, trên khung Deep Agents mã nguồn mở của LangChain, với một kỹ sư phát hành phiên bản đầu tiên chỉ trong một tuần. Ngăn xếp này xếp lớp một harness và lớp cấu hình dành riêng cho Stripe lên trên Deep Agents, sử dụng middleware hệ thống tệp được hỗ trợ bởi S3, middleware sandbox để thực thi mã, middleware tóm tắt cho các phiên dài và tải công cụ động dựa trên kỹ năng trên hơn 500 công cụ MCP nội bộ và hơn 1.000 kỹ năng. Kai đã tăng từ 296 lên hơn 5.000 người dùng trong khoảng bốn tuần và hiện được 83% nhân viên Stripe sử dụng hàng tuần với hơn 60k phiên.

  4. Hugging Face Blog60

    Hugging Face giải thích về mô hình quyết định và sự hỗ trợ của chúng trong Transformers và llama.cpp

    Hugging Face đã công bố một bài giải thích về mô hình quyết định, loại mô hình nhận một trạng thái cùng các câu hỏi có kiểu và trả về xác suất trên các câu trả lời được định nghĩa trước thay vì sinh văn bản. Bài viết trình bày chi tiết các primitive choice, score và noul, công thức độ tin cậy, và sự hỗ trợ mới thông qua DecisionPipeline và AutoModelForDecision của Transformers, một endpoint /v1/systemone dùng chung trong Transformers và llama.cpp, một thẻ Hub để khám phá, và tinh chỉnh với Trainer API. Bài viết lưu ý rằng cùng endpoint đó cũng hoạt động với các LLM tự hồi quy tương thích bằng cách tính điểm logit của câu trả lời trong một lượt lan truyền xuôi theo lô.

    Vì sao đáng chú ý: Hugging Face giải thích cách các mô hình quyết định biến phân loại thành một giao diện có kiểu, không sinh văn bản và chỉ ra cách phục vụ và tinh chỉnh chúng với Transformers và llama.cpp.

  5. OpenRouter Announcements72

    OpenRouter đánh giá 15 mô hình thị giác và Mistral OCR trên tài liệu quét

    OpenRouter đã thử nghiệm 15 mô hình thị giác, Mistral OCR và Tesseract trên tám bản quét suy giảm tự tạo, và Claude Opus 5.5 chính xác nhất với 262 trong 264 giá trị khóa đúng với chi phí 16,42 đô la cho 1.000 trang, trong khi Mistral OCR có giá trị tốt nhất với 258 trong 264 với giá 2,02 đô la. Trên một hóa đơn mờ, GPT-6 Luna và GPT-6.1 Sol đã bịa ra chữ số thẻ, tên máy chủ và mật khẩu wifi, những lỗi mà tỷ lệ lỗi ký tự không phát hiện được. Bài viết bao gồm mã để phiên âm bản quét, tắt suy luận, kiểm tra chéo hai mô hình từ các phòng thí nghiệm khác nhau và chạy Mistral OCR thông qua plugin phân tích tệp.

    Vì sao đáng chú ý: Một đánh giá thực hành về 15 mô hình thị giác cùng Mistral OCR và Tesseract trên tám bản quét suy giảm, với mã có thể chạy để kiểm tra chéo hai mô hình nhằm phát hiện các giá trị bịa đặt.

  6. Hugging Face Blog20

    Hugging Face Hub hiện hỗ trợ thanh toán qua tài khoản Google Cloud

    Các tổ chức Hugging Face giờ đây có thể liên kết với tài khoản Google Cloud để việc sử dụng Hub xuất hiện trên hóa đơn Google Cloud hiện có thay vì thẻ tín dụng. Việc thiết lập diễn ra thông qua Google Cloud Marketplace và bao gồm các gói đăng ký Team hoặc Enterprise, tính toán trả theo mức sử dụng như Jobs, Inference Endpoints, Inference Providers và GPU Spaces, cùng bộ nhớ bổ sung theo giá công khai của Hugging Face. Các gói đăng ký được Hugging Face xem xét trước khi thanh toán qua marketplace bắt đầu, và các tổ chức có thẻ đã lưu sẽ chuyển đổi vào đầu kỳ thanh toán tiếp theo.

  7. Google AI · DEV42

    Claude Fable 5.2 hiện đã có trên Google Cloud

    Claude Fable 5.2 hiện đã có trên Google Cloud, hướng đến các tác nhân chạy dài hạn cho những công việc kỹ thuật đòi hỏi cao. Mô hình được định vị cho việc lập trình dạng tác nhân trên nhiều kho mã và monorepo, các quy trình làm việc kéo dài từ nhiều giờ đến nhiều ngày không cần giám sát với sự phối hợp của các tác nhân con, và các pipeline khoa học và dữ liệu bao gồm tính toán vật lý, chứng minh hình thức và phân tích dữ liệu.

  8. MIT Technology Review · AI40

    Vì sao phản ứng dữ dội đối với trung tâm dữ liệu thực chất là về điện năng

    Một chuyến thăm đến Data Center Alley của Virginia cho thấy phản ứng dữ dội đối với các trung tâm dữ liệu AI được thúc đẩy nhiều bởi nhu cầu điện năng hơn là cuộc chiến văn hóa mà Big Tech mô tả. Một cơ sở điển hình ở đó tiêu thụ 54 megawatt, trong khi các địa điểm nhỏ nhất hấp dẫn cho huấn luyện AI cần 300 megawatt và những địa điểm lý tưởng khoảng 6.000—xấp xỉ mức tiêu thụ của Chicago. Các công ty đang chuyển sang dùng tua-bin khí tại chỗ và máy phát diesel, và Virginia đã áp đặt các quy định mới yêu cầu các trung tâm dữ liệu phải trả toàn bộ chi phí cho các đường truyền tải mới.

  9. LangChain Blog50

    LangSmith BYOC trên AWS đã chính thức khả dụng

    LangSmith Bring Your Own Cloud (BYOC) hiện đã chính thức khả dụng trên AWS, mang đến cho doanh nghiệp một triển khai LangSmith được quản lý chạy trong tài khoản AWS và VPC của chính họ. Dữ liệu nhạy cảm như traces, datasets, experiments, prompts, triển khai agent và dữ liệu sandbox được lưu trong môi trường AWS của khách hàng, trong khi LangChain đảm nhận giám sát, nâng cấp, mở rộng quy mô và quản lý vòng đời cụm. BYOC khả dụng cho khách hàng Enterprise trên 15 khu vực AWS tại Mỹ, EU và APAC.

  10. Meta Engineering Blog40

    Meta mở rộng LLDB với kiến trúc plugin tăng tốc trung lập nhà cung cấp cho gỡ lỗi CPU-GPU

    Meta đã xây dựng kiến trúc plugin tăng tốc trung lập nhà cung cấp trong lldb-server cho phép LLDB gỡ lỗi các ứng dụng trải rộng trên CPU và GPU trong một phiên duy nhất. Thiết kế biểu diễn CPU và GPU thành các target LLDB riêng biệt, mỗi target có kiến trúc, luồng, thanh ghi và không gian địa chỉ riêng, trong khi một plugin chuyển dịch các API gỡ lỗi thiết bị của nhà cung cấp thành các khái niệm LLDB. Hỗ trợ GPU chỉ kích hoạt khi ứng dụng sử dụng runtime GPU được hỗ trợ, do đó gỡ lỗi chỉ CPU vẫn giữ nguyên đường dẫn native hiện có mà không tăng thêm chi phí.

  11. Mastra Blog25

    Mastra ra mắt Chương trình Kỹ thuật Triển khai Tiền phương Mastra FDE

    Mastra đã ra mắt Mastra FDE, một chương trình kỹ thuật triển khai tiền phương mở cho bất kỳ nhóm nào đang xây dựng agent, đưa các kỹ sư Mastra vào đội ngũ khách hàng từ khâu kiến trúc đến sản xuất. Phạm vi tham gia từ 6 giờ mỗi tuần với vai trò tư vấn đến 20-40 giờ mỗi tuần trực tiếp xây dựng, được hỗ trợ bởi một kênh Slack chung với những người sáng lập và kỹ sư của Mastra cùng với Mastra Enterprise. Mastra cho biết chương trình này có chi phí thấp hơn một nhân sự AI cấp cao.

  12. Claude Blog34

    Curative đã xây dựng mạng lưới nhà cung cấp quốc gia với các agent trên Claude như thế nào

    Curative đã xây dựng một hệ thống phân cấp các agent trên Claude để ký hợp đồng với nhà cung cấp nhanh hơn khoảng 50 lần so với đội ngũ của công ty vào năm 2025, đạt 23.000 hợp đồng được ký với agent Gwen và 2.000 đến 2.400 hợp đồng mới mỗi tuần. Gwen xử lý một thỏa thuận nhà cung cấp mỗi lần chạy, chủ yếu trên Claude Opus, trong khi một trình đánh giá tỷ lệ Sonnet xử lý khoảng hai phần ba các yêu cầu tỷ lệ vượt mẫu và một giám định Haiku đọc mọi tin nhắn trước khi gửi. Mỗi hợp đồng tốn khoảng 20 triệu token, tức khoảng một phần mười chi phí ban đầu, và đội ngũ hợp đồng của Curative đã tăng từ 45 lên khoảng 55 người, mỗi người có năng suất khoảng 2,5 lần.

  13. Mastra Blog25

    Mastra Platform ra mắt gói Starter 25 đô la với máy chủ chuyên dụng

    Mastra Platform giới thiệu gói Starter 25 đô la, nâng hạn mức hàng tháng cho tính toán, dữ liệu và sự kiện quan sát, đồng thời bao gồm một máy chủ chuyên dụng Small với chi phí tính toán được chi trả. Hạn mức hiện cao hơn ở mọi gói, và gói miễn phí được đổi tên thành Free, nơi một agent serverless vẫn chạy miễn phí. Các dự án chạy serverless hoặc trên máy chủ Small, Medium hoặc Large, và Mastra Connect bổ sung hạn mức kết nối cho mỗi gói.

9 tháng 11Thứ Hai
  1. MIT Technology Review · AI12

    Chiến lược R&D do AI dẫn dắt của Lubrizol trong hóa chất chuyên dụng

    Lubrizol đang xây dựng nền tảng số kết nối quy trình kinh doanh, nền tảng dữ liệu hiện đại và hạ tầng đám mây để tăng tốc R&D cho hóa chất chuyên dụng. Phó chủ tịch IT Girish Rao cho biết mục tiêu là cung cấp cho các nhà khoa học công cụ tốt hơn, không thay thế phán đoán khoa học, với các "đội ngũ hợp nhất" gồm nhà khoa học, nhà khoa học dữ liệu và nhân viên IT bắt đầu từ các thử nghiệm nhỏ để xây dựng niềm tin. Truy cập đám mây cũng hỗ trợ công việc bền vững như mô hình hóa các vật liệu thay thế từ tinh bột và ngô.

  2. Hugging Face Blog40

    HOPE: Cắt tỉa bậc cao các chuyên gia trong mô hình ngôn ngữ Mixture-of-Experts

    Các nhà nghiên cứu giới thiệu HOPE, một phương pháp cắt tỉa chuyên gia bậc hai cho các mô hình ngôn ngữ Mixture-of-Experts, có tính đến tương tác cặp giữa các chuyên gia cùng kích hoạt thay vì chấm điểm từng chuyên gia một cách độc lập. Ở mức cắt tỉa 50%, HOPE đạt thứ hạng trung bình tốt nhất trong số mọi phương pháp, với mức cải thiện lên tới +6,1% trên các tác vụ lập trình dạng agent so với phương pháp cắt tỉa tốt thứ hai. Công trình nhắm vào nút thắt bộ nhớ ở các mô hình như Qwen3.5-122B, nơi các MLP chuyên gia chiếm 95% trong tổng dung lượng khoảng 250 GB.

  3. Anthropic · Claude.dev60

    Hướng dẫn của Anthropic về cách chọn giữa Claude Fable 5.2, Opus 5.5, Sonnet 5.5 và Haiku 5.5

    Anthropic đã công bố một hướng dẫn khuyến nghị các nhà phát triển bắt đầu hầu hết công việc lập trình và tri thức trên Claude Opus 5.5 ở mức nỗ lực trung bình mặc định, vì chi phí trên mỗi token chỉ bằng một nửa so với Fable 5.2. Hướng dẫn ánh xạ Sonnet 5.5 cho công việc hàng ngày có phạm vi rõ ràng, Haiku 5.5 cho các tác vụ phân loại, định tuyến và tác nhân con với khối lượng lớn, và Fable 5.2 cho các dự án lập trình, tài chính và khoa học khó nhất hoặc các phiên chạy dài không có giám sát. Hướng dẫn cũng khuyên điều chỉnh mức nỗ lực trước khi chuyển đổi mô hình, và lưu ý rằng trên SWE-bench Pro, Opus 5.5 ở mức thấp với các lần thất bại được chạy lại ở mức cao đã vượt qua khoảng 97% tác vụ với chi phí khoảng 0,17 USD mỗi tác vụ, so với 95,3% với 0,29 USD khi mọi tác vụ đều ở mức cao.

    Vì sao đáng chú ý: Hướng dẫn của chính Anthropic ánh xạ từng mô hình Claude và mức nỗ lực tới các loại tác vụ cụ thể, kèm so sánh chi phí trên mỗi tác vụ và điểm chuẩn để lựa chọn giữa chúng.

  4. Zyphra Research78

    Zyphra phát hành ZONOS3-Mini, mô hình TTS nhân bản giọng nói zero-shot theo giấy phép Apache 2.0 chạy trên thiết bị

    Zyphra đã phát hành ZONOS3-Mini, một mô hình chuyển văn bản thành giọng nói MoE thưa với 100M tham số hoạt động và 800M tổng tham số theo giấy phép Apache 2.0, được huấn luyện trên 112 NVIDIA H100 trong 2,5 ngày. Mô hình đạt thời gian đến âm thanh đầu tiên dưới 570 ms trên trình duyệt với Pixel 9 và dưới 150 ms trên M3 MacBook Air, với các runtime cho WebGPU, SGLang, vLLM và GGML. Mô hình bổ sung khả năng kiểm soát danh tính, giọng điệu, chất lượng, tâm trạng và cách thể hiện, bao gồm điều khiển ở cấp độ từ, và Zyphra báo cáo rằng mô hình đứng đầu trong số các mô hình mở trên benchmark ZTTS2-Eval mới của họ.

    Vì sao đáng chú ý: Mô hình TTS MoE nhỏ gọn của Zyphra kết hợp nhân bản giọng nói zero-shot với điều khiển cách thể hiện ở cấp độ từ trong khi chạy thời gian thực trên điện thoại và máy tính xách tay.

  5. NVIDIA Blog38

    NVIDIA công bố kế hoạch đầu tư vào các startup Hàn Quốc Point2, Motif Technologies, RLWRLD và Upstage

    Tại Diễn đàn Hợp tác Khởi nghiệp AI MSIT-NVIDIA ở Seoul, NVIDIA đã công bố khoản đầu tư vào startup kết nối AI Hàn Quốc Point2 và kế hoạch đầu tư thêm vào Motif Technologies, RLWRLD và Upstage. Bốn công ty này trải rộng toàn bộ ngăn xếp AI, từ kết nối chip-tới-rack dựa trên RF và các mô hình nền tảng trọng số mở đến các mô hình nền tảng robot và các mô hình ngôn ngữ Solar. Các khoản đầu tư dự kiến này được xây dựng dựa trên NVIDIA Inception, chương trình hiện có hơn 1.000 thành viên tại Hàn Quốc.

  6. NVIDIA Blog36

    NVIDIA thúc đẩy AI vật lý tại Hàn Quốc trên các lĩnh vực bán dẫn, lái xe tự động và robot

    NVIDIA đang góp phần thúc đẩy hệ sinh thái AI vật lý của Hàn Quốc, với Samsung, Kakao Mobility và LG Electronics ứng dụng điện toán tăng tốc, AI và mô phỏng vào sản xuất bán dẫn, xe tự hành và robot. Nền tảng sMOL của Samsung đã chạy các phép tính hóa lượng tử chọn lọc nhanh hơn tới 5 lần với NVIDIA cuEST, và một trường hợp đồng nhất hóa bằng AI đã giảm thời gian mô phỏng từ khoảng 18 giờ trên CPU 32 nhân xuống còn 41 giây. Kakao Mobility dự kiến triển khai hệ thống lái xe tự động cấp độ 4 trên NVIDIA DRIVE AGX Thor, trong khi LG đã trình diễn thao tác điều khiển bằng NVIDIA Isaac GR00T với robot CLOiD của mình trong một môi trường sản xuất thực tế.

  7. NVIDIA Blog36

    Hệ sinh thái AI của Hàn Quốc tiến bộ và bảo mật Agentic AI với NVIDIA

    Tập đoàn Hyundai Motor đang nghiên cứu các blueprint NemoClaw của NVIDIA và runtime OpenShell của NVIDIA, trong khi AIM Intelligence đang tích hợp nền tảng Starfort của mình với OpenShell để hỗ trợ các AI agent bảo mật cho năng suất nhân viên và quy trình làm việc doanh nghiệp. OpenShell, một thành phần quan trọng của Nền tảng An toàn Agent Mở NVIDIA, cung cấp thực thi trong sandbox và kiểm soát dựa trên chính sách để quản lý các hành động của agent tự trị. LG AI Research cũng đang mở quyền truy cập API cho K-EXAONE-2.5, được phát triển bằng cách sử dụng các bộ dữ liệu NVIDIA Nemotron bao gồm Nemotron-Personas-Korea, một bộ dữ liệu mở gồm 7 triệu persona Hàn Quốc tổng hợp.

  8. NVIDIA Blog34

    NVIDIA và MSIT Hàn Quốc mở rộng hợp tác AI chủ quyền từ chip đến kỹ năng

    NVIDIA và Bộ Khoa học và ICT Hàn Quốc đang mở rộng hợp tác AI chủ quyền, bao trùm chất bán dẫn AI, hạ tầng trung tâm dữ liệu, nhân tài, khởi nghiệp, mô hình, tác nhân và bảo mật. Hợp tác này mở đường cho các công ty NPU và XPU Hàn Quốc khám phá việc tham gia hệ sinh thái NVIDIA NVLink Fusion, cùng với đào tạo, chứng nhận, hackathon và hội thảo kỹ thuật nhằm tăng cường sử dụng GPU. NVIDIA cũng sẽ làm việc với ba liên danh được chọn và bốn nhà xây dựng mô hình nền tảng hàng đầu Hàn Quốc trong khuôn khổ sáng kiến AI for All của Hàn Quốc, sử dụng NVIDIA Dynamo để tối ưu hóa và mở rộng suy luận AI.

  9. Figma Blog38

    Sáu cách sử dụng tác nhân Figma trên canvas

    Figma đã nêu ra sáu cách sử dụng tác nhân thiết kế của mình trực tiếp trên canvas, từ việc chú thích thiết kế bằng biên bản cuộc họp được kéo vào qua các connector như Granola, Notion hoặc Google Drive, đến việc tóm tắt phản hồi bình luận và áp dụng các thay đổi đã thống nhất. Tác nhân cũng có thể tạo shader tùy chỉnh, tạo nhiều biến thể bố cục trong một lần nhắc bằng thư viện của nhóm, biến thiết kế tĩnh thành các lớp mã tương tác và thêm hiệu ứng chuyển động.

  10. Google Developers Blog60

    Google Cloud MaxText bổ sung song song hóa ngữ cảnh cho huấn luyện ngữ cảnh dài trên TPU

    Google Cloud đã phát hành hỗ trợ huấn luyện ngữ cảnh dài trong MaxText v0.2.4, khung huấn luyện JAX mã nguồn mở của họ, bổ sung bốn chiến lược song song hóa ngữ cảnh trên Cloud TPU: All-gather, A2A (DeepSpeed Ulysses), P2P (Ring Attention) và kết hợp A2A + P2P (USP). Các đánh giá chuẩn với Llama 3.1 8B đạt 70% MFU trên TPU 5p ở độ dài chuỗi lên đến 4 triệu token, và ngữ cảnh mở rộng đến 14 triệu token trên cả TPU 5p và TPU 7, với TPU 7 duy trì 50% MFU dưới 6 triệu token. Bản phát hành có sẵn trên PyPI, trong các Docker image và trên GitHub main, kèm các công thức mẫu cho TPU 7 và TPU 5p.

    Vì sao đáng chú ý: Bốn chiến lược song song hóa ngữ cảnh của MaxText trên Cloud TPU, cùng các số liệu MFU đánh giá chuẩn cho Llama 3.1 8B, mang đến cho các nhóm một tham chiếu cụ thể để lựa chọn cách huấn luyện ở độ dài chuỗi hàng triệu token.

  11. Google Developers Blog58

    Google AI Studio thêm tính năng xây dựng ứng dụng Google Maps Platform từ một câu lệnh

    Google AI Studio hiện cho phép người dùng xây dựng ứng dụng được hỗ trợ bởi Google Maps Platform trực tiếp từ một câu lệnh, với AI Studio xử lý cấu hình và quản lý khóa API và không cần thẻ tín dụng. Tích hợp này bao gồm các API Maps, Places, Routes và Environment, và sandbox cho phép 100 lệnh gọi mỗi ngày cho mỗi API với hạn mức được đặt lại sau mỗi 24 giờ. Liên kết tài khoản thanh toán Google Cloud sẽ mở khóa hạn mức cấp sản xuất theo giá tiêu chuẩn của Google Maps Platform.

  12. Anthropic Research71

    Anthropic thử nghiệm Claude Fable 5.2 trên thiết kế điện tử thực tế

    Anthropic báo cáo rằng Claude Fable 5.2 đã thiết kế ba thiết bị điện tử, gồm một loa hội nghị, một trung tâm trợ lý giọng nói và một thú ảo cầm tay, từ những yêu cầu tối thiểu, và Diode Computers đã chế tạo nguyên mẫu hoạt động được từ các tệp thiết kế của nó mà không cần sửa mạch. Trên bộ đánh giá PCB Gym nội bộ của Diode, Fable 5.2 đạt 69% so với 25% của Fable 5, và đạt 83,5% trên BenchCAD 2.1 công khai, gần gấp đôi Claude Fable 5.1. Các thiết bị vẫn là nguyên mẫu chưa qua kiểm định điện, tinh chỉnh ăng-ten, kiểm tra nhiệt hay chứng nhận, và Claude không được kết nối với thiết bị kiểm thử hay máy móc sản xuất.

    Vì sao đáng chú ý: Báo cáo của chính Anthropic về việc Claude Fable 5.2 thiết kế ba thiết bị điện tử hoạt động được cho thấy các mô hình đã tiến xa đến mức nào, từ việc chỉ bố trí một phần PCB đến tạo nguyên mẫu phần cứng đầu-cuối.

  13. Google Developers Blog62

    Google đưa Pathways lên trạng thái khả dụng chung trên Google Cloud để huấn luyện mô hình lớn

    Google thông báo Pathways, hệ thống huấn luyện phân tán cho các mô hình lớn bao gồm Gemini, đã đạt trạng thái Khả dụng chung trên Google Cloud Platform. Pathways thay thế cách thực thi SPMD đồng bộ bằng một máy khách Python duy nhất khai báo toàn bộ phép tính dưới dạng đồ thị luồng dữ liệu, trong khi một môi trường chạy phân tán đặt các khối lên thiết bị ảo, di chuyển và phân mảnh lại tensor, và sắp xếp công việc trên toàn cụm. Google cho biết thiết kế này cho phép ánh xạ lại một máy chủ bị lỗi sang các chip khỏe mạnh thay vì khởi động lại công việc, và một dịch vụ Pathways dùng chung có thể phục vụ nhiều máy khách từ một cụm.

    Vì sao đáng chú ý: Google giải thích mô hình một bộ điều khiển của Pathways khác với SPMD như thế nào và cách nó xử lý truyền tensor giữa các nhóm, lập lịch và phục hồi khi máy chủ gặp sự cố.

  14. Preferred Networks News55

    Preferred Networks phát hành PLaMo 3.0 Fin - mô hình ngôn ngữ nhỏ chuyên ngành tài chính dưới dạng trọng số mở

    Preferred Networks đã phát hành PLaMo 3.0 Fin, một mô hình ngôn ngữ nhỏ chuyên ngành tài chính được xây dựng trên mô hình tiền huấn luyện PLaMo 3 NICT từ nghiên cứu chung với NICT và được huấn luyện thêm trên dữ liệu tài chính tiếng Nhật, công bố trọng số mở trên Hugging Face theo PLaMo Community License. Mô hình bổ sung Reasoning từng bước với các dấu vết suy luận được xuất bằng tiếng Nhật, cùng với tool calling cho tìm kiếm web, tính toán và truy cập cơ sở dữ liệu nội bộ, và có thể chạy trên một GPU duy nhất trong môi trường đám mây kín hoặc tại chỗ. PFN cho biết quá trình huấn luyện theo chỉ dẫn cho Reasoning và sử dụng công cụ được thực hiện trên chip AI MN-Core 2 của riêng họ, với việc chuyển mã hoàn thành trong vòng một tuần và tốc độ huấn luyện tương đương với môi trường GPU.

  15. Artificial Analysis Articles58

    Artificial Analysis phát hành Chỉ số Độ chính xác Endpoint v1.1 với khoảng tin cậy long-context chặt chẽ hơn và phạm vi bao phủ sáu mô hình

    Artificial Analysis đã ra mắt Chỉ số Độ chính xác Endpoint v1.1, thu hẹp khoảng tin cậy AA-LCR-25 và bổ sung phạm vi bao phủ cho GLM-5.3 Flash và Muse Spark Open. Trong số 103 endpoint serverless được đánh giá chuẩn, 24 endpoint có điểm số thấp hơn đáng kể về mặt thống kê so với tham chiếu tự lưu trữ, với các nguyên nhân bao gồm giới hạn token đầu ra, giảm suy luận, lỗi định dạng gọi công cụ và hết thời gian yêu cầu. Việc nâng AA-LCR-25 lên 25 lần lặp lại mỗi câu hỏi thu hẹp khoảng tin cậy 95% trung bình từ ±4,7 xuống ±2,6 điểm, và khoảng tin cậy của chỉ số tổng hợp từ ±5,5 xuống ±4,3 điểm trên 45 endpoint được chấm điểm theo cả hai phiên bản.

8 tháng 11Chủ Nhật
  1. SemiAnalysis60

    SemiAnalysis tham quan khu datacenter Galaxy 800MW của Envision tại Nội Mông

    SemiAnalysis đã tham quan khu Galaxy của Envision tại Ulanqab, Nội Mông, dự kiến đạt công suất IT lên tới 800MW, với giai đoạn đầu 120MW được bàn giao trong vòng một năm với chi phí khoảng một phần năm so với Mỹ. Khu này đang vận hành thử nghiệm thực tế một pilot DC 800V công suất 5MW sử dụng máy biến áp thể rắn chuyển trực tiếp AC 10kV sang DC 800V cho các rack, và loại bỏ chiller trung tâm bằng cách dùng chung một vòng nước giữa các server làm mát bằng chất lỏng và bằng không khí. Envision cung cấp hơn 60% điện năng cho hai giai đoạn đầu từ các trang trại gió 420MW của chính mình cùng hệ thống lưu trữ pin 4 giờ, và toàn bộ khu dự kiến hoàn thành vào cuối năm 2027.

7 tháng 11Thứ Bảy
  1. GitHub Blog · AI & ML38

    Ngoài việc tạo mã nguồn: Hướng dẫn của nhà phát triển về kỹ thuật tác tử

    GitHub đã công bố hướng dẫn dành cho nhà phát triển về kỹ thuật tác tử, trình bày cách Copilot hỗ trợ các giai đoạn Lập kế hoạch, Xây dựng, Xác minh và Quan sát trong công việc phần mềm. Hướng dẫn trích dẫn con số 1,2 tỷ commit của GitHub trong một tuần vào tháng 10 năm nay, cao hơn 400% so với một năm trước đó, và một nghiên cứu của Faros AI phát hiện rằng các pull request mất thời gian xem xét lâu hơn 441% khi các nhóm chuyển từ mức độ áp dụng AI thấp lên cao. Hướng dẫn trình bày chi tiết các tính năng bao gồm Copilot trong Slack hoặc Teams, Plan Mode, GitHub Agentic Workflows, cloud sandboxes, session continuity, shared memory, Copilot Dreaming và Copilot Fusion.

6 tháng 11Thứ Sáu
  1. Ai2 · Allen Institute for AI58

    Ai2 phát hành ToyBlocks, một thế giới mô phỏng có kiểm soát cho việc học và đánh giá robot

    Ai2 đã phát hành ToyBlocks, một khung mô phỏng mở được xây dựng xoay quanh một cánh tay robot và các khối trên mặt bàn, là sản phẩm đầu tiên trong FoundationWorlds của họ dành cho nghiên cứu học robot có kiểm soát. ToyBlocks tự động tạo nhiệm vụ và bản trình diễn thông qua RL và lập kế hoạch chuyển động trong Isaac Lab, đạt tốc độ tạo dữ liệu lên tới 24 lần thời gian thực trên một GPU duy nhất, và đi kèm với 85.336 bản trình diễn tầm xa bao phủ gần 1.600 giờ và 144 triệu khung hình. Trong các thử nghiệm thực tế trên Franka FR3, tỷ lệ thành công của kỹ năng nguyên tử của ManiFlow là 80,0% trong mô phỏng và 81,1% trên phần cứng, trong khi hệ thống Molmo 2 kết hợp ManiFlow thành công trong 55,5% số tập mô phỏng và 50,0% số tập thực tế.

  2. vLLM Blog58

    vLLM chuyển bản dựng CUDA của mình sang LibTorch Stable ABI

    vLLM đã chuyển bản dựng CUDA của mình sang LibTorch Stable ABI, và kể từ v0.33.0, nó phát hành LibTorch ABI Stable CUDA wheels, nhờ đó có thể import một PyTorch wheel mới mà không cần rebuild vLLM. Nhóm đã chuyển các nguồn trong cây và bảy phụ thuộc phụ thuộc LibTorch, bao gồm FlashMLA, DeepGEMM và FlashAttention-2/3, sang các API ổn định, sử dụng torch-abi-audit trong CI để xác nhận không còn ký hiệu không ổn định nào. Bài viết nêu các đánh đổi như tập con API ổn định bị giới hạn và chi phí nhỏ ở phía host, và cho biết các bản dựng CPU và ROCm sẽ là bước tiếp theo.

  3. OpenClaw Blog50

    OpenClaw bổ sung danh mục mô hình tự cập nhật để mô hình mới hoạt động mà không cần cập nhật ứng dụng

    OpenClaw đã xây dựng lại cách nó phát hiện mô hình để các mô hình mới như GPT-6.1 Sol xuất hiện mà không cần phát hành bản cập nhật, lấy danh sách từ một danh mục tự cập nhật tại catalog.openclaw.ai (được xây dựng lại bốn giờ một lần, khoảng 1.000 mô hình), danh sách mô hình của nhà cung cấp riêng cho từng tài khoản, và một bắt tay với Codex mới hơn trên PATH của bạn. Danh mục chuyển đổi trực tiếp trên một Gateway đang chạy, và danh sách mô hình không còn bị thu hẹp sau khi nhà cung cấp hết thời gian chờ hoặc hoán đổi danh mục.

  4. vLLM Blog77

    REINFORCE Zero: Căn chỉnh kernel cho phép Async RL ổn định ở Policy Lag 64, mở rộng sang DeepSeek-V4.1 và Kimi K3.1

    Bài báo REINFORCE Zero của NVIDIA Research và Inferact cho thấy việc căn chỉnh kernel của rollout và trainer cho phép lấy mẫu quan trọng ở mức token không cắt (unclipped token-level importance sampling) hiệu chỉnh độ trễ trọng số còn lại, huấn luyện ổn định qua 20.000 lần cập nhật ở policy lag 64 và đạt thông lượng bước huấn luyện gấp 2,40 lần so với huấn luyện đồng bộ với kernel đã căn chỉnh. Với kernel tiêu chuẩn, KL trung vị từ rollout đến learner tăng 83,33 lần trong suốt quá trình chạy và pass@1 trực tuyến trên AIME24 giảm từ 34,27% xuống 13,96%, trong khi một sequence gate giúp ổn định huấn luyện nhưng loại bỏ 24,48% chuỗi tính đến 1.000 lần cập nhật cuối. Thiết lập zero-mismatch hiện bao phủ DeepSeek-V4.1-Flash, Kimi K3.1 vào ngày phát hành, cùng DeepSeek-V4-Flash và Kimi K3.1 trên AMD MI355X, với mã nguồn tại Inferact/zero-mismatch-rl và NVIDIA-NeMo/labs-molt.

    Vì sao đáng chú ý: NVIDIA Research và Inferact tách khoảng cách giữa rollout và learner trong async RL thành độ trễ trọng số và sự không khớp kernel, cho thấy việc căn chỉnh kernel cho phép lấy mẫu quan trọng không cắt duy trì huấn luyện ổn định ở policy lag 64.

  5. vLLM Blog55

    VeRL-Omni v0.3.0 ra mắt với huấn luyện bất đồng bộ và hậu huấn luyện đa phương thức mở rộng

    VeRL-Omni v0.3.0 đã được phát hành với các luồng thực thi RL bất đồng bộ và tách rời, V1 trainer là mặc định, và mở rộng phạm vi hậu huấn luyện trên hiểu biết hình ảnh, video, âm thanh và đa phương thức. Bản phát hành bổ sung huấn luyện văn bản và âm thanh Qwen3-Omni hoàn toàn bất đồng bộ, huấn luyện Omni và diffusion bất đồng bộ tách rời với bộ đệm phát lại, và các công thức mới bao gồm MiniMax H3 với DiffusionNFT và MiniCPM-o 4.5 GSPO. Trong một thí nghiệm MiniCPM-o 4.5 AVQA trên 4×H800 80 GB, separate-async 3+1 chậm hơn khoảng 9% mỗi prompt so với colocated 4+0 ở độ dài phản hồi tự nhiên, gần như ngang bằng ở 512 token, và nhanh hơn khoảng 6.7% ở 1024 token.

  6. Sierra Blog38

    Sierra Accelerators lo những điều cơ bản cho AI Agent

    Sierra đã phát hành Accelerators, các gói dựng sẵn cho những quy trình có khối lượng lớn như theo dõi đơn hàng, đặt lịch hẹn, tiếp nhận yêu cầu bồi thường và xác minh danh tính, hiện đã có trong Agent Studio. Mỗi Accelerator đi kèm các tích hợp và guardrail cơ bản, và Ghostwriter điều chỉnh nó theo chính sách riêng của công ty; các bản cập nhật từ Sierra được giữ nguyên trong khi các thay đổi của khách hàng được theo dõi riêng. Các nhóm sẽ sớm có thể tự xây dựng và chia sẻ Accelerator của riêng mình trong nội bộ.

  7. SemiAnalysis75

    SemiAnalysis đánh giá Google TPUv7 Ironwood trên suy luận tác tử so với GPU NVIDIA

    SemiAnalysis công bố kết quả suy luận tác tử đa lượt, ngữ cảnh dài đầu tiên trên InferenceX/AgentX cho Google TPUv7 Ironwood trên bốn mô hình, nhận thấy nó cạnh tranh về hiệu năng trên mỗi đô la hoặc đạt mức tiên tiến trong một số trường hợp. Trên GLM-5.2 ở FP8, TPUv7 đạt 1,2x đến 2,7x số token trên mỗi đô la so với B200, B300 và MI355X từ 60 đến 300 tok/s/người dùng, trong khi GPU FP4 vẫn dẫn đầu trên GLM-5.3 vì TPUv7 thiếu hỗ trợ FP4 gốc cho đến TPUv8 vào Q1 2027. Bài viết cũng lập luận rằng bộ máy quan liêu của NVIDIA làm chậm các đóng góp driver và hệ sinh thái so với AMD và Google.

  8. Google Developers Blog60

    Nghiên cứu của Google phát hiện các tham chiếu lỗi TODO cũ gây xao nhãng các tác nhân lập trình trong 13% số phiên

    ) các tham chiếu. Các tác nhân đã hành động dựa trên ID lỗi trong 6% số lần gặp, và 83% trong số những hành động đó là do nhà phát triển không nhắc đến; 41% các chuyến đi lạc không được nhắc đến đuổi theo các phiếu đã đóng trong khi 57% gặp phải các lỗi vẫn còn mở và mở rộng phạm vi. Khi kiểm soát theo nhà phát triển, độ phức tạp của cơ sở mã, loại nhiệm vụ, cấp độ mô hình và các yếu tố khác, các chuyến đi lạc lỗi không được nhắc đến đã thêm 70% số bước, 77% token và 105% thời gian chờ mỗi phiên.

    Vì sao đáng chú ý: Phân tích dấu vết quy mô lớn của Google cho thấy các tham chiếu lỗi TODO cũ kéo các tác nhân lập trình vào những chuyến đi lạc không được nhắc đến, và các tác nhân dọn dẹp của họ đã loại bỏ hàng nghìn tham chiếu lỗi thời với tỷ lệ chấp nhận của người đánh giá trên 95%.

  9. Modal Blog22

    Snorkel vận hành mô phỏng tác nhân thực tế với Modal như thế nào

    Snorkel sử dụng các sandbox GPU và CPU của Modal để chạy hàng triệu mô phỏng tác nhân mỗi tháng, đạt đỉnh hàng chục nghìn sandbox mỗi giờ, và dựa vào Modal để suy luận trên các mô hình trọng số mở mà họ đánh giá. Việc áp dụng tính năng memory bursting của Modal đã cắt giảm tổng hóa đơn sandbox của Snorkel khoảng 20%, với khoảng 10-15% số sandbox của họ sử dụng bursting hiện nay. Modal là nhà cung cấp sandbox duy nhất có thể đáp ứng nhu cầu sandbox GPU của Snorkel ở quy mô lớn.

  10. Microsoft Research58

    PDD Kit của Microsoft Research chính thức xác minh các ứng dụng web full-stack do agent viết

    Microsoft Research đã giới thiệu PDD Kit, một nguyên mẫu nghiên cứu biến ý định bằng ngôn ngữ tự nhiên của nhà phát triển thành đặc tả hình thức Verus, chứng minh mã Rust do coding agent viết thỏa mãn đặc tả đó với mọi đầu vào, và quay về kiểm thử ở những nơi chứng minh không thể vươn tới. Trong một bản demo bên trong Chopin của GitHub Next, nhóm đã dùng PDD Kit để xác minh logic đăng nhập của Pet Store, một ứng dụng full-stack Rust khoảng 5.000 dòng, với việc nhà phát triển xem xét tạo tác ý định thay vì từng dòng mã được sinh ra. PDD Kit hiện chỉ xác minh Rust, và các bảo đảm của nó dựa trên sáu thành phần tin cậy đã được nhà phát triển phê duyệt, bao gồm kiểm tra mật khẩu bcrypt và hai lần tra cứu cơ sở dữ liệu.