Tới nội dung
Chỉ Chính chủ#Hướng dẫn / thực hành
12 tháng 11Thứ Năm
  1. Google Developers Blog58

    Kỹ sư Google dùng Gemini 4 Argon và Z3 để bắt lỗi kiểm tra biên trong Go mà fuzzing bỏ sót

    Một kỹ sư Google, người dẫn dắt chương trình kỹ năng tác nhân của công ty, đã xây dựng một pipeline trong đó Gemini 4 Argon đọc mã nguồn Go và mã hợp ngữ RISC-V, chuyển các trap runtime.panicBounds còn sót lại thành ràng buộc Z3, sau đó go test phát lại bất kỳ đầu vào thỏa mãn nào như một reproducer thực sự. Quy trình này bắt được cả ba lỗi được cài sẵn và ba lỗi tiềm ẩn trong skill-lint, trong khi go test -fuzz không có seed bỏ sót hai trong số các crash được cài sẵn vì Go kiểm tra slice dựa trên capacity thay vì length. Việc cắt capacity về bằng length bằng data[:len(data):len(data)] khiến fuzzer làm crash cả hai lỗi tràn trong cả ba lần chạy, với trung vị là 0,28 s và 0,17 s.

  2. Claude Blog40

    Hướng dẫn Claude Tag của Anthropic dành cho startup: các kênh Slack hàng đầu và trường hợp sử dụng

    Anthropic đã công bố hướng dẫn về Claude Tag (bản beta) dành cho startup, dựa trên các cuộc trò chuyện với tám công ty tăng trưởng cao về nơi họ triển khai tác nhân dựa trên Slack đầu tiên. Hướng dẫn bao gồm năm thiết lập phổ biến — phân loại trực ca, thread-to-PR, bộ não công ty, dữ liệu tự phục vụ và báo cáo — cùng danh sách kiểm tra khởi đầu. Kết quả được trích dẫn bao gồm một PR được mở 21 phút sau khi được nhắc trên Slack và 134 pull request được hợp nhất từ các thread Slack tại NavigateAI.

11 tháng 11Thứ Tư
  1. ElevenLabs Blog18

    Nhân bản giọng nói cho nhà sáng tạo nội dung: mở rộng quy trình nội dung với AI giọng nói

    ElevenLabs phác thảo cách nhân bản giọng nói cho phép nhà sáng tạo nội dung ghi một mẫu ngắn một lần rồi tạo lời thuyết minh cho video, podcast, khóa học và clip mạng xã hội mà không cần quay lại phòng thu. Hướng dẫn phân biệt Instant Voice Cloning, tạo bản sao từ mẫu ngắn trong dưới một phút, với Professional Voice Cloning, huấn luyện trên bộ ghi âm lớn hơn và bao gồm bước xác minh xác nhận giọng nói thuộc về nhà sáng tạo. Tài liệu cũng liệt kê các tiêu chí lựa chọn bao gồm độ trung thực của giọng nói, kiểm soát cách thể hiện, phạm vi ngôn ngữ, biện pháp bảo vệ sự đồng ý, tùy chọn xuất và cấp phép thương mại.

  2. vLLM Blog58

    vLLM bổ sung phân tách encoder cho phục vụ đa phương thức với EPD

    vLLM đã mở rộng phân tách Encoder/Prefill/Decode (EPD) cho phục vụ đa phương thức, bổ sung yêu cầu chỉ chứa metadata, một đường thực thi encoder riêng, truyền embedding từ xa qua NIXL và Mooncake, tái sử dụng đầu ra cross-encoder, và điều phối thông qua vLLM Router, SMG và llm-d. Các năng lực cốt lõi bao gồm hỗ trợ MiMo và XPU có trong vLLM v0.32.0, trong khi hỗ trợ chỉ metadata cho DeepSeek V4.1 Flash có sẵn trên main qua #62802. Trong một thử nghiệm DeepSeek V4.1 Flash trên GB200, EPD đạt thông lượng trên mỗi GPU cao hơn 6,6–9,5% và P90 TTFT thấp hơn 44–47% so với baseline PD tám GPU ở mức đồng thời 64–128, nhưng có thông lượng trên mỗi GPU thấp hơn ở mức đồng thời 16.

  3. OpenRouter Announcements65

    OpenRouter đo chi phí ngữ cảnh của MCP, CLI và skills trên cùng một tác vụ GitHub

    OpenRouter đã đo cùng một tác vụ GitHub trên GitHub MCP server, gh CLI và một gh skill trên Claude Sonnet 5.5, GPT-6 Luna và Gemini 3.8 Flash. Trên Sonnet 5.5, cả ba đều trả lời đúng, nhưng CLI dùng 1.421 token đầu vào, skill dùng 3.315 và MCP server dùng 59.417 với 46 công cụ mặc định, riêng phần định nghĩa của chúng đã thêm 19.436 token mỗi yêu cầu. Giới hạn server xuống hai công cụ giảm tác vụ còn 23.228 token, giới hạn kết quả ở 4.000 ký tự đưa xuống 5.357, và Tool Search giảm chi phí ban đầu của 46 công cụ xuống dưới 600 token, dù nó giảm một nửa chi phí toàn tác vụ trên Sonnet 5.5 trong khi lại tăng trên Claude Haiku 5.5.

    Vì sao đáng chú ý: So sánh đo lường của OpenRouter cho thấy mỗi MCP server, CLI và skill tiêu thụ bao nhiêu ngữ cảnh trên cùng một tác vụ GitHub, và việc cắt bớt kết quả công cụ hoặc trì hoãn định nghĩa thay đổi hóa đơn ở đâu.

  4. Hugging Face Blog41

    Huấn luyện nhận biết pooling cho mô hình embedding đa vector với Sentence Transformers

    Hugging Face trình bày cách huấn luyện nhận biết pooling nâng cao chất lượng truy xuất cho các mô hình embedding đa vector với ngân sách lưu trữ cố định. Với pool_factor=4, một mô hình được huấn luyện thông thường giữ được 94,6% nDCG@10 trên NanoBEIR khi chưa pooling, trong khi giảm số vector tài liệu xuống 4 lần, và huấn luyện nhận biết pooling nâng tỷ lệ giữ lại đó lên 97,8%. Bài viết đi qua HierarchicalTokenPooling, hiệu chỉnh ngân sách và một ví dụ Sentence Transformers có thể tái lập.

  5. OpenRouter Announcements58

    Hướng dẫn OpenRouter: khắc phục lỗi giới hạn tần suất 429 của OpenAI và Claude

    OpenRouter đã công bố hướng dẫn xử lý lỗi 429 Too Many Requests từ OpenAI, Anthropic và API của chính họ, thử nghiệm ba cách khắc phục trên một lô 60 prompt. Cơ chế thử lại mặc định của OpenAI Python SDK khiến 23 trong 60 yêu cầu thất bại trong 12 giây, trong khi cách thử lại chờ Retry-After hoặc X-RateLimit-Reset hoàn thành cả 60 yêu cầu trong 89 đến 92 giây với Python và 106 đến 218 giây với TypeScript. Cơ chế dự phòng theo mô hình hoàn thành cả 60 yêu cầu trong 13 giây với chi phí $0.000066, và khi bật chuyển đổi dự phòng nhà cung cấp, cả 150 yêu cầu ghim nhà cung cấp đều thành công, trong khi có tới 32 yêu cầu thất bại khi tắt dự phòng.

  6. OpenRouter Announcements60

    OpenRouter kiểm tra tác động của lượng tử hóa fp8 và fp4 đến chất lượng và giá của LLM

    OpenRouter đã chạy 280 tác vụ có đáp án chính xác trên sáu endpoint của Qwen3.8 27B vào ngày 20 tháng 10 năm 2026 và không phát hiện sự khác biệt về độ chính xác giữa fp16, fp8 và fp4, với cả sáu endpoint đạt điểm từ 98,3% đến 99,2%. Trên 1.455 endpoint, 59,5% không báo cáo độ chính xác nào và fp8 là định dạng được gắn nhãn phổ biến nhất với 23,6%. Độ chính xác thấp hơn có giá rẻ hơn đối với hầu hết các mô hình nhưng không phải tất cả, và việc lựa chọn nhà cung cấp ảnh hưởng đến giá nhiều hơn so với độ chính xác, với endpoint cùng độ chính xác đắt nhất có giá trung vị gấp 1,72 lần so với rẻ nhất.

    Vì sao đáng chú ý: OpenRouter đã đo các endpoint fp8, fp4 và fp16 của một mô hình trên 240 tác vụ có đáp án chính xác và không tìm thấy khoảng cách độ chính xác có thể phát hiện được, trong khi chênh lệch giá phụ thuộc vào nhà cung cấp nhiều hơn là độ chính xác.

  7. LangChain Blog58

    LangChain giải thích các kỹ thuật truy xuất cho kỹ thuật ngữ cảnh của AI agent

    LangChain đã xuất bản một bài blog về cách thiết kế truy xuất định hình kỹ thuật ngữ cảnh cho AI agent, sử dụng một agent phân tích cạnh tranh được xây dựng trên Deep Agents harness của mình làm ví dụ. Bài viết đề cập đến ba kiểu thất bại: tìm kiếm không hiệu quả, tải quá nhiều ngữ cảnh cùng lúc, và kết quả không liên quan hoặc lỗi thời, đồng thời ghép mỗi kiểu với các kỹ thuật như công cụ hệ thống tệp glob và grep, phân trang qua các tệp lớn bằng offset read_file, chuyển kết quả công cụ quá lớn sang tệp, và giao việc đọc cho subagent theo mô hình truy xuất, chuyển giao, ủy thác. Bài viết cũng cảnh báo rằng văn bản được truy xuất là dữ liệu chứ không phải hướng dẫn và có thể mang theo prompt injection, vì vậy đầu ra nên được kiểm tra dựa trên các nguồn được trích dẫn.

  8. LangChain Blog60

    LangChain giải thích cách Deep Agents quản lý ngữ cảnh mà không cần giữ mọi thứ trong cửa sổ ngữ cảnh

    LangChain trình bày chi tiết cách bộ khung Deep Agents mã nguồn mở của họ sử dụng middleware để chống lại hiện tượng suy giảm ngữ cảnh trong các phiên chạy agent dài. Kết quả công cụ vượt khoảng 20.000 token và tin nhắn người dùng vượt 50.000 token được chuyển sang tệp với chỉ một bản xem trước được hiển thị, trong khi tính năng tóm tắt cô đọng các tin nhắn cũ hơn khi mức sử dụng đạt 85% cửa sổ ngữ cảnh. Skills, subagents và một tệp bộ nhớ dài hạn dạng markdown giữ cửa sổ của agent chính ở mức nhỏ và cho phép bộ nhớ được duy trì qua các mô hình và nhà cung cấp.

    Vì sao đáng chú ý: LangChain giải thích cách bộ khung Deep Agents mã nguồn mở của họ sử dụng middleware để chuyển tải, tóm tắt và cô lập ngữ cảnh, mang đến một mẫu tái sử dụng được cho các agent trong các tác vụ dài.

  9. LangChain Blog36

    Workday đã xây dựng nền tảng AI agent quy mô doanh nghiệp như thế nào với LangGraph và LangSmith

    Workday đã xây dựng một nền tảng dành cho nhà phát triển nội bộ để đưa AI agent vào môi trường production, dùng LangGraph để điều phối và LangSmith để tracing, observability và evals, với một nhóm bốn người. Thời gian tạo prototype giảm từ 4–5 tháng xuống dưới một ngày, và nhóm đã phát triển lên khoảng 30 thành viên.

  10. Meta Engineering Blog58

    Meta giải thích TLX, một tiện ích mở rộng trình biên dịch GPU gốc phần cứng cho Triton phục vụ ML trong sản xuất

    Meta đã trình bày chi tiết về TLX (Triton Low-Level Extensions), một tiện ích mở rộng cho Triton bổ sung điều phối cấp nhóm warp và cụm một cách tường minh trong khi vẫn giữ mô hình lập trình tensor của Triton. TLX đã được vận hành trong môi trường sản xuất trên toàn Meta, với 20-25% MFU end-to-end trên hàng nghìn GPU NVIDIA Blackwell cho huấn luyện GEM, giảm tới hai phần ba độ trễ mạng tính toán chuyên sâu cho suy luận RecSys, và một kernel GEMM nhóm phân tán được triển khai trong tiền huấn luyện LLM quy mô lớn. Meta cho biết TLX nhắm đến NVIDIA Hopper và Blackwell cùng AMD Mi300 và Mi350x, và đang phát triển thêm nhiều kiến trúc hơn, suy luận nhóm warp tự động và một backend torch.compile.

10 tháng 11Thứ Ba
  1. LangChain Blog59

    Stripe đã xây dựng Kai trên Deep Agents trong một tuần như thế nào

    Stripe đã xây dựng Kai, Nền tảng AI Tri thức toàn công ty của mình, trên khung Deep Agents mã nguồn mở của LangChain, với một kỹ sư phát hành phiên bản đầu tiên chỉ trong một tuần. Ngăn xếp này xếp lớp một harness và lớp cấu hình dành riêng cho Stripe lên trên Deep Agents, sử dụng middleware hệ thống tệp được hỗ trợ bởi S3, middleware sandbox để thực thi mã, middleware tóm tắt cho các phiên dài và tải công cụ động dựa trên kỹ năng trên hơn 500 công cụ MCP nội bộ và hơn 1.000 kỹ năng. Kai đã tăng từ 296 lên hơn 5.000 người dùng trong khoảng bốn tuần và hiện được 83% nhân viên Stripe sử dụng hàng tuần với hơn 60k phiên.

  2. Hugging Face Blog60

    Hugging Face giải thích về mô hình quyết định và sự hỗ trợ của chúng trong Transformers và llama.cpp

    Hugging Face đã công bố một bài giải thích về mô hình quyết định, loại mô hình nhận một trạng thái cùng các câu hỏi có kiểu và trả về xác suất trên các câu trả lời được định nghĩa trước thay vì sinh văn bản. Bài viết trình bày chi tiết các primitive choice, score và noul, công thức độ tin cậy, và sự hỗ trợ mới thông qua DecisionPipeline và AutoModelForDecision của Transformers, một endpoint /v1/systemone dùng chung trong Transformers và llama.cpp, một thẻ Hub để khám phá, và tinh chỉnh với Trainer API. Bài viết lưu ý rằng cùng endpoint đó cũng hoạt động với các LLM tự hồi quy tương thích bằng cách tính điểm logit của câu trả lời trong một lượt lan truyền xuôi theo lô.

    Vì sao đáng chú ý: Hugging Face giải thích cách các mô hình quyết định biến phân loại thành một giao diện có kiểu, không sinh văn bản và chỉ ra cách phục vụ và tinh chỉnh chúng với Transformers và llama.cpp.

  3. OpenRouter Announcements72

    OpenRouter đánh giá 15 mô hình thị giác và Mistral OCR trên tài liệu quét

    OpenRouter đã thử nghiệm 15 mô hình thị giác, Mistral OCR và Tesseract trên tám bản quét suy giảm tự tạo, và Claude Opus 5.5 chính xác nhất với 262 trong 264 giá trị khóa đúng với chi phí 16,42 đô la cho 1.000 trang, trong khi Mistral OCR có giá trị tốt nhất với 258 trong 264 với giá 2,02 đô la. Trên một hóa đơn mờ, GPT-6 Luna và GPT-6.1 Sol đã bịa ra chữ số thẻ, tên máy chủ và mật khẩu wifi, những lỗi mà tỷ lệ lỗi ký tự không phát hiện được. Bài viết bao gồm mã để phiên âm bản quét, tắt suy luận, kiểm tra chéo hai mô hình từ các phòng thí nghiệm khác nhau và chạy Mistral OCR thông qua plugin phân tích tệp.

    Vì sao đáng chú ý: Một đánh giá thực hành về 15 mô hình thị giác cùng Mistral OCR và Tesseract trên tám bản quét suy giảm, với mã có thể chạy để kiểm tra chéo hai mô hình nhằm phát hiện các giá trị bịa đặt.

  4. Meta Engineering Blog40

    Meta mở rộng LLDB với kiến trúc plugin tăng tốc trung lập nhà cung cấp cho gỡ lỗi CPU-GPU

    Meta đã xây dựng kiến trúc plugin tăng tốc trung lập nhà cung cấp trong lldb-server cho phép LLDB gỡ lỗi các ứng dụng trải rộng trên CPU và GPU trong một phiên duy nhất. Thiết kế biểu diễn CPU và GPU thành các target LLDB riêng biệt, mỗi target có kiến trúc, luồng, thanh ghi và không gian địa chỉ riêng, trong khi một plugin chuyển dịch các API gỡ lỗi thiết bị của nhà cung cấp thành các khái niệm LLDB. Hỗ trợ GPU chỉ kích hoạt khi ứng dụng sử dụng runtime GPU được hỗ trợ, do đó gỡ lỗi chỉ CPU vẫn giữ nguyên đường dẫn native hiện có mà không tăng thêm chi phí.

  5. Claude Blog34

    Curative đã xây dựng mạng lưới nhà cung cấp quốc gia với các agent trên Claude như thế nào

    Curative đã xây dựng một hệ thống phân cấp các agent trên Claude để ký hợp đồng với nhà cung cấp nhanh hơn khoảng 50 lần so với đội ngũ của công ty vào năm 2025, đạt 23.000 hợp đồng được ký với agent Gwen và 2.000 đến 2.400 hợp đồng mới mỗi tuần. Gwen xử lý một thỏa thuận nhà cung cấp mỗi lần chạy, chủ yếu trên Claude Opus, trong khi một trình đánh giá tỷ lệ Sonnet xử lý khoảng hai phần ba các yêu cầu tỷ lệ vượt mẫu và một giám định Haiku đọc mọi tin nhắn trước khi gửi. Mỗi hợp đồng tốn khoảng 20 triệu token, tức khoảng một phần mười chi phí ban đầu, và đội ngũ hợp đồng của Curative đã tăng từ 45 lên khoảng 55 người, mỗi người có năng suất khoảng 2,5 lần.

  6. Recraft Blog34

    Trình tạo biểu tượng AI tốt nhất năm 2026: So sánh 7 công cụ

    Recraft được vinh danh là trình tạo biểu tượng AI tốt nhất năm 2026 sau khi so sánh bảy công cụ, chấm điểm bài kiểm tra phong cách nhất quán với năm biểu tượng và xuất SVG gốc. Recraft giữ nguyên độ dày nét và bán kính góc trên các glyph và xuất SVG có thể chỉnh sửa, trong khi Canva chỉ đạt một phần và Adobe Firefly cùng Midjourney đều trượt cả hai tiêu chí với đầu ra dạng raster.

  7. Recraft Blog58

    Hướng dẫn Recraft: 12 chỉnh sửa ảnh bằng câu lệnh văn bản hiệu quả và cách diễn đạt thất bại

    Recraft đã công bố một hướng dẫn với mười hai câu lệnh văn bản sẵn sàng sao chép để chỉnh sửa ảnh trên các mô hình image-to-image, được xây dựng theo mẫu hai dòng: một dòng thay đổi nêu tên đối tượng, vị trí của nó và kết quả, cộng với một dòng giữ nguyên khóa khuôn mặt, nhãn in, khung hình và ánh sáng. Hướng dẫn cho biết các chỉnh sửa cục bộ như xóa một đối tượng, đổi màu, thay đổi ánh sáng hoặc thay trang phục giữ được danh tính tốt hơn so với việc thay đổi phong cách hoặc hoán đổi thời tiết, và rằng các câu lệnh thất bại khi chúng xếp chồng nhiều thay đổi, viết lại chữ in, hoặc yêu cầu một khuôn mặt hoặc tỷ lệ cơ thể mới. Hướng dẫn khuyến nghị tạo hai hoặc ba biến thể, kiểm tra ở mức thu phóng 100%, và sửa một lỗi còn sót lại bằng một câu lệnh tiếp theo chỉ nêu rõ vùng đó.

  8. Recraft Blog22

    Trình tạo meme AI tốt nhất năm 2026: So sánh 7 công cụ

    Bảy trình tạo meme AI — Imgflip, Canva, Supermeme.ai, Recraft, Kapwing, ChatGPT và Magic Hour — đã được thử nghiệm trên gói miễn phí, hình mờ, mẫu, hiển thị chú thích, kích thước xuất và API bằng cùng ba đề bài meme. So sánh cho thấy không có người thắng chung cuộc: Imgflip thắng nhờ mẫu cổ điển, Supermeme.ai nhờ chuyển ý tưởng thành chú thích, Recraft và ChatGPT nhờ hình ảnh gốc, Kapwing nhờ video và GIF, còn Canva khi meme phải khớp với bố cục.

9 tháng 11Thứ Hai
  1. Anthropic · Claude.dev60

    Hướng dẫn của Anthropic về cách chọn giữa Claude Fable 5.2, Opus 5.5, Sonnet 5.5 và Haiku 5.5

    Anthropic đã công bố một hướng dẫn khuyến nghị các nhà phát triển bắt đầu hầu hết công việc lập trình và tri thức trên Claude Opus 5.5 ở mức nỗ lực trung bình mặc định, vì chi phí trên mỗi token chỉ bằng một nửa so với Fable 5.2. Hướng dẫn ánh xạ Sonnet 5.5 cho công việc hàng ngày có phạm vi rõ ràng, Haiku 5.5 cho các tác vụ phân loại, định tuyến và tác nhân con với khối lượng lớn, và Fable 5.2 cho các dự án lập trình, tài chính và khoa học khó nhất hoặc các phiên chạy dài không có giám sát. Hướng dẫn cũng khuyên điều chỉnh mức nỗ lực trước khi chuyển đổi mô hình, và lưu ý rằng trên SWE-bench Pro, Opus 5.5 ở mức thấp với các lần thất bại được chạy lại ở mức cao đã vượt qua khoảng 97% tác vụ với chi phí khoảng 0,17 USD mỗi tác vụ, so với 95,3% với 0,29 USD khi mọi tác vụ đều ở mức cao.

    Vì sao đáng chú ý: Hướng dẫn của chính Anthropic ánh xạ từng mô hình Claude và mức nỗ lực tới các loại tác vụ cụ thể, kèm so sánh chi phí trên mỗi tác vụ và điểm chuẩn để lựa chọn giữa chúng.

  2. Figma Blog38

    Sáu cách sử dụng tác nhân Figma trên canvas

    Figma đã nêu ra sáu cách sử dụng tác nhân thiết kế của mình trực tiếp trên canvas, từ việc chú thích thiết kế bằng biên bản cuộc họp được kéo vào qua các connector như Granola, Notion hoặc Google Drive, đến việc tóm tắt phản hồi bình luận và áp dụng các thay đổi đã thống nhất. Tác nhân cũng có thể tạo shader tùy chỉnh, tạo nhiều biến thể bố cục trong một lần nhắc bằng thư viện của nhóm, biến thiết kế tĩnh thành các lớp mã tương tác và thêm hiệu ứng chuyển động.

  3. Recraft Blog38

    Các công cụ tạo nhân vật AI tốt nhất năm 2026: So sánh Recraft, Midjourney, Gemini, ChatGPT và hơn thế nữa

    Một so sánh giữa bảy công cụ tạo nhân vật AI, được chấm điểm dựa trên tính nhất quán của tư thế, ảnh tham chiếu, kiểm soát phong cách, định dạng xuất và gói miễn phí, cho thấy không có công cụ nào tốt nhất cho mọi yêu cầu. Recraft dẫn đầu về việc giữ một nhân vật qua nhiều tư thế với phong cách tái sử dụng và xuất vector SVG, trong khi Midjourney thắng về diện mạo khung hình đơn nhưng không có gói miễn phí, gói Basic giá $10 mỗi tháng. Gemini và ChatGPT phù hợp để lặp lại một nhân vật trong cuộc trò chuyện, và Recraft, Gemini, ChatGPT, Leonardo, Ideogram và OpenArt đều cung cấp gói miễn phí hoặc tín dụng hàng tuần.

7 tháng 11Thứ Bảy
  1. GitHub Blog · AI & ML38

    Ngoài việc tạo mã nguồn: Hướng dẫn của nhà phát triển về kỹ thuật tác tử

    GitHub đã công bố hướng dẫn dành cho nhà phát triển về kỹ thuật tác tử, trình bày cách Copilot hỗ trợ các giai đoạn Lập kế hoạch, Xây dựng, Xác minh và Quan sát trong công việc phần mềm. Hướng dẫn trích dẫn con số 1,2 tỷ commit của GitHub trong một tuần vào tháng 10 năm nay, cao hơn 400% so với một năm trước đó, và một nghiên cứu của Faros AI phát hiện rằng các pull request mất thời gian xem xét lâu hơn 441% khi các nhóm chuyển từ mức độ áp dụng AI thấp lên cao. Hướng dẫn trình bày chi tiết các tính năng bao gồm Copilot trong Slack hoặc Teams, Plan Mode, GitHub Agentic Workflows, cloud sandboxes, session continuity, shared memory, Copilot Dreaming và Copilot Fusion.

6 tháng 11Thứ Sáu
  1. vLLM Blog58

    vLLM chuyển bản dựng CUDA của mình sang LibTorch Stable ABI

    vLLM đã chuyển bản dựng CUDA của mình sang LibTorch Stable ABI, và kể từ v0.33.0, nó phát hành LibTorch ABI Stable CUDA wheels, nhờ đó có thể import một PyTorch wheel mới mà không cần rebuild vLLM. Nhóm đã chuyển các nguồn trong cây và bảy phụ thuộc phụ thuộc LibTorch, bao gồm FlashMLA, DeepGEMM và FlashAttention-2/3, sang các API ổn định, sử dụng torch-abi-audit trong CI để xác nhận không còn ký hiệu không ổn định nào. Bài viết nêu các đánh đổi như tập con API ổn định bị giới hạn và chi phí nhỏ ở phía host, và cho biết các bản dựng CPU và ROCm sẽ là bước tiếp theo.

  2. Google Developers Blog60

    Nghiên cứu của Google phát hiện các tham chiếu lỗi TODO cũ gây xao nhãng các tác nhân lập trình trong 13% số phiên

    ) các tham chiếu. Các tác nhân đã hành động dựa trên ID lỗi trong 6% số lần gặp, và 83% trong số những hành động đó là do nhà phát triển không nhắc đến; 41% các chuyến đi lạc không được nhắc đến đuổi theo các phiếu đã đóng trong khi 57% gặp phải các lỗi vẫn còn mở và mở rộng phạm vi. Khi kiểm soát theo nhà phát triển, độ phức tạp của cơ sở mã, loại nhiệm vụ, cấp độ mô hình và các yếu tố khác, các chuyến đi lạc lỗi không được nhắc đến đã thêm 70% số bước, 77% token và 105% thời gian chờ mỗi phiên.

    Vì sao đáng chú ý: Phân tích dấu vết quy mô lớn của Google cho thấy các tham chiếu lỗi TODO cũ kéo các tác nhân lập trình vào những chuyến đi lạc không được nhắc đến, và các tác nhân dọn dẹp của họ đã loại bỏ hàng nghìn tham chiếu lỗi thời với tỷ lệ chấp nhận của người đánh giá trên 95%.

  3. Anthropic Research60

    Anthropic giải thích các thành phần bộ nhớ của tác nhân Claude

    Anthropic đã phác thảo cách họ thiết kế bộ nhớ cho các tác nhân Claude, định nghĩa bộ nhớ tác nhân là kiến thức được lưu giữ qua các phiên và tách biệt nó khỏi thay đổi trọng số, học trong ngữ cảnh và nén. 5 đã khớp nó với bộ nhớ. 7 đã ghi 413 tệp trên 225 thư mục và giành được một huy hiệu.

    Vì sao đáng chú ý: Anthropic trình bày chi tiết cách bộ nhớ tác nhân của Claude hoạt động, so sánh việc ghi chú của các mô hình trên CL-Bench và Pokémon Red và cho thấy cách mơ ngoại tuyến sửa chữa và sắp xếp các ghi chú đã lưu.

  4. Modal Blog22

    Snorkel vận hành mô phỏng tác nhân thực tế với Modal như thế nào

    Snorkel sử dụng các sandbox GPU và CPU của Modal để chạy hàng triệu mô phỏng tác nhân mỗi tháng, đạt đỉnh hàng chục nghìn sandbox mỗi giờ, và dựa vào Modal để suy luận trên các mô hình trọng số mở mà họ đánh giá. Việc áp dụng tính năng memory bursting của Modal đã cắt giảm tổng hóa đơn sandbox của Snorkel khoảng 20%, với khoảng 10-15% số sandbox của họ sử dụng bursting hiện nay. Modal là nhà cung cấp sandbox duy nhất có thể đáp ứng nhu cầu sandbox GPU của Snorkel ở quy mô lớn.

4 tháng 11Thứ Tư
  1. Meta Engineering Blog34

    Meta F3 Lightning tăng tốc phát hành tính năng ML cho quảng cáo ~3,6 lần

    Meta đã giới thiệu F3 Lightning, một lớp hạ tầng nằm trên Facebook Feature Framework (F3) của họ, giúp tách việc phát hành tính năng khỏi việc thực thi chung, nhờ đó mỗi tính năng trong số hơn 20.000 tính năng xếp hạng quảng cáo được biên dịch, xác thực, triển khai và hoàn tác một cách độc lập. Các tính năng trích xuất tương đương giờ đây đến môi trường production nhanh hơn ~3,6 lần so với F3 trước đây mà không làm tăng chi phí tính toán hạ tầng.

3 tháng 11Thứ Ba
  1. Google Developers Blog58

    Google đánh giá các bộ phân loại giá rẻ để định tuyến mô hình Gemini theo chi phí mỗi tác vụ

    Google đã chạy một bài đánh giá tác nhân lập trình tự động chấm gồm 50 câu hỏi để kiểm tra liệu một bộ phân loại nhẹ, Jev của TypeSafe, có thể định tuyến từng tác vụ đến cấu hình Gemini rẻ nhất mà vẫn trả lời đúng hay không. Một heuristic regex cố định và độ dài prompt đạt 93,8% trên 16 câu hỏi phát triển nhưng giảm 23,2 điểm xuống 70,6% trên 34 tác vụ giữ lại, trong khi Jev đạt 96,0% trên toàn bộ bộ kiểm thử. Thiết lập không định tuyến mạnh nhất, Gemini 3.8 Flash ở chế độ suy nghĩ thấp, giải được tất cả 50 tác vụ, và một bộ định tuyến Jev gửi tác vụ đến Flash-Lite trước rồi nâng cấp những tác vụ bị gắn cờ cũng giải được tất cả 50 tác vụ trong khi giảm chi phí và thời gian phản hồi; giới hạn maxOutputTokens ở 300 không tiết kiệm gì trên các tác vụ dễ và làm hỏng 7 trong số 25 tác vụ khó.

29 tháng 10Thứ Năm
  1. Google Developers Blog58

    Google giải thích cách xây dựng ứng dụng Generative UI với A2UI và các agent CopilotKit

    Google đã công bố hướng dẫn xây dựng ứng dụng Generative UI với chuẩn A2UI (Agent-to-UI) không phụ thuộc framework của mình và bộ tích hợp agent của CopilotKit. A2UI gửi UI dưới dạng thông điệp JSON khai báo thay vì mã thực thi, nên client chỉ render các component từ một catalog tin cậy, và cùng một payload hoạt động trên React, Angular, Lit, SwiftUI, Jetpack Compose và Flutter. Hướng dẫn trình bày cách kết nối một agent Google ADK thông qua AG-UI, định nghĩa catalog component được Zod kiểm tra, và xây dựng các bề mặt hai chiều nơi dữ liệu người dùng nhập được truyền ngược về agent cho các luồng nhiều bước như đặt chỗ.

  2. Figma Blog58

    Figma đã huấn luyện một mô hình chỉnh sửa thiết kế thành thạo Figma như thế nào

    Figma đã trình bày chi tiết cách họ huấn luyện một mô hình chỉnh sửa thiết kế do chính họ phát triển cho Figma agent của mình, bắt đầu bằng việc tinh chỉnh có giám sát trên các yêu cầu chỉnh sửa tổng hợp được biểu diễn dưới định dạng tệp gốc của Figma và được xác thực bằng các kiểm tra tất định cùng các mô hình đánh giá trực quan.

28 tháng 10Thứ Tư
  1. Ai2 · Allen Institute for AI40

    Các nhà nghiên cứu đang điều chỉnh olmOCR 2 cho các kho lưu trữ lịch sử và khảo cổ như thế nào

    Các nhà nghiên cứu đang điều chỉnh mô hình olmOCR 2 mã nguồn mở của Ai2 để phiên âm các kho lưu trữ lịch sử và khảo cổ. Nhà sử học Maurice Casey đã xây dựng ArtificeOCR, chạy olmOCR 2 cục bộ cùng với Tropy để giúp thư viện ảnh lưu trữ của ông có thể tìm kiếm bằng từ khóa, trong khi dự án CENTURIA của TU Wien đã tinh chỉnh olmOCR 2 bằng LoRA trên 57 bản ghi được chú thích, giảm lỗi phiên âm trên 450 bản ghi kiểm thử từ 15,58% xuống 1,11%.

  2. Meta Engineering Blog34

    Meta PrivacyLib: Kiểm soát quyền riêng tư tại ranh giới truy cập dữ liệu

    Meta đã trình bày chi tiết về PrivacyLib, một thư viện chung được nhúng trong các ứng dụng khách của hàng trăm hệ thống dữ liệu và xử lý của mình, nhằm thực thi các yêu cầu về quyền riêng tư ngay tại điểm truy cập dữ liệu, thực hiện hàng tỷ lượt kiểm tra mỗi giây. Các hệ thống chỉ cần tích hợp một lần, và các khả năng quyền riêng tư mới được phát hành dưới dạng mô-đun plug-in, thay thế cho các triển khai riêng lẻ theo từng hệ thống vốn có thể mất hàng tháng. Một mô-đun Agent Observability theo dõi việc truy cập dữ liệu của các AI agent nội bộ bằng cách mang ngữ cảnh agent đến PrivacyLib.

  3. Google Developers Blog46

    Cải thiện chất lượng Agent bằng Đánh giá Agents CLI

    Không gian tên eval của Agents CLI do Google phát triển chạy một vòng lặp leo đồi cho agent: eval generate, grade, compare, analyze và optimize. Trong một bài hướng dẫn trên mẫu LangChain trong Agents CLI v1.8.0, một baseline đạt 4.0/5 với gemini-3.8-flash làm giám khảo, và một system prompt đầu bếp sai đã làm giảm xuống còn 2.75.

27 tháng 10Thứ Ba
  1. Google Developers Blog34

    Xây dựng Thương mại Hội thoại với Bầy Đa Tác tử trên GCP: Một Nguyên mẫu Hoạt động

    Các nhà phát triển Google Cloud đã xây dựng HappyDelivery, một nguyên mẫu hoạt động của thương mại hội thoại sử dụng LangGraph, Gemini, FastAPI và Google Cloud, theo một bản thiết kế ba lớp trước đó gồm Ingress, Memory và Cognition. Lớp Ingress xác thực chữ ký webhook đặc thù của nền tảng cho WhatsApp, RCS, Apple Messages và SMS, chuẩn hóa payload thành một schema chung và chuyển chúng sang Pub/Sub, trả về HTTP 200 trong khoảng 300ms. Bài viết đi qua mã nguồn, máy trạng thái, các công cụ tài chính tất định và một bộ kiểm thử xác minh tự động.

23 tháng 10Thứ Sáu
  1. Figma Blog40

    Cách đưa Hệ thống thiết kế của bạn vào hoạt động với Figma Agent

    Figma agent hiện đã được phát hành rộng rãi, và Figma giải thích cách cung cấp hệ thống thiết kế của bạn cho nó để đầu ra khớp với sản phẩm của bạn. Việc kết nối một thư viện đã xuất bản cho phép agent sử dụng các thành phần và token đã được phê duyệt, trong khi các tệp hướng dẫn mã hóa quy tắc của nhóm và các trang Examples hoặc cách đặt tên _example cung cấp các mẫu có thể tái sử dụng.

22 tháng 10Thứ Năm
  1. Google Developers Blog38

    Project Chrysalis của Google Cloud: Kiến trúc AI Agent tự tiến hóa có quản trị trên Gemini và ADK

    Các nhà nghiên cứu Google Cloud đã công bố Project Chrysalis, một kiến trúc tham chiếu cho các AI agent tự tiến hóa có quản trị, được xây dựng trên nền tảng Gemini và Agent Development Kit (ADK). Trong các mô phỏng sự cố ngừng dịch vụ do cache-stampede vào Black Friday, kiến trúc này đã rút ngắn thời gian từ lúc bắt đầu đến biện pháp giảm thiểu đầu tiên từ 15–45 phút xuống còn 1,8 giây, giảm lỗi HTTP 5xx từ 72,7%–80,0% xuống 0,0%, và giảm độ trễ P99 từ 519,8 ms xuống 18,2 ms. Mọi hành động tự động đều bị giới hạn bởi Model Armor, Cloud KMS, Binary Authorization, OPA Policy Controller và quy trình phê duyệt có con người trong vòng lặp với dual-custody.

21 tháng 10Thứ Tư
  1. LiveKit Blog25

    Acuity Health sử dụng LiveKit Voice Agents để tự động hóa việc tiếp nhận bệnh nhân như thế nào

    Acuity Health đã xây dựng lại các voice agent tiếp nhận bệnh nhân trên LiveKit sau khi một nền tảng low-code tỏ ra quá cứng nhắc và thiếu minh bạch, và hiện nay 80% cuộc gọi được AI agent xử lý trọn vẹn. Các agent chạy trên LiveKit Inference với mô hình Gemma 4 31B, phần lớn lượt đặt lịch hoàn tất trong dưới một phút, và 81% cuộc gọi đặt lịch kết thúc bằng một lời "cảm ơn." LiveKit Simulations kiểm thử từng thay đổi với các hồ sơ bệnh nhân trước khi phát hành, và một lần rà soát prompt đã cắt khoảng 24% số từ mà vẫn vượt qua các kịch bản tương tự.

  2. GitHub Blog · AI & ML22

    3 Java Champion sử dụng GitHub Copilot để tăng năng suất như thế nào

    Ba Java Champion với hơn mười năm kinh nghiệm Java mỗi người đã chia sẻ cách họ sử dụng GitHub Copilot trong công việc sản xuất và mã nguồn mở. Vlad Mihalcea đã xây dựng một ứng dụng web Hypersistence Optimizer trong hai ngày thay vì nhiều tuần, và tạo các kỹ năng tùy chỉnh được huấn luyện trên 65 bài viết của ông để khớp với giọng văn của ông. Patrick Baumgartner đã chuyển khoảng 900 slide giảng dạy trong 15 bài thuyết trình từ Reveal.js sang Marp với Copilot, xác minh kết quả thông qua so sánh ảnh chụp màn hình.