Tới nội dung
#Hướng dẫn / thực hành
13 tháng 11Thứ Sáu
  1. AWS Machine Learning Blog34

    Chuyển sang Amazon Bedrock Managed Knowledge Base với một coding agent

    AWS đã thêm hướng dẫn chuyển đổi knowledge base vào skill amazon-bedrock trong Agent Toolkit for AWS, cho phép một coding agent lập kế hoạch chuyển từ knowledge base do khách hàng quản lý sang Amazon Bedrock Managed Knowledge Base. Agent bắt đầu bằng việc khám phá chỉ đọc và một kế hoạch được xem xét từng dòng, sau đó tạo knowledge base và các data source mới song song với bản gốc hoặc ghi một mẫu IaC đã chuyển đổi. Managed Knowledge Base nâng hạn mức mặc định lên 200 data source mỗi knowledge base và 10.000 knowledge base mỗi tài khoản mỗi Region, đồng thời bổ sung truy xuất agentic, tích hợp AgentCore Gateway và resource-based policy.

  2. Claude YouTube38

    Khi nào nên dùng từng mô hình Claude: Opus 5.5, Fable 5.2, Sonnet 5.5 và Haiku 5.5

    Hướng dẫn của Anthropic gắn mỗi mô hình Claude với quy mô công việc: Opus 5.5 để lập kế hoạch và xây dựng toàn bộ tính năng, còn Fable 5.2 cho những công việc kỹ thuật tham vọng nhất, mở. Sonnet 5.5 đảm nhận các tác vụ hằng ngày như sửa lỗi hoặc soạn tài liệu, trong khi Haiku 5.5 xử lý những tác vụ nhỏ hơn được làm lặp đi lặp lại.

12 tháng 11Thứ Năm
  1. Google AI · DEV42

    Làm lại NetHack thành game nhập vai hành động 3D với Gemini 4 Carbon trong Antigravity

    Một nhà phát triển đã dùng Gemini 4 Carbon trong nền tảng Antigravity của Google để làm lại tựa game roguelike NetHack năm 1987 thành một game nhập vai hành động 3D hiện đại, chuyển nó sang công nghệ web và wasm. Bản dựng dựa vào tính năng /swarm, vốn sinh ra các tác nhân phụ với ngữ cảnh riêng để đánh giá chéo kết quả của nhau, cùng với một máy chủ Blender MCP để tạo tài nguyên 3D. Gemini 4 Carbon có sẵn thông qua gói Google AI Ultra.

  2. LangChain Blog40

    Cách GTM Agent của LangChain tạo ra các tài liệu bán hàng nhất quán, chất lượng cao

    GTM Agent nội bộ của LangChain đã tạo ra 1.540 tài liệu bán hàng trong 12 tuần, giúp các đại diện tiết kiệm 337 giờ cho các tài liệu như kế hoạch tài khoản và bộ đề xuất. 47% thương vụ có tài liệu được gửi đã tiến sang giai đoạn sau, so với 16% ở các thương vụ tương ứng không có tài liệu, và 46% tài liệu được theo sau bởi một cuộc gọi khách hàng trong vòng 14 ngày. Agent vận hành trên Deep Agents harness, với sandbox, skills, memory và scheduled runs có sẵn trong Managed Deep Agents.

  3. AWS Machine Learning Blog36

    Xây dựng tác nhân AI tự hành với Amazon Bedrock và Spring AI

    AWS hướng dẫn các nhóm Java cách xây dựng tác nhân AI tự hành bằng Spring AI và AgentCore của Amazon Bedrock, với tích hợp spring-ai-agentcore. Hai hệ thống tham chiếu được trình bày chi tiết: một trợ lý du lịch đơn tác nhân có gọi công cụ và bộ nhớ, và một nền tảng xử lý tài liệu thông minh đa tác nhân với năm tác nhân chuyên biệt, một công cụ quy tắc và cảnh báo. Ngăn xếp yêu cầu JDK 21, Spring Boot 4.1 với Spring AI 2.0, và triển khai qua runtime AgentCore trên container ARM64.

  4. OpenRouter Announcements58

    OpenRouter so sánh chi phí LLM tự vận hành và API bằng tính toán tải hòa vốn

    OpenRouter đã công bố phân tích hòa vốn cho thấy khi nào tự vận hành một LLM trọng số mở có chi phí thấp hơn so với gọi nó qua API, sử dụng giá theo từng nhà cung cấp tính đến ngày 8 tháng 10 năm 2026. Với mức giá đó, Qwen3.8 27B trên một RTX 3090 thuê với giá 0,50 đô la một giờ đạt hòa vốn ở mức tải 6 đến 12%, trong khi DeepSeek V4.1 Flash trên bốn H200 không bao giờ đánh bại được endpoint không lưu dữ liệu rẻ nhất. Bài viết cũng lưu ý rằng provider.zdr và các tên miền EU và US đáp ứng hầu hết nhu cầu riêng tư mà không cần tự vận hành, và khuyến nghị chạy một mức tải cơ bản ổn định tại chỗ trong khi gửi các đỉnh tải đến API.

  5. OpenRouter Announcements58

    OpenRouter ra mắt hướng dẫn: Cách ngăn AI Agent rơi vào vòng lặp vô hạn

    OpenRouter đã công bố hướng dẫn về cách ngăn chặn AI Agent bị kẹt khi liên tục thử lại một công cụ đang lỗi, sử dụng bốn lớp bảo vệ được thử nghiệm trên sáu mô hình hiện hành. Khi bật tính năng phát hiện doomLoop, cả sáu mô hình đều bị chặn ở lần gọi công cụ trùng lặp thứ ba, và qua 18 lần chạy, số lần gọi công cụ giảm từ 314 xuống 64 trong khi chi phí giảm từ $0.29 xuống $0.05. Hướng dẫn bổ sung loopKey để chuẩn hóa đối số, stopWhen giới hạn số bước và chi phí, cùng giới hạn tín dụng trên API key trả về mã 402 với limit_source openrouter_key_limit.

  6. OpenRouter Announcements28

    Cách đánh giá LLM: Hướng dẫn chấm điểm bằng mã từ OpenRouter

    OpenRouter đã công bố hướng dẫn đánh giá LLM trên dữ liệu đầu vào của chính ứng dụng, chấm điểm đầu ra bằng mã và so sánh độ chính xác, chi phí tính phí và thời gian yêu cầu. Trên 60 tác vụ tổng hợp, GPT-6.1 Sol đã vượt qua 180/180 lần thử qua ba lần lặp lại, trong khi DeepSeek có chi phí phản hồi thấp nhất với 157/180 lần vượt qua. Mức độ đồng thuận với bảng xếp hạng công khai là yếu, với hệ số tương quan Spearman là 0.109.

  7. vLLM Blog72

    vLLM phục vụ DeepSeek-V4.1-Flash trên Vera Rubin NVL72 với thông lượng gấp 58 lần GB300 NVL72

    vLLM báo cáo việc phục vụ DeepSeek-V4.1-Flash trên một rack NVIDIA Vera Rubin NVL72 duy nhất đạt 1,7M token/s mỗi GPU với 387 token/s mỗi người dùng, gấp 58 lần GB300 NVL72, đạt đỉnh 2,52M token/s và 1.810 token/s cho một người dùng. Mức tăng đến từ các kernel được xây dựng lại cho các miền bộ nhớ tách biệt của Rubin và lõi tensor FP4, một đường giải mã TP8 chuyên dụng, và các pool KV và Engram toàn rack chia sẻ qua NVLink. Với các tiền tố được gộp chung trên toàn rack và định tuyến nhận biết khối lượng công việc của Dynamo, tỷ lệ trúng tiền tố giữ ở mức 96,5-97% ngay cả ở mức đồng thời cao.

    Vì sao đáng chú ý: Bài đăng thứ ba của vLLM về DeepSeek-V4.1-Flash trình bày chi tiết cách các kernel dành riêng cho Rubin và gộp bộ nhớ toàn rack nâng thông lượng gấp 58 lần so với GB300 NVL72, mang lại một tham chiếu cụ thể cho tối ưu hóa phục vụ quy mô lớn.

  8. Hugging Face Blog36

    Hugging Face phát hành hướng dẫn và script fine-tune cho TRELLIS.2 tạo sinh 3D

    Hugging Face đã công bố các script và container fine-tune cho TRELLIS.2, một mô hình tạo sinh 3D, có thể chạy cục bộ hoặc trên Hugging Face Jobs. Hướng dẫn sử dụng LoRA adapter thông qua thư viện PEFT chỉ trên sparse-structure flow DiT và shape flow DiT, giữ nguyên giai đoạn material. Trên tập con 188 đối tượng giày dép của bộ dữ liệu GSO, mô hình tiền huấn luyện thường render sai đế giày, và đây là mục tiêu mà fine-tune LoRA nhắm tới.

  9. AWS Machine Learning Blog36

    Chạy OpenAI Codex trên Amazon Bedrock: Các đường dẫn truy cập và hướng dẫn triển khai

    Bài viết này hướng dẫn cách định tuyến các yêu cầu mô hình OpenAI Codex đến Amazon Bedrock trong khi tận dụng các thực tiễn hiện có về danh tính AWS, IAM, Region và khả năng quan sát. Bài viết khuyến nghị bắt đầu với Native AWS Access cho một thử nghiệm nhỏ với đặc quyền tối thiểu, với AgentCore Gateway hoặc LLM Gateway là các lựa chọn thay thế, và trình bày chi tiết việc đăng nhập IAM Identity Center cùng với kiểm tra trực tiếp Bedrock Runtime bằng GPT-5.6 Sol.

  10. AWS Machine Learning Blog34

    So sánh ngữ nghĩa các chính sách hình thức bằng phản hợp nhất

    Một engine mã nguồn mở tính toán khác biệt ngữ nghĩa của các chính sách hình thức bằng cách dùng phản hợp nhất trên một e-graph, hiển thị cấu trúc chung một lần và giữ lại cả hai phiên bản của mỗi phần khác biệt. Nó nhắm tới các đầu ra tự hình thức hóa trong các chính sách SMT-LIB, Cedar, Dogwood, OpenShell và CEL, nơi một LLM viết ra tạo tác nhưng không tham gia vào việc tính toán khác biệt.

  11. AWS Machine Learning Blog46

    Phát hiện và khắc phục lỗi hỏng dữ liệu âm thầm trên Amazon SageMaker HyperPod

    Một vòng lặp huấn luyện PyTorch DDP trên Amazon SageMaker HyperPod được bổ sung ba bước kiểm tra nhằm phát hiện lỗi hỏng dữ liệu âm thầm: kiểm tra gradient không hữu hạn, kiểm toán phát lại vòng so sánh bit loss và dấu vân tay gradient giữa các node, và so sánh dấu vân tay trọng số sau bước tối ưu hóa. Được thử nghiệm với lỗi tiêm phần mềm trên 4 instance ml.p5.48xlarge (32 GPU NVIDIA H100), các bước kiểm tra chỉ ra rank nghi ngờ, ánh xạ rank đó tới một node, và cho phép HyperPod thay thế node và tiếp tục từ checkpoint.

  12. AWS Machine Learning Blog12

    AWS re:Invent 2026 AI/ML Track: Hướng dẫn cho người tham dự

    AWS sẽ tổ chức hội nghị re:Invent thường niên từ ngày 30 tháng 11 đến ngày 4 tháng 12, với track AI/ML cung cấp hơn 140 phiên độc đáo trong tổng số hơn 2.000 phiên học tập. Hướng dẫn này ánh xạ các phiên vào ngăn xếp AI của AWS, bao gồm chip AI (AWS Trainium và NVIDIA GPUs), mô hình và suy luận trên Amazon Bedrock và SageMaker AI, và phát triển tác nhân với Amazon Bedrock AgentCore. Các phiên được tổ chức từ nội dung cho người mới đến các buổi đào sâu kỹ thuật, và nhiều phiên có thể xem theo yêu cầu.

  13. AWS Machine Learning Blog28

    Tự động hóa cập nhật AWS Agent Registry với kiến trúc dựa trên push

    AWS phác thảo một pipeline hướng sự kiện giúp duy trì các bản ghi AWS Agent Registry cho các máy chủ MCP luôn cập nhật mà không cần cập nhật thủ công. AWS CloudTrail ghi lại các lệnh gọi API UpdateAgentRuntime, Amazon EventBridge định tuyến chúng giữa các tài khoản, và một hàm Lambda truy vấn các công cụ của máy chủ MCP thông qua token OAuth của AgentCore Identity, sau đó so sánh và cập nhật bản ghi registry tương ứng. Mẫu này chỉ cập nhật các bản ghi hiện có và hỗ trợ cả thiết lập một tài khoản và nhiều tài khoản.

  14. Amazon Science36

    Dùng toán học để xác thực cấu hình mạng: AWS Tiros cho kiểm tra phân đoạn

    AWS đang sử dụng công cụ lập luận tự động Tiros để xác thực tĩnh việc phân đoạn mạng trên tất cả các đường đi được mô hình hóa, thay vì dựa vào lấy mẫu dựa trên gói tin. Tiros chuyển đổi cấu hình Cloud WAN từ bảng định tuyến, tệp đính kèm và tài liệu chính sách thành các mệnh đề logic, sau đó kiểm tra rằng không tồn tại đường đi nào giữa các phân đoạn mà chính sách tuyên bố là ngoài giới hạn, với các phân tích được chạy thường xuyên tới mỗi giờ một lần.

  15. Meta Engineering Blog40

    Meta Intelligent Delivery: Hệ thống ML phân bổ năng lực tính toán cho xếp hạng quảng cáo

    Meta đã trình bày chi tiết về Intelligent Delivery, một hệ thống do ML dẫn dắt, phân bổ năng lực tính toán trên toàn bộ ngăn xếp phục vụ quảng cáo của mình hướng tới mức tối ưu toàn hệ thống, đóng góp khoảng 10% hiệu suất xếp hạng gia tăng trên nền các tiến bộ về mô hình và hệ thống từ năm 2017 đến nửa đầu năm 2026. Resource Core Model của hệ thống sử dụng 6B tham số thưa và 20M tham số dày để dự đoán tiện ích biên của từng yêu cầu, và Meta cho biết hệ thống đã cải thiện khả năng nhận diện các yêu cầu quảng cáo có tác động cao thêm khoảng 20% trong các đánh giá ngoại tuyến. Hệ thống cũng dựa vào các cơ chế phân bổ đa tầng và AI ngày càng mang tính tác tử để thích ứng khi mô hình và phần cứng thay đổi.

  16. Google Developers Blog58

    Kỹ sư Google dùng Gemini 4 Argon và Z3 để bắt lỗi kiểm tra biên trong Go mà fuzzing bỏ sót

    Một kỹ sư Google, người dẫn dắt chương trình kỹ năng tác nhân của công ty, đã xây dựng một pipeline trong đó Gemini 4 Argon đọc mã nguồn Go và mã hợp ngữ RISC-V, chuyển các trap runtime.panicBounds còn sót lại thành ràng buộc Z3, sau đó go test phát lại bất kỳ đầu vào thỏa mãn nào như một reproducer thực sự. Quy trình này bắt được cả ba lỗi được cài sẵn và ba lỗi tiềm ẩn trong skill-lint, trong khi go test -fuzz không có seed bỏ sót hai trong số các crash được cài sẵn vì Go kiểm tra slice dựa trên capacity thay vì length. Việc cắt capacity về bằng length bằng data[:len(data):len(data)] khiến fuzzer làm crash cả hai lỗi tràn trong cả ba lần chạy, với trung vị là 0,28 s và 0,17 s.

  17. Claude Blog40

    Hướng dẫn Claude Tag của Anthropic dành cho startup: các kênh Slack hàng đầu và trường hợp sử dụng

    Anthropic đã công bố hướng dẫn về Claude Tag (bản beta) dành cho startup, dựa trên các cuộc trò chuyện với tám công ty tăng trưởng cao về nơi họ triển khai tác nhân dựa trên Slack đầu tiên. Hướng dẫn bao gồm năm thiết lập phổ biến — phân loại trực ca, thread-to-PR, bộ não công ty, dữ liệu tự phục vụ và báo cáo — cùng danh sách kiểm tra khởi đầu. Kết quả được trích dẫn bao gồm một PR được mở 21 phút sau khi được nhắc trên Slack và 134 pull request được hợp nhất từ các thread Slack tại NavigateAI.

11 tháng 11Thứ Tư
  1. ElevenLabs Blog18

    Nhân bản giọng nói cho nhà sáng tạo nội dung: mở rộng quy trình nội dung với AI giọng nói

    ElevenLabs phác thảo cách nhân bản giọng nói cho phép nhà sáng tạo nội dung ghi một mẫu ngắn một lần rồi tạo lời thuyết minh cho video, podcast, khóa học và clip mạng xã hội mà không cần quay lại phòng thu. Hướng dẫn phân biệt Instant Voice Cloning, tạo bản sao từ mẫu ngắn trong dưới một phút, với Professional Voice Cloning, huấn luyện trên bộ ghi âm lớn hơn và bao gồm bước xác minh xác nhận giọng nói thuộc về nhà sáng tạo. Tài liệu cũng liệt kê các tiêu chí lựa chọn bao gồm độ trung thực của giọng nói, kiểm soát cách thể hiện, phạm vi ngôn ngữ, biện pháp bảo vệ sự đồng ý, tùy chọn xuất và cấp phép thương mại.

  2. Latent Space38

    Kỹ sư OpenAI trình bày chi tiết các cách làm việc mới với Codex tại AI Engineer Code Summit

    Các kỹ sư Trải nghiệm Nhà phát triển của OpenAI, Dominik Kundel và Charlie Guo, đã trình bày "New Ways of Working with Codex" tại AI Engineer Code Summit, bao gồm Codex Cloud v2 được cải tiến được công bố tại DevDay, chế độ giọng nói như một mặt phẳng điều khiển để quản lý các luồng lập trình, và các tác nhân cá nhân được gọi là dots. Kundel cho biết Codex Cloud hiện hoạt động như một bộ thực thi nền, cho phép Codex cục bộ chuyển giao nhiệm vụ lên đám mây, mặc dù ông thừa nhận quy trình làm việc trên đám mây vẫn cần trở nên dễ dàng hơn.

  3. vLLM Blog58

    vLLM bổ sung phân tách encoder cho phục vụ đa phương thức với EPD

    vLLM đã mở rộng phân tách Encoder/Prefill/Decode (EPD) cho phục vụ đa phương thức, bổ sung yêu cầu chỉ chứa metadata, một đường thực thi encoder riêng, truyền embedding từ xa qua NIXL và Mooncake, tái sử dụng đầu ra cross-encoder, và điều phối thông qua vLLM Router, SMG và llm-d. Các năng lực cốt lõi bao gồm hỗ trợ MiMo và XPU có trong vLLM v0.32.0, trong khi hỗ trợ chỉ metadata cho DeepSeek V4.1 Flash có sẵn trên main qua #62802. Trong một thử nghiệm DeepSeek V4.1 Flash trên GB200, EPD đạt thông lượng trên mỗi GPU cao hơn 6,6–9,5% và P90 TTFT thấp hơn 44–47% so với baseline PD tám GPU ở mức đồng thời 64–128, nhưng có thông lượng trên mỗi GPU thấp hơn ở mức đồng thời 16.

  4. OpenRouter Announcements65

    OpenRouter đo chi phí ngữ cảnh của MCP, CLI và skills trên cùng một tác vụ GitHub

    OpenRouter đã đo cùng một tác vụ GitHub trên GitHub MCP server, gh CLI và một gh skill trên Claude Sonnet 5.5, GPT-6 Luna và Gemini 3.8 Flash. Trên Sonnet 5.5, cả ba đều trả lời đúng, nhưng CLI dùng 1.421 token đầu vào, skill dùng 3.315 và MCP server dùng 59.417 với 46 công cụ mặc định, riêng phần định nghĩa của chúng đã thêm 19.436 token mỗi yêu cầu. Giới hạn server xuống hai công cụ giảm tác vụ còn 23.228 token, giới hạn kết quả ở 4.000 ký tự đưa xuống 5.357, và Tool Search giảm chi phí ban đầu của 46 công cụ xuống dưới 600 token, dù nó giảm một nửa chi phí toàn tác vụ trên Sonnet 5.5 trong khi lại tăng trên Claude Haiku 5.5.

    Vì sao đáng chú ý: So sánh đo lường của OpenRouter cho thấy mỗi MCP server, CLI và skill tiêu thụ bao nhiêu ngữ cảnh trên cùng một tác vụ GitHub, và việc cắt bớt kết quả công cụ hoặc trì hoãn định nghĩa thay đổi hóa đơn ở đâu.

  5. Hugging Face Blog41

    Huấn luyện nhận biết pooling cho mô hình embedding đa vector với Sentence Transformers

    Hugging Face trình bày cách huấn luyện nhận biết pooling nâng cao chất lượng truy xuất cho các mô hình embedding đa vector với ngân sách lưu trữ cố định. Với pool_factor=4, một mô hình được huấn luyện thông thường giữ được 94,6% nDCG@10 trên NanoBEIR khi chưa pooling, trong khi giảm số vector tài liệu xuống 4 lần, và huấn luyện nhận biết pooling nâng tỷ lệ giữ lại đó lên 97,8%. Bài viết đi qua HierarchicalTokenPooling, hiệu chỉnh ngân sách và một ví dụ Sentence Transformers có thể tái lập.

  6. OpenRouter Announcements58

    Hướng dẫn OpenRouter: khắc phục lỗi giới hạn tần suất 429 của OpenAI và Claude

    OpenRouter đã công bố hướng dẫn xử lý lỗi 429 Too Many Requests từ OpenAI, Anthropic và API của chính họ, thử nghiệm ba cách khắc phục trên một lô 60 prompt. Cơ chế thử lại mặc định của OpenAI Python SDK khiến 23 trong 60 yêu cầu thất bại trong 12 giây, trong khi cách thử lại chờ Retry-After hoặc X-RateLimit-Reset hoàn thành cả 60 yêu cầu trong 89 đến 92 giây với Python và 106 đến 218 giây với TypeScript. Cơ chế dự phòng theo mô hình hoàn thành cả 60 yêu cầu trong 13 giây với chi phí $0.000066, và khi bật chuyển đổi dự phòng nhà cung cấp, cả 150 yêu cầu ghim nhà cung cấp đều thành công, trong khi có tới 32 yêu cầu thất bại khi tắt dự phòng.

  7. OpenRouter Announcements60

    OpenRouter kiểm tra tác động của lượng tử hóa fp8 và fp4 đến chất lượng và giá của LLM

    OpenRouter đã chạy 280 tác vụ có đáp án chính xác trên sáu endpoint của Qwen3.8 27B vào ngày 20 tháng 10 năm 2026 và không phát hiện sự khác biệt về độ chính xác giữa fp16, fp8 và fp4, với cả sáu endpoint đạt điểm từ 98,3% đến 99,2%. Trên 1.455 endpoint, 59,5% không báo cáo độ chính xác nào và fp8 là định dạng được gắn nhãn phổ biến nhất với 23,6%. Độ chính xác thấp hơn có giá rẻ hơn đối với hầu hết các mô hình nhưng không phải tất cả, và việc lựa chọn nhà cung cấp ảnh hưởng đến giá nhiều hơn so với độ chính xác, với endpoint cùng độ chính xác đắt nhất có giá trung vị gấp 1,72 lần so với rẻ nhất.

    Vì sao đáng chú ý: OpenRouter đã đo các endpoint fp8, fp4 và fp16 của một mô hình trên 240 tác vụ có đáp án chính xác và không tìm thấy khoảng cách độ chính xác có thể phát hiện được, trong khi chênh lệch giá phụ thuộc vào nhà cung cấp nhiều hơn là độ chính xác.

  8. LangChain Blog58

    LangChain giải thích các kỹ thuật truy xuất cho kỹ thuật ngữ cảnh của AI agent

    LangChain đã xuất bản một bài blog về cách thiết kế truy xuất định hình kỹ thuật ngữ cảnh cho AI agent, sử dụng một agent phân tích cạnh tranh được xây dựng trên Deep Agents harness của mình làm ví dụ. Bài viết đề cập đến ba kiểu thất bại: tìm kiếm không hiệu quả, tải quá nhiều ngữ cảnh cùng lúc, và kết quả không liên quan hoặc lỗi thời, đồng thời ghép mỗi kiểu với các kỹ thuật như công cụ hệ thống tệp glob và grep, phân trang qua các tệp lớn bằng offset read_file, chuyển kết quả công cụ quá lớn sang tệp, và giao việc đọc cho subagent theo mô hình truy xuất, chuyển giao, ủy thác. Bài viết cũng cảnh báo rằng văn bản được truy xuất là dữ liệu chứ không phải hướng dẫn và có thể mang theo prompt injection, vì vậy đầu ra nên được kiểm tra dựa trên các nguồn được trích dẫn.

  9. LangChain Blog60

    LangChain giải thích cách Deep Agents quản lý ngữ cảnh mà không cần giữ mọi thứ trong cửa sổ ngữ cảnh

    LangChain trình bày chi tiết cách bộ khung Deep Agents mã nguồn mở của họ sử dụng middleware để chống lại hiện tượng suy giảm ngữ cảnh trong các phiên chạy agent dài. Kết quả công cụ vượt khoảng 20.000 token và tin nhắn người dùng vượt 50.000 token được chuyển sang tệp với chỉ một bản xem trước được hiển thị, trong khi tính năng tóm tắt cô đọng các tin nhắn cũ hơn khi mức sử dụng đạt 85% cửa sổ ngữ cảnh. Skills, subagents và một tệp bộ nhớ dài hạn dạng markdown giữ cửa sổ của agent chính ở mức nhỏ và cho phép bộ nhớ được duy trì qua các mô hình và nhà cung cấp.

    Vì sao đáng chú ý: LangChain giải thích cách bộ khung Deep Agents mã nguồn mở của họ sử dụng middleware để chuyển tải, tóm tắt và cô lập ngữ cảnh, mang đến một mẫu tái sử dụng được cho các agent trong các tác vụ dài.

  10. LangChain Blog36

    Workday đã xây dựng nền tảng AI agent quy mô doanh nghiệp như thế nào với LangGraph và LangSmith

    Workday đã xây dựng một nền tảng dành cho nhà phát triển nội bộ để đưa AI agent vào môi trường production, dùng LangGraph để điều phối và LangSmith để tracing, observability và evals, với một nhóm bốn người. Thời gian tạo prototype giảm từ 4–5 tháng xuống dưới một ngày, và nhóm đã phát triển lên khoảng 30 thành viên.

  11. Meta Engineering Blog58

    Meta giải thích TLX, một tiện ích mở rộng trình biên dịch GPU gốc phần cứng cho Triton phục vụ ML trong sản xuất

    Meta đã trình bày chi tiết về TLX (Triton Low-Level Extensions), một tiện ích mở rộng cho Triton bổ sung điều phối cấp nhóm warp và cụm một cách tường minh trong khi vẫn giữ mô hình lập trình tensor của Triton. TLX đã được vận hành trong môi trường sản xuất trên toàn Meta, với 20-25% MFU end-to-end trên hàng nghìn GPU NVIDIA Blackwell cho huấn luyện GEM, giảm tới hai phần ba độ trễ mạng tính toán chuyên sâu cho suy luận RecSys, và một kernel GEMM nhóm phân tán được triển khai trong tiền huấn luyện LLM quy mô lớn. Meta cho biết TLX nhắm đến NVIDIA Hopper và Blackwell cùng AMD Mi300 và Mi350x, và đang phát triển thêm nhiều kiến trúc hơn, suy luận nhóm warp tự động và một backend torch.compile.

10 tháng 11Thứ Ba
  1. Google AI · DEV58

    Google giải thích cách họ đưa Agent Skills ra như sản phẩm với các cổng CI và một tác nhân đánh giá AI

    Google Agent Skills hiện lưu trữ hơn 170 kỹ năng từ các nhóm trên khắp Google và đã vượt 21.000 sao GitHub, tăng từ 15.000, và những người duy trì nó mô tả quy trình mà mọi thay đổi đều phải vượt qua. Mỗi pull request phải qua sáu cổng tự động, bao gồm kiểm tra tuân thủ cấu trúc, linters, đánh dấu phiên bản ngữ nghĩa, xác thực bộ đánh giá, kiểm tra liên kết và một tác nhân đánh giá AI, trước khi một chuyên gia lĩnh vực con người phê duyệt. Bài viết cũng chia sẻ các bài học như kỳ vọng đánh giá nguyên tử, tạo tệp chỉ mục và chạy các kiểm tra tất định rẻ tiền trước các kiểm tra LLM đắt tiền.

  2. LangChain Blog59

    Stripe đã xây dựng Kai trên Deep Agents trong một tuần như thế nào

    Stripe đã xây dựng Kai, Nền tảng AI Tri thức toàn công ty của mình, trên khung Deep Agents mã nguồn mở của LangChain, với một kỹ sư phát hành phiên bản đầu tiên chỉ trong một tuần. Ngăn xếp này xếp lớp một harness và lớp cấu hình dành riêng cho Stripe lên trên Deep Agents, sử dụng middleware hệ thống tệp được hỗ trợ bởi S3, middleware sandbox để thực thi mã, middleware tóm tắt cho các phiên dài và tải công cụ động dựa trên kỹ năng trên hơn 500 công cụ MCP nội bộ và hơn 1.000 kỹ năng. Kai đã tăng từ 296 lên hơn 5.000 người dùng trong khoảng bốn tuần và hiện được 83% nhân viên Stripe sử dụng hàng tuần với hơn 60k phiên.

  3. Simon Willison58

    Anthropic ghi lại một chỉnh sửa prompt giúp Claude Fable 5.2 hợp nhất mã trùng lặp

    Tài liệu của Anthropic về Claude Fable 5.2 cho biết mô hình chú ý nhiều đến việc ai sở hữu mã mà nó đang xử lý. Trong thử nghiệm trên các tác vụ lập trình nhỏ, mô hình đã hợp nhất mã trùng lặp trong dưới 10 phần trăm số lần chạy khi prompt không nói gì về quyền sở hữu, và trong khoảng 75 phần trăm số lần chạy khi prompt nêu rõ rằng cơ sở mã là của chính mô hình. Câu được đề xuất là: You are the owner and long-term maintainer of this codebase, and its design is up to you.

  4. Hugging Face Blog60

    Hugging Face giải thích về mô hình quyết định và sự hỗ trợ của chúng trong Transformers và llama.cpp

    Hugging Face đã công bố một bài giải thích về mô hình quyết định, loại mô hình nhận một trạng thái cùng các câu hỏi có kiểu và trả về xác suất trên các câu trả lời được định nghĩa trước thay vì sinh văn bản. Bài viết trình bày chi tiết các primitive choice, score và noul, công thức độ tin cậy, và sự hỗ trợ mới thông qua DecisionPipeline và AutoModelForDecision của Transformers, một endpoint /v1/systemone dùng chung trong Transformers và llama.cpp, một thẻ Hub để khám phá, và tinh chỉnh với Trainer API. Bài viết lưu ý rằng cùng endpoint đó cũng hoạt động với các LLM tự hồi quy tương thích bằng cách tính điểm logit của câu trả lời trong một lượt lan truyền xuôi theo lô.

    Vì sao đáng chú ý: Hugging Face giải thích cách các mô hình quyết định biến phân loại thành một giao diện có kiểu, không sinh văn bản và chỉ ra cách phục vụ và tinh chỉnh chúng với Transformers và llama.cpp.

  5. OpenRouter Announcements72

    OpenRouter đánh giá 15 mô hình thị giác và Mistral OCR trên tài liệu quét

    OpenRouter đã thử nghiệm 15 mô hình thị giác, Mistral OCR và Tesseract trên tám bản quét suy giảm tự tạo, và Claude Opus 5.5 chính xác nhất với 262 trong 264 giá trị khóa đúng với chi phí 16,42 đô la cho 1.000 trang, trong khi Mistral OCR có giá trị tốt nhất với 258 trong 264 với giá 2,02 đô la. Trên một hóa đơn mờ, GPT-6 Luna và GPT-6.1 Sol đã bịa ra chữ số thẻ, tên máy chủ và mật khẩu wifi, những lỗi mà tỷ lệ lỗi ký tự không phát hiện được. Bài viết bao gồm mã để phiên âm bản quét, tắt suy luận, kiểm tra chéo hai mô hình từ các phòng thí nghiệm khác nhau và chạy Mistral OCR thông qua plugin phân tích tệp.

    Vì sao đáng chú ý: Một đánh giá thực hành về 15 mô hình thị giác cùng Mistral OCR và Tesseract trên tám bản quét suy giảm, với mã có thể chạy để kiểm tra chéo hai mô hình nhằm phát hiện các giá trị bịa đặt.

  6. Meta Engineering Blog40

    Meta mở rộng LLDB với kiến trúc plugin tăng tốc trung lập nhà cung cấp cho gỡ lỗi CPU-GPU

    Meta đã xây dựng kiến trúc plugin tăng tốc trung lập nhà cung cấp trong lldb-server cho phép LLDB gỡ lỗi các ứng dụng trải rộng trên CPU và GPU trong một phiên duy nhất. Thiết kế biểu diễn CPU và GPU thành các target LLDB riêng biệt, mỗi target có kiến trúc, luồng, thanh ghi và không gian địa chỉ riêng, trong khi một plugin chuyển dịch các API gỡ lỗi thiết bị của nhà cung cấp thành các khái niệm LLDB. Hỗ trợ GPU chỉ kích hoạt khi ứng dụng sử dụng runtime GPU được hỗ trợ, do đó gỡ lỗi chỉ CPU vẫn giữ nguyên đường dẫn native hiện có mà không tăng thêm chi phí.

  7. Claude Blog34

    Curative đã xây dựng mạng lưới nhà cung cấp quốc gia với các agent trên Claude như thế nào

    Curative đã xây dựng một hệ thống phân cấp các agent trên Claude để ký hợp đồng với nhà cung cấp nhanh hơn khoảng 50 lần so với đội ngũ của công ty vào năm 2025, đạt 23.000 hợp đồng được ký với agent Gwen và 2.000 đến 2.400 hợp đồng mới mỗi tuần. Gwen xử lý một thỏa thuận nhà cung cấp mỗi lần chạy, chủ yếu trên Claude Opus, trong khi một trình đánh giá tỷ lệ Sonnet xử lý khoảng hai phần ba các yêu cầu tỷ lệ vượt mẫu và một giám định Haiku đọc mọi tin nhắn trước khi gửi. Mỗi hợp đồng tốn khoảng 20 triệu token, tức khoảng một phần mười chi phí ban đầu, và đội ngũ hợp đồng của Curative đã tăng từ 45 lên khoảng 55 người, mỗi người có năng suất khoảng 2,5 lần.

  8. Recraft Blog34

    Trình tạo biểu tượng AI tốt nhất năm 2026: So sánh 7 công cụ

    Recraft được vinh danh là trình tạo biểu tượng AI tốt nhất năm 2026 sau khi so sánh bảy công cụ, chấm điểm bài kiểm tra phong cách nhất quán với năm biểu tượng và xuất SVG gốc. Recraft giữ nguyên độ dày nét và bán kính góc trên các glyph và xuất SVG có thể chỉnh sửa, trong khi Canva chỉ đạt một phần và Adobe Firefly cùng Midjourney đều trượt cả hai tiêu chí với đầu ra dạng raster.

  9. Recraft Blog58

    Hướng dẫn Recraft: 12 chỉnh sửa ảnh bằng câu lệnh văn bản hiệu quả và cách diễn đạt thất bại

    Recraft đã công bố một hướng dẫn với mười hai câu lệnh văn bản sẵn sàng sao chép để chỉnh sửa ảnh trên các mô hình image-to-image, được xây dựng theo mẫu hai dòng: một dòng thay đổi nêu tên đối tượng, vị trí của nó và kết quả, cộng với một dòng giữ nguyên khóa khuôn mặt, nhãn in, khung hình và ánh sáng. Hướng dẫn cho biết các chỉnh sửa cục bộ như xóa một đối tượng, đổi màu, thay đổi ánh sáng hoặc thay trang phục giữ được danh tính tốt hơn so với việc thay đổi phong cách hoặc hoán đổi thời tiết, và rằng các câu lệnh thất bại khi chúng xếp chồng nhiều thay đổi, viết lại chữ in, hoặc yêu cầu một khuôn mặt hoặc tỷ lệ cơ thể mới. Hướng dẫn khuyến nghị tạo hai hoặc ba biến thể, kiểm tra ở mức thu phóng 100%, và sửa một lỗi còn sót lại bằng một câu lệnh tiếp theo chỉ nêu rõ vùng đó.

  10. Recraft Blog22

    Trình tạo meme AI tốt nhất năm 2026: So sánh 7 công cụ

    Bảy trình tạo meme AI — Imgflip, Canva, Supermeme.ai, Recraft, Kapwing, ChatGPT và Magic Hour — đã được thử nghiệm trên gói miễn phí, hình mờ, mẫu, hiển thị chú thích, kích thước xuất và API bằng cùng ba đề bài meme. So sánh cho thấy không có người thắng chung cuộc: Imgflip thắng nhờ mẫu cổ điển, Supermeme.ai nhờ chuyển ý tưởng thành chú thích, Recraft và ChatGPT nhờ hình ảnh gốc, Kapwing nhờ video và GIF, còn Canva khi meme phải khớp với bố cục.