Tới nội dung
Chỉ Hướng dẫn
5 tháng 11Thứ Năm
  1. The Pragmatic Engineer22

    Mở rộng quy mô Slack và GitHub: Maude Lemaire về hiệu năng backend và phân mảnh cơ sở dữ liệu

    Maude Lemaire, kỹ sư chính và là tác giả của "Refactoring at Scale", chia sẻ góc nhìn nội bộ về việc mở rộng quy mô Slack và GitHub trên podcast The Pragmatic Engineer. Cô đã dành gần tám năm dẫn dắt nhóm hạ tầng hiệu năng backend của Slack, sau đó gia nhập GitHub vào năm 2024 để giải quyết bài toán mở rộng cơ sở dữ liệu, và gần đây nhất làm việc về hiệu năng tại Cursor, bao gồm thời gian đến token đầu tiên. Cô giải thích giới hạn 23 emoji tùy chỉnh của Slack nhằm tránh hiệu ứng thundering herd, việc kiểm thử tải 500.000 kết nối WebSocket theo cách ngây thơ sẽ tốn 150.000 đô la mỗi lần chạy, và lý do lớp trừu tượng Active Record cùng các truy vấn scatter của GitHub giới hạn nó ở 16 phân mảnh cơ sở dữ liệu.

4 tháng 11Thứ Tư
  1. Meta Engineering Blog34

    Meta F3 Lightning tăng tốc phát hành tính năng ML cho quảng cáo ~3,6 lần

    Meta đã giới thiệu F3 Lightning, một lớp hạ tầng nằm trên Facebook Feature Framework (F3) của họ, giúp tách việc phát hành tính năng khỏi việc thực thi chung, nhờ đó mỗi tính năng trong số hơn 20.000 tính năng xếp hạng quảng cáo được biên dịch, xác thực, triển khai và hoàn tác một cách độc lập. Các tính năng trích xuất tương đương giờ đây đến môi trường production nhanh hơn ~3,6 lần so với F3 trước đây mà không làm tăng chi phí tính toán hạ tầng.

3 tháng 11Thứ Ba
  1. Google Developers Blog58

    Google đánh giá các bộ phân loại giá rẻ để định tuyến mô hình Gemini theo chi phí mỗi tác vụ

    Google đã chạy một bài đánh giá tác nhân lập trình tự động chấm gồm 50 câu hỏi để kiểm tra liệu một bộ phân loại nhẹ, Jev của TypeSafe, có thể định tuyến từng tác vụ đến cấu hình Gemini rẻ nhất mà vẫn trả lời đúng hay không. Một heuristic regex cố định và độ dài prompt đạt 93,8% trên 16 câu hỏi phát triển nhưng giảm 23,2 điểm xuống 70,6% trên 34 tác vụ giữ lại, trong khi Jev đạt 96,0% trên toàn bộ bộ kiểm thử. Thiết lập không định tuyến mạnh nhất, Gemini 3.8 Flash ở chế độ suy nghĩ thấp, giải được tất cả 50 tác vụ, và một bộ định tuyến Jev gửi tác vụ đến Flash-Lite trước rồi nâng cấp những tác vụ bị gắn cờ cũng giải được tất cả 50 tác vụ trong khi giảm chi phí và thời gian phản hồi; giới hạn maxOutputTokens ở 300 không tiết kiệm gì trên các tác vụ dễ và làm hỏng 7 trong số 25 tác vụ khó.

29 tháng 10Thứ Năm
  1. Google Developers Blog58

    Google giải thích cách xây dựng ứng dụng Generative UI với A2UI và các agent CopilotKit

    Google đã công bố hướng dẫn xây dựng ứng dụng Generative UI với chuẩn A2UI (Agent-to-UI) không phụ thuộc framework của mình và bộ tích hợp agent của CopilotKit. A2UI gửi UI dưới dạng thông điệp JSON khai báo thay vì mã thực thi, nên client chỉ render các component từ một catalog tin cậy, và cùng một payload hoạt động trên React, Angular, Lit, SwiftUI, Jetpack Compose và Flutter. Hướng dẫn trình bày cách kết nối một agent Google ADK thông qua AG-UI, định nghĩa catalog component được Zod kiểm tra, và xây dựng các bề mặt hai chiều nơi dữ liệu người dùng nhập được truyền ngược về agent cho các luồng nhiều bước như đặt chỗ.

  2. Figma Blog58

    Figma đã huấn luyện một mô hình chỉnh sửa thiết kế thành thạo Figma như thế nào

    Figma đã trình bày chi tiết cách họ huấn luyện một mô hình chỉnh sửa thiết kế do chính họ phát triển cho Figma agent của mình, bắt đầu bằng việc tinh chỉnh có giám sát trên các yêu cầu chỉnh sửa tổng hợp được biểu diễn dưới định dạng tệp gốc của Figma và được xác thực bằng các kiểm tra tất định cùng các mô hình đánh giá trực quan.

28 tháng 10Thứ Tư
  1. Ai2 · Allen Institute for AI40

    Các nhà nghiên cứu đang điều chỉnh olmOCR 2 cho các kho lưu trữ lịch sử và khảo cổ như thế nào

    Các nhà nghiên cứu đang điều chỉnh mô hình olmOCR 2 mã nguồn mở của Ai2 để phiên âm các kho lưu trữ lịch sử và khảo cổ. Nhà sử học Maurice Casey đã xây dựng ArtificeOCR, chạy olmOCR 2 cục bộ cùng với Tropy để giúp thư viện ảnh lưu trữ của ông có thể tìm kiếm bằng từ khóa, trong khi dự án CENTURIA của TU Wien đã tinh chỉnh olmOCR 2 bằng LoRA trên 57 bản ghi được chú thích, giảm lỗi phiên âm trên 450 bản ghi kiểm thử từ 15,58% xuống 1,11%.

  2. The Pragmatic Engineer58

    Giải thích về AI SRE: các tác nhân xử lý sự cố AI thay đổi chế độ trực on-call như thế nào và liệu chúng có hiệu quả không

    The Pragmatic Engineer đã phỏng vấn Rootly, incident.io và ResolveAI về các công cụ AI SRE, phần lớn chỉ tăng tốc điều tra sự cố trong Slack thay vì hành động tự chủ. Tần suất triển khai đã tăng khoảng gấp đôi trong một năm ở nhiều công ty, và dữ liệu của Rootly cho thấy số trang cảnh báo tăng với các trang ngoài giờ gần như tăng gấp đôi, trong khi các nhà cung cấp xây dựng lại tác nhân điều tra dựa trên đồ thị tri thức, bộ nhớ và tác nhân xác minh. Các ví dụ nội bộ bao gồm Sevbot của OpenAI, tác nhân điều tra của Stripe (khoảng 3 phút cho một lần chạy đơn giản, 14 phút cho một lần chuyên sâu) và ProdAgent của Google trong Gemini CLI, công cụ này gợi ý công cụ qua MCP và không viết mã.

  3. Meta Engineering Blog34

    Meta PrivacyLib: Kiểm soát quyền riêng tư tại ranh giới truy cập dữ liệu

    Meta đã trình bày chi tiết về PrivacyLib, một thư viện chung được nhúng trong các ứng dụng khách của hàng trăm hệ thống dữ liệu và xử lý của mình, nhằm thực thi các yêu cầu về quyền riêng tư ngay tại điểm truy cập dữ liệu, thực hiện hàng tỷ lượt kiểm tra mỗi giây. Các hệ thống chỉ cần tích hợp một lần, và các khả năng quyền riêng tư mới được phát hành dưới dạng mô-đun plug-in, thay thế cho các triển khai riêng lẻ theo từng hệ thống vốn có thể mất hàng tháng. Một mô-đun Agent Observability theo dõi việc truy cập dữ liệu của các AI agent nội bộ bằng cách mang ngữ cảnh agent đến PrivacyLib.

  4. Google Developers Blog46

    Cải thiện chất lượng Agent bằng Đánh giá Agents CLI

    Không gian tên eval của Agents CLI do Google phát triển chạy một vòng lặp leo đồi cho agent: eval generate, grade, compare, analyze và optimize. Trong một bài hướng dẫn trên mẫu LangChain trong Agents CLI v1.8.0, một baseline đạt 4.0/5 với gemini-3.8-flash làm giám khảo, và một system prompt đầu bếp sai đã làm giảm xuống còn 2.75.

27 tháng 10Thứ Ba
  1. Google Developers Blog34

    Xây dựng Thương mại Hội thoại với Bầy Đa Tác tử trên GCP: Một Nguyên mẫu Hoạt động

    Các nhà phát triển Google Cloud đã xây dựng HappyDelivery, một nguyên mẫu hoạt động của thương mại hội thoại sử dụng LangGraph, Gemini, FastAPI và Google Cloud, theo một bản thiết kế ba lớp trước đó gồm Ingress, Memory và Cognition. Lớp Ingress xác thực chữ ký webhook đặc thù của nền tảng cho WhatsApp, RCS, Apple Messages và SMS, chuẩn hóa payload thành một schema chung và chuyển chúng sang Pub/Sub, trả về HTTP 200 trong khoảng 300ms. Bài viết đi qua mã nguồn, máy trạng thái, các công cụ tài chính tất định và một bộ kiểm thử xác minh tự động.

24 tháng 10Thứ Bảy
  1. SemiAnalysis60

    SemiAnalysis thử nghiệm bộ công cụ huấn luyện PyTorch gốc và trình phân tích Neuron Explorer của Amazon Trainium3

    Nhóm kỹ thuật của SemiAnalysis đã thử nghiệm các rack Trainium3 trên bộ công cụ TorchTitan và TorchNeuron và nhận thấy trải nghiệm PyTorch gốc là một cải tiến lớn so với cách tiếp cận PyTorch/XLA cũ, mặc dù vẫn còn lỗi và thời gian biên dịch kéo dài. Huấn luyện Qwen3-32B trên 16 chip Trainium2 đạt 14.156 token mỗi giây với MFU 30,47% ở chế độ biên dịch, tăng 1,28 lần so với chế độ eager, trong khi công thức gpt-oss 20B mất 27 phút 17 giây để biên dịch. Nhóm cũng đánh giá Neuron Explorer là trình phân tích hàng đầu trong ngành, vượt trước các công cụ của Nvidia và AMD, và báo cáo rằng Trainium3 đã vượt qua 89 trong số 96 trường hợp kiểm thử FlexAttention.

23 tháng 10Thứ Sáu
  1. Figma Blog40

    Cách đưa Hệ thống thiết kế của bạn vào hoạt động với Figma Agent

    Figma agent hiện đã được phát hành rộng rãi, và Figma giải thích cách cung cấp hệ thống thiết kế của bạn cho nó để đầu ra khớp với sản phẩm của bạn. Việc kết nối một thư viện đã xuất bản cho phép agent sử dụng các thành phần và token đã được phê duyệt, trong khi các tệp hướng dẫn mã hóa quy tắc của nhóm và các trang Examples hoặc cách đặt tên _example cung cấp các mẫu có thể tái sử dụng.