Tới nội dung
Chỉ Hướng dẫn
Hôm nay13 tháng 11Thứ Sáu20 mục
  1. Hacker News · AI62

    Cách thiết kế công cụ hiệu quả cho AI agent: hướng dẫn từ OpenAI, Anthropic, Google và MCP

    Bài viết này tổng hợp những gì OpenAI, Anthropic, Google và đặc tả MCP khuyến nghị về thiết kế công cụ cho AI agent, đồng thời đề cập những điểm mà các hướng dẫn của họ bỏ sót. Bài viết lập luận rằng công cụ nên được xây dựng xoay quanh quy trình công việc thay vì các endpoint API, rằng tên, mô tả và schema đóng vai trò như một hợp đồng mà mô hình đọc theo nghĩa đen, và rằng phản hồi cùng lỗi là một phần của prompt.

  2. Hacker News · AI40

    Stanford CS 329Z: Khóa học Engineering AI Agents bao gồm thiết kế agent, RAG, công cụ và hệ thống đa agent

    CS 329Z của Stanford, Engineering AI Agents, đi qua cấu trúc của các hệ thống agent — lõi LLM, lập luận, bộ nhớ, công cụ và môi trường — và khoảng cách giữa các hệ thống AI tổng hợp và agent thực sự. Khóa học bao gồm các pipeline RAG, sử dụng công cụ và gọi hàm với MCP, điều phối DSPy và LangGraph, kiến trúc bộ nhớ như MemGPT, và các mẫu điều phối đa agent. Khóa học kết thúc với các phương pháp tối ưu hóa bao gồm GEPA, PPO và GRPO, cùng một bài giảng khách mời từ những người tạo ra Terminal-Bench.

  3. Hacker News · AI36

    AI Security Wiki: Tài liệu tham chiếu triển khai cho an ninh AI doanh nghiệp

    AI Security Wiki là tài liệu tham chiếu để bảo mật việc áp dụng AI trong doanh nghiệp, bao gồm quản trị, quản lý rủi ro, kỹ thuật bảo mật, giám sát vận hành, đánh giá nhà cung cấp và đảm bảo chất lượng trong các trang mẫu có thể tái sử dụng. Tài liệu ánh xạ các mục tiêu kiểm soát, bằng chứng kiểm toán và các trường hợp kiểm thử vào các khung bao gồm ISO/IEC 42001, NIST AI RMF, NIST SSDF, PCI DSS v4.0.1, FINOS AI Governance Framework và hướng dẫn kiểm toán an ninh AI của CERT-In. Tài liệu cũng bao gồm thư viện kiểm thử 682 trường hợp được lấy từ danh sách OWASP, MITRE ATLAS và NIST AI 100-2.

  4. Hacker News · AI58

    Sovereign: một router học cách tin tưởng mô hình nào mà không cần nhãn

    Solibra đã xây dựng Sovereign, một router nằm giữa ứng dụng và các nhà cung cấp mô hình, học cách chọn mô hình cho từng yêu cầu dựa trên điểm đánh giá chính công việc đã hoàn thành của nó, không có đáp án và không có kiến thức trước về các mô hình. Trên tám benchmark công khai chạy với Claude Opus 5.5 và Claude Haiku 5.5, Sovereign chi ít hơn Opus từ 43% đến 81% trên mọi benchmark, đạt hoặc vượt độ chính xác của Opus trên USACO, LiveCodeBench và SATBench, và chính xác hơn Haiku ở mọi nơi, lên tới 55 điểm trên USACO. Trên USACO, độ chính xác của nó tăng từ 88% trong 25 tác vụ đầu lên 97,7% vào cuối, vượt Opus vào khoảng tác vụ thứ 150, và bộ chấm điểm của nó đồng ý với đáp án ẩn 95% số lần.

  5. ElevenLabs Blog18

    7 kỹ năng chăm sóc khách hàng mà mọi nhân viên hỗ trợ con người và AI đều cần

    ElevenLabs phác thảo bảy kỹ năng chăm sóc khách hàng — giao tiếp, giải quyết vấn đề, xử lý xung đột, đồng cảm, thích ứng, cá nhân hóa và kiến thức sản phẩm — mà cả nhân viên hỗ trợ con người lẫn AI đều cần. Tài liệu trích dẫn một nghiên cứu của Zendesk cho thấy hơn 50% khách hàng đã chuyển sang đối thủ cạnh tranh sau một trải nghiệm tồi tệ, và dự báo của Gartner rằng ít nhất 70% khách hàng sẽ bắt đầu hành trình của họ bằng một giao diện AI vào năm 2028. Hướng dẫn nhấn mạnh việc đánh giá các chỉ số hội thoại trong quá trình huấn luyện và sau khi triển khai, cùng với việc chuyển giao liền mạch cho con người để giảm căng thẳng.

  6. Databricks Blog36

    Phát hiện các cuộc tấn công dựa trên thông tin xác thực trên Databricks bằng nhật ký kiểm tra chi tiết và Genie

    Databricks giải thích chi tiết cách các cuộc tấn công dựa trên thông tin xác thực diễn ra trên nền tảng của mình và cách nhật ký kiểm tra chi tiết cùng Genie có thể phát hiện sự thay đổi hành vi sau khi PAT, cookie phiên hoặc thông tin xác thực của service principal bị đánh cắp được sử dụng. Bài viết phân loại hoạt động của kẻ tấn công thành sáu giai đoạn, từ đăng nhập ban đầu đến trinh sát môi trường, đồng thời đề cập các bước ứng phó và biện pháp kiểm soát nhằm hạn chế phạm vi mà thông tin xác thực bị đánh cắp có thể tiếp cận.

  7. Databricks Blog36

    Bright Machines dùng Debezium và Iceberg để cung cấp cho khách hàng bảng điều khiển trực tiếp từ các nhà máy cách ly mạng

    Bright Machines hiện cung cấp cho khách hàng bảng điều khiển dữ liệu nhà máy trực tiếp, có quản trị từ các nhà máy cách ly mạng mà không cần mở bất kỳ quyền truy cập vào nào. Công ty ghi lại các thay đổi PostgreSQL tại biên với Debezium, ghi chúng dưới dạng Apache Iceberg, đẩy ra ngoài qua một đường ra duy nhất có thể kiểm toán, và đọc tại chỗ trong Databricks thông qua liên kết Unity Catalog. Bảng điều khiển đầu tiên mà khách hàng nhìn thấy đã đi vào hoạt động khoảng hai tháng sau khi khởi động, với các hàng đã cam kết có thể truy vấn trong một đến hai phút và bảng điều khiển làm mới mỗi mười phút.

  8. OpenRouter Announcements58

    OpenRouter thử nghiệm 11 reranker trên bộ benchmark RAG 274 câu hỏi

    OpenRouter đã benchmark 11 reranker trên một bộ dữ liệu RAG tổng hợp gồm 274 câu hỏi và phát hiện rằng việc rerank 30 ứng viên hàng đầu từ tìm kiếm vector bằng voyageai/rerank-3-lite đã nâng precision@1 từ 81,0% lên 97,1% với chi phí khoảng 0,10 USD cho mỗi 1.000 truy vấn. Hướng dẫn khuyến nghị truy xuất khoảng 30 chunk, rerank chúng, và chỉ gửi 3 chunk hàng đầu đến LLM, điều này trong thử nghiệm của họ đã nâng độ chính xác câu trả lời lên 99,3% đồng thời giảm chi phí trả lời từ 0,22 USD xuống 0,16 USD cho mỗi 1.000 câu hỏi. Nó cũng chỉ ra các chế độ lỗi: bỏ qua tham số input_type mất 7 đến 12 điểm precision@1, và cohere/rerank-v3.5 âm thầm bỏ qua nội dung vượt quá giới hạn 4.096 token của nó.

  9. Hacker News · AI35

    Dịch ngược máy lọc không khí Coway để thoát khỏi đám mây

    Một nhà phát triển đã dịch ngược máy lọc không khí Coway Airmega IconS có Wi-Fi để giảm sự phụ thuộc vào đám mây IoCare của Coway, bằng cách dựng một thiết lập man-in-the-middle với sự hỗ trợ của LLM. Tích hợp Home Assistant hiện có giả mạo ứng dụng điện thoại của Coway nhưng liên tục hỏng—bị máy chủ cấm, việc đổi thương hiệu IoCare thành IoCare+, thay đổi bố cục HTML và gián đoạn dịch vụ—thúc đẩy nỗ lực này. Một sự cố khóa yếu tại tổ chức chứng thực eMudhra vào tháng 10 năm 2026 đã mở ra một điểm bám víu khả dĩ để chặn lưu lượng của thiết bị.

  10. GitHub Blog · AI & ML58

    Hướng dẫn trên GitHub giải thích cách xây dựng agent skills chạy được trên Claude Code, Cursor và Copilot

    GitHub đã công bố một hướng dẫn thực hành về agent skills, các thư mục được đánh phiên bản tập trung vào tệp SKILL.md mô tả khi nào và cách thực hiện một tác vụ lặp lại. Hướng dẫn sử dụng hai ví dụ, Proof Agent để xác minh đối kháng mã do AI tạo ra và Data Forge cho một pipeline dữ liệu đa kỹ năng, để cho thấy cách các skill chia sẻ một manifest dự án, tái sử dụng một đường thực thi và đặt phê duyệt của con người ở mỗi giai đoạn. Nó cũng mô tả một script đóng gói tạo ra các tệp riêng cho từng client dành cho Claude Code, Cursor và GitHub Copilot từ một nguồn skills duy nhất.

  11. AWS Machine Learning Blog40

    Natera đã xây dựng SWARM như thế nào, một hệ thống AI tác tử cho vận hành phòng thí nghiệm trên Amazon Bedrock AgentCore

    Natera đã xây dựng SWARM, một hệ thống AI tác tử cho vận hành phòng thí nghiệm, trên Amazon Bedrock AgentCore, giảm thời gian phản hồi đầu tiên khoảng 130 lần và tự động hóa 96,2 phần trăm số ticket hỗ trợ. Hệ thống kết hợp một swarm-agent soạn thảo báo cáo chẩn đoán trước khi kỹ sư mở ticket với một swarm-hive để kỹ sư tương tác theo thời gian thực, cả hai cùng chia sẻ một thư viện kỹ năng. Nó xử lý hơn 65 ticket Jira mỗi ngày trên ba hàng đợi mà trước đây trung bình mất 17,4 giờ cho phản hồi đầu tiên.

  12. Databricks Blog30

    Databricks bác bỏ bốn lầm tưởng về LTAP trong kiến trúc Lakebase

    Databricks phản hồi bốn cách hiểu sai phổ biến về LTAP, kiến trúc Lakebase giữ một bản dữ liệu vận hành duy nhất được quản trị, phục vụ cả Postgres lẫn phân tích mà không cần CDC. Bài viết lập luận LTAP không phải sao chép: các lớp phía trước hồ dữ liệu là bộ nhớ đệm, không phải cơ sở dữ liệu thứ hai có catalog riêng. Bài viết cũng nói rằng heap page và Parquet là hai cách mã hóa không mất mát của cùng các hàng, nên tra cứu điểm và quét mỗi bên đọc bố cục nhanh cho mình.

  13. AWS Machine Learning Blog38

    Tokenomics ở quy mô lớn: Theo dõi và giới hạn chi tiêu Amazon Bedrock theo từng IAM Principal với CUR 2.0 và AWS Budgets

    AWS hướng dẫn cách theo dõi và giới hạn chi tiêu cho AI tạo sinh Amazon Bedrock theo từng IAM principal chỉ bằng các tính năng gốc: Bedrock tự động ghi lại IAM user hoặc role trên mỗi yêu cầu suy luận, và các thẻ đó trở thành thẻ phân bổ chi phí có thể đọc được trong Cost Explorer hoặc các bản xuất CUR 2.0. Một AWS Budget giới hạn phạm vi cho Bedrock và lọc theo một danh tính hoặc giá trị thẻ có thể gắn một hành động ngân sách áp dụng chính sách Deny IAM khi vượt ngưỡng, không cần mã ứng dụng cho trường hợp thông thường.

  14. AWS Machine Learning Blog36

    Bốn lựa chọn suy luận trên Amazon Bedrock ảnh hưởng đến chi phí

    Thời lượng bộ nhớ đệm, bậc dịch vụ, nỗ lực suy luận và cài đặt maxTokens của Amazon Bedrock có thể thay đổi chi phí suy luận mà không cần thay đổi mô hình hay prompt. Ghi bộ nhớ đệm 5 phút trên Claude Sonnet 5 và Claude Opus 5 tốn 1,25 lần mức giá đầu vào, ghi 1 giờ tốn 2 lần, và đọc bộ nhớ đệm tốn 0,1 lần; các yêu cầu bậc Flex đến các mô hình không được hỗ trợ sẽ thất bại với ValidationException.

  15. OpenAI News22

    Amplitude ra mắt cải tiến sản phẩm trong 1–2 ngày với OpenAI như thế nào

    Wave, đại lý sản phẩm chủ động của Amplitude, được xây dựng chủ yếu trên các mô hình OpenAI, xác định những gì cần xây dựng, giúp các nhóm triển khai thay đổi với các đại lý lập trình và đo lường tác động. Thiết lập này cho phép Amplitude ra mắt cải tiến sản phẩm trong 1–2 ngày.

  16. LangChain Blog45

    Phát triển dựa trên đánh giá là gì? Cách cải thiện AI Agent

    LangChain giải thích phát triển dựa trên đánh giá (EDD), một quy trình ba bước để xây dựng AI Agent: xác định thế nào là tốt, viết đánh giá trước khi xây dựng, và so sánh kết quả sau mỗi thay đổi. Vì agent có tính không xác định, đánh giá sẽ chấm điểm các lần chạy trên một tập dữ liệu ví dụ và có thể dùng LLM-as-a-judge, với các lần chạy agent thực tế trong LangSmith làm nguồn đầu vào kiểm thử.

  17. Databricks Blog22

    Constellation xây dựng nền tảng dữ liệu có quản trị trên Databricks như thế nào

    Constellation, đơn vị vận hành đội hạt nhân lớn nhất Hoa Kỳ, đang xây dựng Nền tảng Dữ liệu Doanh nghiệp có quản trị trên Databricks để mang lại cho doanh nghiệp một ý nghĩa chung cho dữ liệu của mình. Nền tảng này sử dụng Unity Catalog cho phả hệ, quyền truy cập chi tiết và một mô hình phân quyền duy nhất, cùng với mô hình hóa Data Vault cho các thực thể quan trọng có thể tái sử dụng. Các trường hợp sử dụng ban đầu bao gồm một trợ lý kỹ thuật hạt nhân được xây dựng với Databricks Genie và lập kế hoạch ngừng hoạt động.

  18. Databricks Blog25

    Eclipse Aerospace sử dụng nguồn dữ liệu tùy chỉnh Databricks PySpark để nhập dữ liệu chuyến bay

    Eclipse Aerospace đang sử dụng nguồn dữ liệu tùy chỉnh Databricks PySpark để nhập gần 20 năm dữ liệu chuyến bay độc quyền, hơn 3TB trải rộng trên hơn một triệu giờ bay, mà không cần tính toán chuyên dụng luôn bật. Gói Python được hỗ trợ bởi Rust đã mang lại hiệu suất gấp đôi so với chuẩn đánh giá của một nguồn dữ liệu Python thuần dựa trên PyArrow tương tự và gần 20 lần so với triển khai Python gốc không có Arrow. API, được giới thiệu trong Apache Spark 4.0 và có sẵn trong Databricks Runtime 15.4 LTS, thay thế quy trình Lambda-to-Avro trước đó.

  19. AWS Machine Learning Blog34

    Xây dựng cổng LLM tự phục vụ với Amazon Bedrock và LiteLLM

    Một cổng LLM tự phục vụ được xây dựng trên Amazon Bedrock Application Inference Profiles và LiteLLM chạy trên AWS Fargate, đưa các mô hình nền tảng của Bedrock ra sau một API tương thích OpenAI, mang lại cho nhà phát triển một base URL duy nhất và khóa riêng cho từng người dùng. Thiết lập này bổ sung kiểm soát chi tiêu theo từng người dùng, cô lập hạn mức theo từng mô hình và khả năng quan sát RPM/TPM qua CloudWatch, cùng với Langfuse để theo dõi telemetry ở cấp độ prompt. Việc cấp khóa tự phục vụ yêu cầu LiteLLM Enterprise, vì gói miễn phí chỉ giới hạn ở năm người dùng.

  20. AWS Machine Learning Blog34

    Tối ưu chi phí trên mỗi tác vụ và chứng minh ROI của agent trên Amazon Bedrock

    Bài viết này của AWS lập luận rằng chi tiêu cho Amazon Bedrock nên được đánh giá theo chi phí trên mỗi tác vụ thay vì chi phí trên mỗi token, vì hiệu quả của tokenizer, độ dài đầu ra, số vòng lặp agentic và chi phí suy luận có thể khiến một mô hình có giá niêm yết thấp hơn lại tốn kém hơn. Một ví dụ minh họa cho thấy một mô hình có giá niêm yết gấp 2 lần lại hoàn thành với chi phí rẻ hơn 65% trên mỗi tác vụ, và bài viết bổ sung thêm caching, định tuyến và ràng buộc đầu ra cùng một bảng điểm năm chiều để đo ROI của agent so với đường cơ sở do con người thực hiện.