Tới nội dung
#RAG
Hôm nay13 tháng 11Thứ Sáu5 mục
  1. Hacker News · AI40

    Stanford CS 329Z: Khóa học Engineering AI Agents bao gồm thiết kế agent, RAG, công cụ và hệ thống đa agent

    CS 329Z của Stanford, Engineering AI Agents, đi qua cấu trúc của các hệ thống agent — lõi LLM, lập luận, bộ nhớ, công cụ và môi trường — và khoảng cách giữa các hệ thống AI tổng hợp và agent thực sự. Khóa học bao gồm các pipeline RAG, sử dụng công cụ và gọi hàm với MCP, điều phối DSPy và LangGraph, kiến trúc bộ nhớ như MemGPT, và các mẫu điều phối đa agent. Khóa học kết thúc với các phương pháp tối ưu hóa bao gồm GEPA, PPO và GRPO, cùng một bài giảng khách mời từ những người tạo ra Terminal-Bench.

  2. OpenRouter Announcements58

    OpenRouter thử nghiệm 11 reranker trên bộ benchmark RAG 274 câu hỏi

    OpenRouter đã benchmark 11 reranker trên một bộ dữ liệu RAG tổng hợp gồm 274 câu hỏi và phát hiện rằng việc rerank 30 ứng viên hàng đầu từ tìm kiếm vector bằng voyageai/rerank-3-lite đã nâng precision@1 từ 81,0% lên 97,1% với chi phí khoảng 0,10 USD cho mỗi 1.000 truy vấn. Hướng dẫn khuyến nghị truy xuất khoảng 30 chunk, rerank chúng, và chỉ gửi 3 chunk hàng đầu đến LLM, điều này trong thử nghiệm của họ đã nâng độ chính xác câu trả lời lên 99,3% đồng thời giảm chi phí trả lời từ 0,22 USD xuống 0,16 USD cho mỗi 1.000 câu hỏi. Nó cũng chỉ ra các chế độ lỗi: bỏ qua tham số input_type mất 7 đến 12 điểm precision@1, và cohere/rerank-v3.5 âm thầm bỏ qua nội dung vượt quá giới hạn 4.096 token của nó.

  3. AWS Machine Learning Blog40

    Natera đã xây dựng SWARM như thế nào, một hệ thống AI tác tử cho vận hành phòng thí nghiệm trên Amazon Bedrock AgentCore

    Natera đã xây dựng SWARM, một hệ thống AI tác tử cho vận hành phòng thí nghiệm, trên Amazon Bedrock AgentCore, giảm thời gian phản hồi đầu tiên khoảng 130 lần và tự động hóa 96,2 phần trăm số ticket hỗ trợ. Hệ thống kết hợp một swarm-agent soạn thảo báo cáo chẩn đoán trước khi kỹ sư mở ticket với một swarm-hive để kỹ sư tương tác theo thời gian thực, cả hai cùng chia sẻ một thư viện kỹ năng. Nó xử lý hơn 65 ticket Jira mỗi ngày trên ba hàng đợi mà trước đây trung bình mất 17,4 giờ cho phản hồi đầu tiên.

  4. AWS Machine Learning Blog40

    AWS mở danh mục 23 tài sản AI tạo sinh có thể tái sử dụng từ Trung tâm Đổi mới của mình

    AWS đã công bố danh mục 23 tài sản AI tạo sinh mã nguồn mở, sẵn sàng cho môi trường sản xuất, từ Trung tâm Đổi mới AI tạo sinh của mình, nay thuộc AWS Frontier AI Engineering & Services. Các khối xây dựng này bao gồm pipeline RAG, bộ xử lý tài liệu, khung tác nhân (agent scaffolding) và khung đánh giá, và AWS cho biết chúng có thể rút ngắn thời gian phát triển từ nhiều tháng xuống còn vài tuần. DoorDash báo cáo năng lực kiểm thử tăng 50 lần và Ricoh tăng thông lượng gấp 7 lần sau khi xây dựng trên các tài sản này.

  5. AWS Machine Learning Blog34

    Chuyển sang Amazon Bedrock Managed Knowledge Base với một coding agent

    AWS đã thêm hướng dẫn chuyển đổi knowledge base vào skill amazon-bedrock trong Agent Toolkit for AWS, cho phép một coding agent lập kế hoạch chuyển từ knowledge base do khách hàng quản lý sang Amazon Bedrock Managed Knowledge Base. Agent bắt đầu bằng việc khám phá chỉ đọc và một kế hoạch được xem xét từng dòng, sau đó tạo knowledge base và các data source mới song song với bản gốc hoặc ghi một mẫu IaC đã chuyển đổi. Managed Knowledge Base nâng hạn mức mặc định lên 200 data source mỗi knowledge base và 10.000 knowledge base mỗi tài khoản mỗi Region, đồng thời bổ sung truy xuất agentic, tích hợp AgentCore Gateway và resource-based policy.