Tới nội dung
Chỉ Chính chủ#RAG
Hôm nay13 tháng 11Thứ Sáu4 mục
  1. OpenRouter Announcements58

    OpenRouter thử nghiệm 11 reranker trên bộ benchmark RAG 274 câu hỏi

    OpenRouter đã benchmark 11 reranker trên một bộ dữ liệu RAG tổng hợp gồm 274 câu hỏi và phát hiện rằng việc rerank 30 ứng viên hàng đầu từ tìm kiếm vector bằng voyageai/rerank-3-lite đã nâng precision@1 từ 81,0% lên 97,1% với chi phí khoảng 0,10 USD cho mỗi 1.000 truy vấn. Hướng dẫn khuyến nghị truy xuất khoảng 30 chunk, rerank chúng, và chỉ gửi 3 chunk hàng đầu đến LLM, điều này trong thử nghiệm của họ đã nâng độ chính xác câu trả lời lên 99,3% đồng thời giảm chi phí trả lời từ 0,22 USD xuống 0,16 USD cho mỗi 1.000 câu hỏi. Nó cũng chỉ ra các chế độ lỗi: bỏ qua tham số input_type mất 7 đến 12 điểm precision@1, và cohere/rerank-v3.5 âm thầm bỏ qua nội dung vượt quá giới hạn 4.096 token của nó.

  2. AWS Machine Learning Blog40

    Natera đã xây dựng SWARM như thế nào, một hệ thống AI tác tử cho vận hành phòng thí nghiệm trên Amazon Bedrock AgentCore

    Natera đã xây dựng SWARM, một hệ thống AI tác tử cho vận hành phòng thí nghiệm, trên Amazon Bedrock AgentCore, giảm thời gian phản hồi đầu tiên khoảng 130 lần và tự động hóa 96,2 phần trăm số ticket hỗ trợ. Hệ thống kết hợp một swarm-agent soạn thảo báo cáo chẩn đoán trước khi kỹ sư mở ticket với một swarm-hive để kỹ sư tương tác theo thời gian thực, cả hai cùng chia sẻ một thư viện kỹ năng. Nó xử lý hơn 65 ticket Jira mỗi ngày trên ba hàng đợi mà trước đây trung bình mất 17,4 giờ cho phản hồi đầu tiên.

  3. AWS Machine Learning Blog40

    AWS mở danh mục 23 tài sản AI tạo sinh có thể tái sử dụng từ Trung tâm Đổi mới của mình

    AWS đã công bố danh mục 23 tài sản AI tạo sinh mã nguồn mở, sẵn sàng cho môi trường sản xuất, từ Trung tâm Đổi mới AI tạo sinh của mình, nay thuộc AWS Frontier AI Engineering & Services. Các khối xây dựng này bao gồm pipeline RAG, bộ xử lý tài liệu, khung tác nhân (agent scaffolding) và khung đánh giá, và AWS cho biết chúng có thể rút ngắn thời gian phát triển từ nhiều tháng xuống còn vài tuần. DoorDash báo cáo năng lực kiểm thử tăng 50 lần và Ricoh tăng thông lượng gấp 7 lần sau khi xây dựng trên các tài sản này.

  4. AWS Machine Learning Blog34

    Chuyển sang Amazon Bedrock Managed Knowledge Base với một coding agent

    AWS đã thêm hướng dẫn chuyển đổi knowledge base vào skill amazon-bedrock trong Agent Toolkit for AWS, cho phép một coding agent lập kế hoạch chuyển từ knowledge base do khách hàng quản lý sang Amazon Bedrock Managed Knowledge Base. Agent bắt đầu bằng việc khám phá chỉ đọc và một kế hoạch được xem xét từng dòng, sau đó tạo knowledge base và các data source mới song song với bản gốc hoặc ghi một mẫu IaC đã chuyển đổi. Managed Knowledge Base nâng hạn mức mặc định lên 200 data source mỗi knowledge base và 10.000 knowledge base mỗi tài khoản mỗi Region, đồng thời bổ sung truy xuất agentic, tích hợp AgentCore Gateway và resource-based policy.

11 tháng 11Thứ Tư
  1. Hugging Face Blog41

    Huấn luyện nhận biết pooling cho mô hình embedding đa vector với Sentence Transformers

    Hugging Face trình bày cách huấn luyện nhận biết pooling nâng cao chất lượng truy xuất cho các mô hình embedding đa vector với ngân sách lưu trữ cố định. Với pool_factor=4, một mô hình được huấn luyện thông thường giữ được 94,6% nDCG@10 trên NanoBEIR khi chưa pooling, trong khi giảm số vector tài liệu xuống 4 lần, và huấn luyện nhận biết pooling nâng tỷ lệ giữ lại đó lên 97,8%. Bài viết đi qua HierarchicalTokenPooling, hiệu chỉnh ngân sách và một ví dụ Sentence Transformers có thể tái lập.

  2. LangChain Blog58

    LangChain giải thích các kỹ thuật truy xuất cho kỹ thuật ngữ cảnh của AI agent

    LangChain đã xuất bản một bài blog về cách thiết kế truy xuất định hình kỹ thuật ngữ cảnh cho AI agent, sử dụng một agent phân tích cạnh tranh được xây dựng trên Deep Agents harness của mình làm ví dụ. Bài viết đề cập đến ba kiểu thất bại: tìm kiếm không hiệu quả, tải quá nhiều ngữ cảnh cùng lúc, và kết quả không liên quan hoặc lỗi thời, đồng thời ghép mỗi kiểu với các kỹ thuật như công cụ hệ thống tệp glob và grep, phân trang qua các tệp lớn bằng offset read_file, chuyển kết quả công cụ quá lớn sang tệp, và giao việc đọc cho subagent theo mô hình truy xuất, chuyển giao, ủy thác. Bài viết cũng cảnh báo rằng văn bản được truy xuất là dữ liệu chứ không phải hướng dẫn và có thể mang theo prompt injection, vì vậy đầu ra nên được kiểm tra dựa trên các nguồn được trích dẫn.

5 tháng 11Thứ Năm
  1. Apple Machine Learning Research38

    Hàm hỗ trợ học được của Apple tăng tốc truy xuất RAG

    Các nhà nghiên cứu của Apple đã trình bày "Amortizing Maximum Inner Product Search with Learned Support Functions" tại ICML 2026, huấn luyện các mạng nơ-ron nhỏ ngoại tuyến để định tuyến truy vấn tới các khóa khớp nhất một cách nhanh hơn. SupportNet học hàm hỗ trợ thông qua mạng nơ-ron lồi đầu vào (ICNN) để cải thiện định tuyến cụm, trong khi KeyNet trực tiếp xuất ra vectơ khóa khớp nhất, được giữ neo về mặt hình học nhờ hàm mất mát nhất quán từ định lý Euler. Cả hai đều được huấn luyện trên phân phối truy vấn thực tế, đánh đổi chi phí khấu hao ban đầu để lấy truy xuất nhanh hơn, chính xác hơn tại thời điểm suy luận.

26 tháng 10Thứ Hai
  1. Mastra Blog40

    Mastra mở Knowledge, bộ não công ty tự lưu trữ cho AI agent, cho thêm tám đối tác thiết kế

    Mastra đang mở dịch vụ Knowledge của mình, một lớp ngữ cảnh toàn công ty tự lưu trữ dành cho AI agent, cho thêm tám đối tác thiết kế theo nguyên tắc ai đến trước được phục vụ trước. Knowledge kết nối các hệ thống như Slack và Monday, tự cập nhật và hỗ trợ các cơ sở tri thức riêng biệt theo từng chức năng với quyền ở cấp cá nhân, nhóm và tổ chức. Mastra cho biết việc nối một đồ thị tri thức toàn công ty vào các coding agent của mình đã tạo ra cải thiện rõ rệt về chất lượng mã được giao.