Mastra bổ sung cổng mô hình riêng cho các mô hình tự lưu trữ
Bắt đầu từ đây
Mastra đã giới thiệu các cổng mô hình riêng, cho phép agent định tuyến yêu cầu đến các mô hình open-weight tự lưu trữ, được định địa chỉ bằng tiền tố như private/ollama/gpt-oss:20b. Theo Mastra, việc tự lưu trữ giữ dữ liệu nhạy cảm trong mạng nội bộ và thay thế chi phí theo token bằng chi phí hạ tầng. Tính năng này yêu cầu @mastra/core@1.82.0 trở lên và đã được thêm trong PR #18153. Đặt AUTO_BLOCK_EXTERNAL_PROVIDERS=true trong tệp .env sẽ ẩn các nhà cung cấp bên ngoài trong trình chọn mô hình của Studio, để người dùng chỉ có thể chọn mô hình từ cổng của chính nhà vận hành.
Tạo từ các bài viết · cập nhật 13 giờ trước
Dòng thời gian bài viết
Theo các bài viết để thấy sự việc từ nhiều phía.
- Mastra BlogMastra Agents Private Model Gateways cho các mô hình tự lưu trữ
Mastra đã bổ sung các cổng mô hình riêng tư cho phép các agent định tuyến yêu cầu đến các mô hình trọng số mở tự lưu trữ, được tham chiếu bằng tiền tố như private/ollama/gpt-oss:20b. Tự lưu trữ giữ dữ liệu nhạy cảm trong mạng nội bộ và thay thế chi phí theo token bằng chi phí hạ tầng, và việc đặt AUTO_BLOCK_EXTERNAL_PROVIDERS=true sẽ ẩn các nhà cung cấp bên ngoài trong Studio. Tính năng này yêu cầu @mastra/core@1.82.0 trở lên.
Độ nóng của sự việc này
Chưa đủ quan sát liên tục để vẽ xu hướng.