Tới nội dung
#Hệ sinh thái mã nguồn mở
22 tháng 5, 2025Thứ Năm
  1. Vapi Blog20

    10 công cụ chuyển giọng nói thành văn bản y tế mã nguồn mở tốt nhất

    Một hướng dẫn xếp hạng 10 mô hình chuyển giọng nói thành văn bản mã nguồn mở cho sử dụng lâm sàng, được đánh giá dựa trên độ chính xác thời gian thực, khả năng xử lý thuật ngữ y khoa, độ tin cậy vận hành và bảo mật dữ liệu. Danh sách bao gồm Vosk, DeepSpeech, SpeechBrain, OpenAI Whisper và ESPnet, được ghép với các bối cảnh như phòng khám nông thôn ít nguồn lực, bệnh viện đa ngôn ngữ và trung tâm nghiên cứu nhiều thuật ngữ. Tất cả đều có thể tích hợp với nền tảng AI giọng nói không phụ thuộc mô hình của Vapi.

20 tháng 5, 2025Thứ Ba
  1. Modal Blog34

    Modal nâng giới hạn lưu trữ của kho KV serverless Dict lên không giới hạn với tính năng khóa mới

    Modal đã nâng cấp kho key-value Dict serverless của mình: các Dict mới hiện có dung lượng lưu trữ không giới hạn thay vì giới hạn 10GiB trước đây, và thời hạn của mục đã thay đổi thành 7 ngày kể từ lần ghi hoặc đọc cuối cùng. Cờ skip_if_exists mới trên .put() cho phép khóa phân tán và ngữ nghĩa "exactly once", và Dict giờ đây cung cấp độ bền dữ liệu. Những thay đổi này chỉ áp dụng cho các Dict mới được tạo.

28 tháng 12, 2024Thứ Bảy
  1. Modal Blog22

    Cập nhật sản phẩm Modal: chụp nhanh bộ nhớ nhanh hơn, OIDC, hàng đợi công việc bất đồng bộ

    Modal đã phát hành một đợt cập nhật sản phẩm, dẫn đầu là bản nâng cấp lớn cho tính năng chụp nhanh bộ nhớ bản beta, mà họ nói có thể giảm một nửa thời gian khởi động nguội cho các mô hình như Stable Diffusion. Nền tảng này cũng bổ sung hỗ trợ OpenID Connect cho token định danh ngắn hạn, nén ảnh eStargz để xây dựng nhanh hơn từ các registry như ECR và Docker Hub, và đang mở rộng hàng đợi công việc bất đồng bộ hướng tới giới hạn 1 triệu đầu vào, tăng từ 2k.

24 tháng 11, 2024Chủ Nhật
  1. Modal Blog22

    Modal ký Thỏa thuận Hợp tác Chiến lược với AWS cho AI tạo sinh tăng tốc bằng GPU

    Modal đã ký Thỏa thuận Hợp tác Chiến lược với AWS nhằm giúp các doanh nghiệp phát triển và triển khai sản phẩm AI nhanh hơn trên nền tảng serverless của mình cho các khối lượng công việc tăng tốc bằng GPU, có thể khởi tạo các container được trang bị GPU chỉ trong vòng một giây. Theo thỏa thuận, Modal sẽ niêm yết trên AWS Marketplace và đầu tư vào các tích hợp như AWS PrivateLink để phục vụ khách hàng có yêu cầu cụ thể về bảo mật và quyền riêng tư.

14 tháng 3, 2024Thứ Năm
  1. Modal Blog36

    modal-http của Modal: Phục vụ các hàm web trên hạ tầng serverless

    Modal đã xây dựng modal-http, một ngăn xếp HTTP và WebSocket cho phép các hàm serverless của mình nhận yêu cầu web, với hỗ trợ WebSocket đầy đủ vừa được hoàn thiện. Khác với giới hạn 15 phút và 50 MB của AWS Lambda, các container của Modal có thể sử dụng tới 64 CPU, 336 GB bộ nhớ và 8 GPU Nvidia H100, vì vậy nhóm đã chuyển đổi HTTP thành các lệnh gọi hàm thay vì đặt các container phía sau một reverse proxy thông thường.

27 tháng 2, 2024Thứ Ba
  1. Modal Blog38

    Modal bổ sung hỗ trợ WebSocket cho ứng dụng thời gian thực

    Modal hiện đã hỗ trợ kết nối WebSocket, cho phép các hàm trên nền tảng của nó duy trì liên kết hai chiều, liên tục giữa máy khách và máy chủ thay vì kết nối HTTP theo từng yêu cầu. Mỗi kết nối WebSocket được tính là một đầu vào, vì vậy các hàm không bị giới hạn bởi CPU/GPU nên cho phép đầu vào đồng thời hoặc Modal khởi tạo một container mới cho mỗi kết nối. Modal tự động mở rộng các trình xử lý WebSocket, nhắm đến truyền phát thời gian thực, cập nhật tiến độ trên các tác vụ chạy dài và lưu trữ các framework như ComfyUI, Streamlit và Gradio.