Tới nội dung
17 tháng 9Thứ Năm
  1. LiveKit Blog25

    LiveKit ra mắt Startup Program với 23.000 USD tín dụng dành cho các nhà phát triển AI agent giai đoạn đầu

    LiveKit đã ra mắt Startup Program, trao cho các startup đủ điều kiện tổng giá trị khoảng 23.000 USD: 7.000 USD tín dụng inference từ bảy đối tác, 10.000 USD tín dụng LiveKit Cloud, và một năm sử dụng gói Scale có giá thông thường 500 USD mỗi tháng. Các mô hình từ đối tác bao gồm Deepgram, AssemblyAI và Gemma 4 31B do LiveKit lưu trữ có thể truy cập qua LiveKit Inference mà không cần tài khoản nhà cung cấp hay API key riêng. Chương trình hướng tới các startup có dưới 50 nhân viên, đã gọi được dưới 5 triệu USD và đang tích hợp voice, video hoặc physical AI vào sản phẩm của mình.

16 tháng 9Thứ Tư
  1. Mistral AI55

    Mistral hợp tác với Mozilla để cung cấp năng lượng cho Firefox Smart Window tại Pháp và Bắc Mỹ

    Mistral thông báo hợp tác với Mozilla, theo đó các mô hình của họ hiện cung cấp năng lượng cho Firefox Smart Window (bản beta), trợ lý duyệt web AI của Mozilla, cho người dùng tại Pháp và Bắc Mỹ, với Vương quốc Anh và Đức dự kiến sẽ có sau trong năm nay. Mistral cho biết các cuộc hội thoại trên Smart Window không được lưu trên máy chủ của Mozilla theo mặc định và các đối tác đồng ý không lưu giữ dữ liệu, và họ mô tả thỏa thuận này là việc mang các mô hình trọng số mở, được tinh chỉnh theo khu vực đến với trình duyệt dành cho người tiêu dùng.

  2. Vapi Blog12

    VapiCon 2026: Hội nghị thượng đỉnh Voice AI của Vapi trở lại với hơn 1.200 nhà phát triển và diễn giả từ Deepgram, LangChain, Vercel

    Vapi đưa hội nghị thượng đỉnh voice AI của mình trở lại với tên gọi VapiCon 2026, mở rộng lên hai ngày và hai track tại Fort Mason, San Francisco, vào ngày 11 và 12 tháng 11 năm 2026, dành cho hơn 1.200 nhà phát triển và nhà vận hành. Các diễn giả đã xác nhận bao gồm Scott Stephenson của Deepgram, Harrison Chase của LangChain, Guillermo Rauch của Vercel, Andy O'Dower của Twilio, Brandon Yang của Cartesia và Laurie Voss của Arize AI, cùng với Jordan Dearsley và Nikhil Gupta của Vapi. Các phiên sẽ đề cập đến kiến trúc speech-to-speech so với kiến trúc cascaded, đánh giá và khả năng quan sát, thời gian đến byte đầu tiên dưới một giây, chuyển giao cho con người và triển khai production trong lĩnh vực y tế và trung tâm liên lạc.

15 tháng 9Thứ Ba
  1. Factory58

    Factory huy động 200 triệu USD với định giá 5 tỷ USD để mở rộng phát triển phần mềm tự cải thiện

    Factory đã huy động được 200 triệu USD với định giá 5 tỷ USD, nâng tổng vốn đầu tư lên hơn 400 triệu USD, với sự hậu thuẫn từ Blackstone, Khosla Ventures, Sequoia Capital, Insight Partners và những nhà đầu tư khác. Công ty cho biết sẽ dùng số vốn này cho nghiên cứu, sản phẩm và hoạt động tiếp cận thị trường toàn cầu cho nền tảng nhà máy phần mềm doanh nghiệp của mình, nền tảng này cho phép các nhóm quản trị toàn bộ vòng đời phát triển và lựa chọn triển khai trên cloud, tại chỗ hoặc tách biệt hoàn toàn khỏi mạng. Factory cho biết Nvidia, Blackstone, RBC, Palo Alto Networks, Adobe và T-Mobile đang sử dụng nền tảng này, và Factory Router của họ cắt giảm chi phí token hơn 60% trong khi vẫn duy trì hiệu năng tiên tiến.

9 tháng 9Thứ Tư
  1. Factory26

    Factory ra mắt trên Claude Marketplace, mang phát triển phần mềm tự động đến doanh nghiệp

    Factory hiện đã có mặt trên Claude Marketplace của Anthropic, cho phép khách hàng doanh nghiệp sử dụng khoản chi tiêu Anthropic đã cam kết cho Factory mà không cần một quy trình mua riêng. Factory tự động hóa vòng đời phát triển phần mềm, bao gồm lập kế hoạch, triển khai, kiểm thử và bảo mật, đồng thời hỗ trợ nhiều mô hình triển khai doanh nghiệp. Khách hàng của công ty bao gồm NVIDIA, Adyen và Ernst & Young.

4 tháng 9Thứ Sáu
  1. Modal Blog22

    Markov Robotics sử dụng Modal để chạy huấn luyện robot đầu-cuối

    Markov Robotics đang huấn luyện một world model cho khả năng khéo léo tổng quát zero-shot của robot, chỉ dùng chưa đến mười giờ dữ liệu robot trong khi các kết quả tương đương thường cần hàng nghìn giờ. Công ty chạy gần như toàn bộ compute trên Modal, từ tiền xử lý hàng trăm terabyte video đến 2–10 lượt huấn luyện đồng thời và suy luận từ xa qua Modal Tunnels với độ trễ khứ hồi khoảng 20 mili giây. Quá trình tiền xử lý có thể mất cả ngày nay hoàn thành trong hai mươi đến ba mươi phút, với fan-out lên tới 500 GPU cùng lúc.

2 tháng 9Thứ Tư
  1. Modal Blog18

    Modal mở văn phòng tại London để mở rộng khắp châu Âu

    Modal đang mở một văn phòng tại London, văn phòng thứ hai tại châu Âu, và đã tuyển Hugh Killingbeck-Jones làm VP EMEA để xây dựng các đội go-to-market phục vụ khách hàng khởi nghiệp và doanh nghiệp. Văn phòng này cuối cùng sẽ bổ sung thêm kỹ thuật và các chức năng khác, trong khi đội ngũ Stockholm của Modal đã phát triển lên gần 20 người xây dựng các hệ thống cốt lõi như hệ thống tệp tùy chỉnh và Sandboxes của công ty.

12 tháng 8Thứ Tư
  1. Vapi Blog8

    VapiCon 2026 trở lại vào ngày 11–12 tháng 11 với tư cách là hội nghị thượng đỉnh AI giọng nói kéo dài hai ngày

    VapiCon 2026, hội nghị thượng đỉnh AI giọng nói do Vapi tổ chức, mở rộng thành hai ngày vào ngày 11 và 12 tháng 11 tại Festival Pavilion ở Fort Mason, với kế hoạch thu hút hơn 1.200 người tham dự, hơn 50 diễn giả và hơn 20 nhà tài trợ. Phiên bản đầu tiên đã thu hút hơn 850 người tại San Francisco vào ngày 2 tháng 10 năm 2025, và vé cho năm 2026 hiện đang được bán.

6 tháng 8Thứ Năm
  1. Vapi Blog12

    Vapi bổ nhiệm Nathalie Criou làm VP Sản phẩm

    Vapi đã tuyển dụng Nathalie Criou làm VP Sản phẩm, vài tháng sau khi bà gia nhập startup AI giọng nói này. Criou trước đây đảm nhận các vai trò sản phẩm và quản lý tổng quát tại Google, VMware, Amazon, Twilio và Docker, đồng thời sáng lập và bán startup RidePal. Bà cho biết mình gia nhập vì giọng nói là một kênh chưa được tận dụng hết mà AI giờ đây có thể chuyển đổi, dẫn chứng khách hàng Kavak đã tái cơ cấu quanh giọng nói trong vòng sáu tháng.

29 tháng 7Thứ Tư
  1. Modal Blog40

    Modal phản hồi sự cố agent của Hugging Face: cách ly nền tảng không bị xâm phạm

    Modal cho biết nền tảng và cơ chế cách ly của họ không bị xâm phạm trong vụ xâm nhập agent của Hugging Face, vốn đã dùng Modal làm bệ phóng của bên thứ ba. Môi trường bị ảnh hưởng là một ứng dụng của khách hàng được triển khai tới một endpoint công khai không có xác thực, thực thi mã do internet gửi đến bên trong một Modal Sandbox, và việc thực thi mã vẫn nằm trong container riêng của khách hàng đó. Modal lưu ý rằng việc phơi bày Sandbox không xác thực không bao giờ là mặc định và khuyến nghị xác thực, danh sách IP được phép và hạn chế truy cập mạng ra ngoài.

2 tháng 7Thứ Năm
  1. Vapi Blog12

    Vapi bổ nhiệm Jayson Noland làm CFO để dẫn dắt các con số và đặt cược vào giọng nói

    Vapi đã bổ nhiệm Jayson Noland, người có hơn một thập kỷ làm tài chính công nghệ và đã giúp Cloudflare lên sàn và vượt 1 tỷ USD doanh thu, làm Giám đốc Tài chính. Noland gia nhập ở giai đoạn Series B để xây dựng chức năng tài chính, từ hệ thống có thể mở rộng đến phân bổ vốn, với lý do các tác nhân giọng nói là giao diện người-máy quan trọng tiếp theo.

1 tháng 7Thứ Tư
  1. Berkeley AI Research20

    Berkeley AI Research (BAIR) 2026 Graduate Showcase nêu bật công trình AI của các nghiên cứu sinh tiến sĩ

    Phòng thí nghiệm Nghiên cứu Trí tuệ Nhân tạo Berkeley (BAIR) đã vinh danh các nghiên cứu sinh tiến sĩ khóa 2026, những người có công trình trải rộng từ robot, mô hình ngôn ngữ lớn và suy luận, thị giác máy tính, mô hình sinh, an toàn AI đến AI cho khoa học và chăm sóc sức khỏe. Các nghiên cứu sinh đang hướng tới các vị trí giảng viên và sau tiến sĩ, phòng thí nghiệm nghiên cứu trong ngành và các startup do chính họ sáng lập, bao gồm các vai trò tại Physical Intelligence, OpenAI, Mistral AI, Amazon và Princeton CITP.

25 tháng 6Thứ Năm
  1. Vapi Blog22

    Vapi: Các tác nhân giọng nói biến CX có tính rủi ro cao thành lợi thế cạnh tranh

    Vapi đang quảng bá nền tảng AI giọng nói của mình như một cách để các thương hiệu biến trung tâm liên hệ từ một trung tâm chi phí thành lợi thế cạnh tranh, dẫn chứng Amazon Ring, đơn vị đã đánh giá hơn 40 nhà cung cấp AI giọng nói trước khi triển khai trên Vapi trong hai tuần và hiện xử lý 100% lưu lượng CX đầu vào qua nền tảng này, với điểm CSAT được cải thiện. Vapi lập luận rằng các giải pháp giọng nói đóng gói sẵn khóa các thương hiệu vào các mô hình do nhà cung cấp kiểm soát và giọng nói chung chung, trong khi xây dựng từ đầu thì chậm và tốn kém, đồng thời nhấn mạnh thời gian phản hồi dưới một giây, kiến trúc lưu trú trong VPC với không lưu giữ dữ liệu và làm sạch PII, cùng các triển khai đi vào hoạt động trong vài ngày.

21 tháng 5Thứ Năm
  1. Modal Blog58

    Modal huy động được 355 triệu USD trong vòng Series C với định giá 4,65 tỷ USD

    Modal đã huy động được 355 triệu USD với định giá hậu tiền tệ 4,65 tỷ USD trong một vòng gọi vốn do General Catalyst và Redpoint dẫn đầu, cùng với Menlo, Bain Capital Ventures và Accel tham gia với tư cách nhà đầu tư mới. Công ty cho biết đã tăng trưởng gấp năm lần kể từ tháng 9 và vượt 300 triệu USD doanh thu hàng năm, với hơn 1 tỷ sandbox được khởi chạy trên nền tảng và sandbox hiện đóng góp hơn một phần ba doanh thu. Modal có kế hoạch mở rộng suy luận độ trễ thấp, khép kín vòng lặp huấn luyện và suy luận cho học tăng cường, và bổ sung RBAC chi tiết để khách hàng có thể cấp năng lực cho agent mà không gặp rủi ro.

20 tháng 5Thứ Tư
  1. Modal Blog22

    Applied Compute mở rộng quy mô học tăng cường cho các tác nhân doanh nghiệp tùy chỉnh trên Modal

    Applied Compute huấn luyện các tác nhân AI doanh nghiệp tùy chỉnh thông qua học tăng cường, dựa trên các sandbox, Functions và khởi động nguội dưới một giây của Modal để giữ hàng nghìn lượt rollout song song gắn với GPU. Các tác nhân của công ty bao gồm một mô hình onboarding cho người bán hàng dành cho DoorDash và một tác nhân phát hiện lỗi cho Cognition.

12 tháng 5Thứ Ba
  1. Vapi Blog50

    Vapi gọi vốn 50 triệu USD vòng Series B khi các voice agent của họ vượt 1 tỷ cuộc gọi

    Vapi công bố vòng Series B trị giá 50 triệu USD do Peak XV dẫn dắt, với sự tham gia của YC, M12, Kleiner Perkins và các nhà đầu tư trước đó, nâng tổng vốn đầu tư lên 72 triệu USD. Vòng gọi vốn này diễn ra sau một năm mà doanh thu doanh nghiệp của Vapi tăng 10 lần và các voice agent của họ vượt mốc 1.000.000.000 cuộc gọi được xử lý. Vapi cho biết Amazon Ring đã chuyển từ giai đoạn đánh giá sang vận hành 100% cuộc gọi đến trên nền tảng của họ trong hai tuần, với chỉ số CSAT tăng lên.

22 tháng 4Thứ Tư
  1. Replit Blog22

    Replit giành Giải thưởng Đối tác Công cụ AI của năm 2026 của Google Cloud

    Google Cloud đã vinh danh Replit là Đối tác Công cụ AI của năm 2026, ghi nhận nền tảng hiện được hơn 50 triệu người sử dụng tại 85% trong Fortune 500. Giải thưởng này diễn ra sau khi Replit ra mắt Agent 4, mà công ty cho biết nhanh gấp 10 lần Agent 3 và chạy nhiều agent song song. Replit có mặt trên Google Cloud Marketplace, tích hợp với Cloud Run, Kubernetes Engine và BigQuery.

10 tháng 4Thứ Sáu
  1. Modal Blog38

    Butter được Modal mua lại, nhà sáng lập Erik Dunteman gia nhập đội Sandbox

    Modal đã mua lại Butter, với nhà sáng lập Erik Dunteman và nhà nghiên cứu Raymond Tana gia nhập đội Sandbox của Modal. Đội ngũ Butter mang theo kinh nghiệm kỹ thuật agent harness, bao gồm bVisor, một nhân Linux ảo được viết từ đầu bằng Zig cho các sandbox nhẹ, tạm thời. Modal cho biết việc tuyển dụng này thúc đẩy mục tiêu biến Modal Sandboxes thành một trải nghiệm sản phẩm hàng đầu trong phân khúc.

8 tháng 4Thứ Tư
  1. Modal Blog40

    Modal cung cấp khả năng suy luận thời gian thực cho robot của Physical Intelligence

    Physical Intelligence (Pi) vận hành các mô hình robot Thị giác-Ngôn ngữ-Hành động của mình trên Modal, chỉ thêm ~10-15ms chi phí mạng. Pi đã hợp tác với Modal để xây dựng một cổng dựa trên QUIC qua UDP với khả năng tự động xuyên NAT, thay thế TCP Tunnels nhằm tránh tình trạng tắc nghẽn yêu cầu-phản hồi trong vòng điều khiển robot. Các checkpoint lưu trong Modal Volumes tải trong dưới 30 giây, và các triển khai ghim theo vùng giữ suy luận gần với robot.

26 tháng 3Thứ Năm
  1. Modal Blog38

    Runway hợp tác với Modal để cung cấp suy luận thời gian thực cho Runway Characters

    Runway đang hợp tác với Modal để cung cấp suy luận thời gian thực cho Runway Characters, một API tác nhân video thời gian thực được xây dựng trên mô hình thế giới GWM-1 của Runway, tạo ra các nhân vật kỹ thuật số biểu cảm từ một hình ảnh duy nhất mà không cần tinh chỉnh. Nền tảng serverless của Modal cho phép Runway chuyển từ bằng chứng khái niệm sang sản xuất trong vòng chưa đầy 30 ngày, sử dụng các cụm GPU đa nút một dòng lệnh với mạng RDMA trên mọi khu vực. Characters hiện đã có sẵn cho các nhà phát triển và doanh nghiệp tại dev.runwayml.com và cho người tiêu dùng tại runwayml.com.

25 tháng 2Thứ Tư
  1. Modal Blog22

    Blog Modal: Modal tăng tốc nghiên cứu AI như thế nào để tăng tốc nghiên cứu AI

    Modal, một nền tảng hạ tầng đám mây cho các khối lượng công việc AI đòi hỏi nhiều dữ liệu và tính toán, giới thiệu nghiên cứu từ Hazy Research, Scaling Intelligence và IRIS đã sử dụng đội GPU của nền tảng này để tăng tốc nghiên cứu AI. Dự án KernelBench, do Anne Ouyang, Simon Guo và Will Hu của Scaling Intelligence dẫn dắt, cung cấp một bộ chuẩn đánh giá gồm 250 bài toán và môi trường nghiên cứu cho việc tự động tạo nhân GPU, sử dụng Modal để đánh giá chuẩn nhất quán, có thể mở rộng trên phần cứng từ L40s đến các hệ thống Blackwell.

15 tháng 1Thứ Năm
  1. Modal Blog22

    Chai Discovery mở rộng quy mô khám phá thuốc bằng máy tính trên Modal

    Chai Discovery đang sử dụng Modal để vận hành các pipeline khám phá thuốc bằng học máy, từ nhúng protein và căn chỉnh đa trình tự đến thiết kế kháng thể. Modal Volumes tải xuống và lập chỉ mục các bộ dữ liệu lên tới hàng trăm gigabyte một lần, sau đó chia sẻ chúng giữa các máy, trong khi khả năng mở rộng GPU đàn hồi khởi tạo hàng trăm GPU trong vài phút. Chai cho biết cùng một thiết lập này hiện đưa các quy trình nghiên cứu vào sản xuất mà không cần viết lại hạ tầng.

29 tháng 9, 2025Thứ Hai
  1. Modal Blog38

    Modal huy động 87 triệu USD vòng Series B với định giá 1,1 tỷ USD

    Modal đã huy động được hơn 80 triệu USD trong vòng Series B do Lux Capital dẫn dắt, đưa định giá sau gọi vốn lên 1,1 tỷ USD và tổng vốn huy động lên 111 triệu USD. Nhà cung cấp hạ tầng AI này cung cấp các sản phẩm Inference, Sandboxes, Batch và Training, với thời gian khởi động container dưới một giây và mô hình định giá serverless theo mức sử dụng. Meta đã sử dụng Modal để khởi tạo hàng nghìn môi trường sandbox đồng thời cho học tăng cường với Code World Models của mình.

22 tháng 9, 2025Thứ Hai
  1. Modal Blog18

    Justin Dignelli gia nhập Modal với vai trò VP Kinh doanh

    Justin Dignelli đã gia nhập Modal với vai trò VP Kinh doanh, sau khi tư vấn cho nền tảng điện toán AI này về giai đoạn tăng trưởng tiếp theo và đầu tư vào vòng gọi vốn Series A của công ty. Modal hiện đã tạo ra doanh thu hàng chục triệu đô la ở mức cao trên hàng nghìn khách hàng, và Dignelli dự định xây dựng một tổ chức GTM để mở rộng quy mô hơn nữa.

11 tháng 7, 2025Thứ Sáu
  1. Modal Blog31

    Jamsocket gia nhập Modal

    Jamsocket, nền tảng backend đứng sau bộ điều phối mã nguồn mở Plane, Y-Sweet và ForeverVM, đang gia nhập Modal, với hai nhà đồng sáng lập Paul Butler và Taylor Baldwin gia nhập đội ngũ Modal. Các sản phẩm của Jamsocket sẽ tiếp tục hoạt động bình thường trong khi chức năng cốt lõi được chuyển sang Modal, mà theo các nhà sáng lập, điều này cho phép khách hàng lấy AI làm trung tâm triển khai suy luận GPU, hộp cát mã và backend thời gian thực từ một nền tảng duy nhất.

7 tháng 7, 2025Thứ Hai
  1. Modal Blog28

    Modal đã hỗ trợ 250.000 ứng dụng Lovable được tạo ra trong một ngày cuối tuần như thế nào

    Lovable đã sử dụng Modal Sandboxes để chạy mã do LLM tạo ra trong một ngày cuối tuần khuyến mãi vào tháng 6 năm 2025 với Anthropic, OpenAI và Google, cho phép người dùng xây dựng ước tính 250.000 ứng dụng trong 48 giờ. Modal đã chạy hơn 1 triệu sandbox với tối đa 20.000 sandbox đồng thời tại thời điểm cao điểm khi các phiên đồng thời của Lovable tăng vọt 2,5-3 lần, và đội ngũ nền tảng của công ty không bị gọi trực lần nào. Lovable đã giảm mã điều phối sandbox của mình từ 15.000 dòng xuống còn 700 dòng sau khi chuyển sang Modal.

29 tháng 5, 2025Thứ Năm
  1. Modal Blog22

    Twirl gia nhập Modal để mở rộng điều phối dữ liệu và hiện diện tại châu Âu

    Modal thông báo rằng Twirl, một công cụ điều phối dữ liệu dùng để phát triển, kiểm thử và triển khai các pipeline dữ liệu, đang gia nhập công ty. Hai nhà đồng sáng lập của Twirl là Rebecka Storm và Eric Hansander sẽ gia nhập văn phòng Stockholm của Modal, nơi họ sẽ phát triển và mở rộng hạ tầng serverless của Modal cũng như mở rộng dấu chân của công ty tại châu Âu. Modal cho biết kinh nghiệm về sản phẩm dữ liệu của nhóm sẽ giúp công ty mở rộng ra ngoài lĩnh vực suy luận AI sang các trường hợp sử dụng AI, ML và dữ liệu liên quan.

15 tháng 4, 2025Thứ Ba
  1. Modal Blog10

    Modal ra mắt chiến dịch thương hiệu đầu tiên với logo mới và biển quảng cáo tại San Francisco

    Modal đã công bố logo và wordmark được thiết kế lại cùng với chiến dịch thương hiệu ngoài trời đầu tiên, với ba biển quảng cáo được triển khai khắp San Francisco đến cuối tháng 5. Logo mới, được phát triển cùng Ty Wilkins, thay thế khối lập phương chữ "M" với đường nét mảnh để dễ đọc từ favicon đến biển quảng cáo. Chiến dịch làm nổi bật Modal như một nền tảng hạ tầng AI, và công ty có trụ sở tại NYC đã chọn SF để tiếp cận trung tâm công nghệ và AI.

10 tháng 12, 2024Thứ Ba
  1. Modal Blog22

    Cuộc thi hackathon nội bộ của Modal: Browserman, Glodal và nhiều dự án khác được xây dựng trên Modal

    Modal đã tổ chức một cuộc thi hackathon nội bộ, trong đó 30 nhân viên thành lập 13 đội để xây dựng các dự án đều sử dụng Modal. Browserman là một tác nhân AI đa phương thức được xây dựng với Llama-3.2-90B-Vision-Instruct-FP8, vLLM và Playwright, có khả năng điều hướng web bằng hình ảnh để hoàn thành nhiệm vụ. Glodal đã tạo mẫu một mặt phẳng điều khiển phân tán giúp giảm độ trễ yêu cầu từ 268ms xuống 3ms, và Modal hiện đang làm việc để tích hợp nó vào nền tảng.

4 tháng 12, 2024Thứ Tư
  1. Modal Blog22

    Một đội bóng đá hàng đầu châu Âu cắt giảm 50% chi phí xử lý dữ liệu nhờ Modal

    Một đội bóng đá hàng đầu châu Âu, được ẩn danh là AFC Richmond, đã chuyển pipeline dữ liệu theo dõi trận đấu của mình sang nền tảng GPU serverless của Modal và cắt giảm 50% chi phí xử lý dữ liệu của một mùa giải đầy đủ. Đội bóng này chạy suy luận trên khoảng 3,5 triệu quan sát theo dõi mỗi trận thông qua một mô hình dựa trên transformer tùy chỉnh, và với Airflow trên Modal hiện xử lý dữ liệu mỗi trận trong vài phút thay vì vài giờ.

24 tháng 11, 2024Chủ Nhật
  1. Modal Blog22

    Modal ký Thỏa thuận Hợp tác Chiến lược với AWS cho AI tạo sinh tăng tốc bằng GPU

    Modal đã ký Thỏa thuận Hợp tác Chiến lược với AWS nhằm giúp các doanh nghiệp phát triển và triển khai sản phẩm AI nhanh hơn trên nền tảng serverless của mình cho các khối lượng công việc tăng tốc bằng GPU, có thể khởi tạo các container được trang bị GPU chỉ trong vòng một giây. Theo thỏa thuận, Modal sẽ niêm yết trên AWS Marketplace và đầu tư vào các tích hợp như AWS PrivateLink để phục vụ khách hàng có yêu cầu cụ thể về bảo mật và quyền riêng tư.

12 tháng 11, 2024Thứ Ba
  1. Cursor Changelog58

    Supermaven gia nhập Cursor khi đội ngũ chuyển trọng tâm sang trình soạn thảo Cursor

    Cursor thông báo rằng Supermaven, trợ lý lập trình AI nhận biết ngữ cảnh nhanh, đang gia nhập công ty, với người sáng tạo Supermaven Jacob Jackson và đội ngũ của anh ấy cùng tham gia. Cursor cho biết họ dự định ra mắt phiên bản mô hình Tab mới nhanh, nhận biết ngữ cảnh và đặc biệt giỏi xử lý chuỗi dài các chỉnh sửa lớn, trong khi plugin Supermaven sẽ tiếp tục được duy trì ngay cả khi Cursor trở thành trọng tâm chính của đội ngũ.

8 tháng 11, 2024Thứ Sáu
  1. Modal Blog22

    Tidbyt gia nhập Modal

    Tidbyt, nhà sản xuất màn hình LED nhà thông minh có thể lập trình tại NYC, đang gia nhập Modal. Đồng sáng lập Tidbyt Rohan Singh và Mats Linander, những người trước đây làm việc về hạ tầng container tại Spotify, mang kinh nghiệm hệ thống quy mô lớn đến hạ tầng đám mây của Modal dành cho các nhóm data/AI/ML. Dịch vụ của Tidbyt sẽ tiếp tục chạy cho các thiết bị hiện có, nhưng sẽ không có thiết bị mới nào được xuất xưởng.

4 tháng 9, 2024Thứ Tư
  1. Modal Blog22

    Modal bổ sung hỗ trợ khối lượng công việc tuân thủ HIPAA cho khách hàng Enterprise

    Modal hiện hỗ trợ khối lượng công việc tuân thủ HIPAA, dành cho khách hàng gói Enterprise ký Thỏa thuận liên kết doanh nghiệp (BAA) qua security@modal.com. Tất cả các tính năng của Modal đều nằm trong phạm vi BAA ngoại trừ Volumes, Images (không bao gồm Filesystem và Directory Snapshots), Memory Snapshots và mã người dùng, nơi không nên đặt PHI. Modal viện dẫn việc xử lý dữ liệu theo nguyên tắc đặc quyền tối thiểu và runtime sandbox gVisor làm nền tảng bảo mật, tiếp nối thông báo SOC 2 Type 1 và chứng nhận SOC 2 Type 2 đang được tiến hành.

23 tháng 8, 2024Thứ Sáu
  1. Cursor Changelog62

    Cursor huy động được 60 triệu USD vòng Series A từ Andreessen Horowitz, Thrive Capital và OpenAI

    Cursor đã huy động được 60 triệu USD trong vòng Series A từ Andreessen Horowitz, Thrive Capital, OpenAI, Jeff Dean, Noam Brown, và những người sáng lập của Stripe, GitHub, Ramp, Perplexity và OpenAI. Công cụ lập trình AI này cho biết đã phát triển lên hơn 40.000 người dùng, bao gồm các startup, tổ chức nghiên cứu và doanh nghiệp lớn, và mô tả các hệ thống nội bộ cho dự đoán chỉnh sửa tiếp theo, truy xuất trên hàng tỷ tệp và viết lại mã bằng suy luận suy đoán.

    Vì sao đáng chú ý: Thông báo vòng Series A 60 triệu USD của Cursor cũng tiết lộ cơ sở người dùng của nó đã vượt qua 40.000 và nêu tên các nhà đầu tư đứng sau công cụ lập trình AI của mình.

3 tháng 7, 2024Thứ Tư
  1. Modal Blog30

    Kỹ thuật gợi ý cạnh tranh: Basis tổ chức Prompt Olympics trên Modal

    Basis đã tổ chức Prompt Olympics, một cuộc thi kỹ thuật gợi ý theo phong cách lập trình cạnh tranh với giải thưởng 5.000 đô la, và chạy nó trên hạ tầng của Modal. Trong một thử thách, người tham gia viết các gợi ý để điều hướng LLaMA 3 70B, được triển khai trên Modal, tạo ra mã phải vượt qua các bài kiểm tra bên trong Modal Sandboxes. Đêm chung kết có các người chơi gợi ý một mô hình để điều khiển tác nhân trò chơi Crafter; Basis nhận thấy ngay cả các mô hình mã nguồn mở có khả năng như LLaMA 3 70B cũng khó gợi ý hiệu quả và đã chuyển sang một API mô hình độc quyền cho thành phần đó.

20 tháng 5, 2024Thứ Hai
  1. Modal Blog25

    Vì sao Substack chuyển các pipeline AI và ML của mình sang Modal

    Substack đã chuyển việc huấn luyện và triển khai gần như toàn bộ các mô hình ML của mình—bao gồm phát hiện spam, gợi ý bản tin, phiên âm âm thanh, phân tích cảm xúc và tạo hình ảnh—từ AWS SageMaker sang Modal. Trưởng bộ phận Kỹ thuật AI & ML Mike Cohen nêu lý do là trải nghiệm lập trình rối rắm của SageMaker, khó chia sẻ mã giữa các notebook và thời gian khởi động container mất hơn 5 phút; trên Modal, một endpoint suy luận chỉ mất một giờ để triển khai. Substack hiện vận hành toàn bộ quy trình tinh chỉnh, kiểm định và triển khai trên các primitive lưu trữ của Modal.

10 tháng 4, 2024Thứ Tư
  1. Modal Blog12

    Modal được vinh danh trong danh sách Enterprise Tech 30 năm 2024 của Wing

    Modal, nền tảng serverless dành cho các đội ngũ AI và dữ liệu, đã được vinh danh trong danh sách Enterprise Tech 30 thường niên lần thứ sáu của Wing, xếp thứ 3 trong số mười công ty ở hạng mục giai đoạn đầu. Danh sách được 112 nhà đầu tư mạo hiểm và 36 đội ngũ phát triển doanh nghiệp lựa chọn từ gần 600 công ty công nghệ doanh nghiệp tư nhân được hậu thuẫn bởi quỹ đầu tư mạo hiểm.

21 tháng 2, 2024Thứ Tư
  1. Modal Blog22

    Suno đã rút ngắn 4 tháng trong lịch trình ra mắt nhờ Modal như thế nào

    Suno đã sử dụng Modal để mở rộng quy mô suy luận và tiền xử lý hàng loạt trên hàng nghìn GPU, đưa mô hình tạo nhạc của mình ra thị trường sớm bốn tháng thay vì phải thuê kỹ sư để xây dựng và duy trì cơ sở hạ tầng. Nhóm đã chạy tiền xử lý hàng loạt bằng vài đoạn script Python ngắn và không cần tệp cấu hình, sau đó mở rộng sang triển khai mô hình với các hàm được phơi bày qua HTTP và suy luận chuỗi trên nhiều mô hình và container. Tính năng tự động mở rộng của Modal lên đến hàng nghìn GPU đã xử lý các đợt tăng nhu cầu trong kỳ nghỉ mà không cần đặt trước GPU dài hạn.

10 tháng 10, 2023Thứ Ba
  1. Modal Blog58

    Modal chính thức mở rộng toàn diện, đồng thời công bố vòng gọi vốn Series A trị giá 16 triệu USD

    Modal thông báo nền tảng hàm đám mây của mình hiện đã được phát hành rộng rãi, cho phép bất kỳ ai đăng ký và chạy mã Python trên đám mây trong vòng vài phút, sau khi mở danh sách chờ vào năm 2022. Nền tảng cung cấp thực thi không máy chủ tính phí theo giây, các endpoint suy luận GPU tự động mở rộng trên A100, A10G, T4, L4 và H100, cùng các tác vụ hàng loạt quy mô lớn trên hàng nghìn container mà không cần cấu hình YAML. Modal cũng đã huy động được 16 triệu USD trong vòng Series A do Redpoint Ventures dẫn đầu, cùng với Amplify Partners, đơn vị đã dẫn đầu vòng hạt giống, và dự định sử dụng số vốn này để tăng tốc lộ trình sản phẩm của mình.