Tới nội dung
7 tháng 7, 2025Thứ Hai
  1. Modal Blog28

    Modal đã hỗ trợ 250.000 ứng dụng Lovable được tạo ra trong một ngày cuối tuần như thế nào

    Lovable đã sử dụng Modal Sandboxes để chạy mã do LLM tạo ra trong một ngày cuối tuần khuyến mãi vào tháng 6 năm 2025 với Anthropic, OpenAI và Google, cho phép người dùng xây dựng ước tính 250.000 ứng dụng trong 48 giờ. Modal đã chạy hơn 1 triệu sandbox với tối đa 20.000 sandbox đồng thời tại thời điểm cao điểm khi các phiên đồng thời của Lovable tăng vọt 2,5-3 lần, và đội ngũ nền tảng của công ty không bị gọi trực lần nào. Lovable đã giảm mã điều phối sandbox của mình từ 15.000 dòng xuống còn 700 dòng sau khi chuyển sang Modal.

30 tháng 6, 2025Thứ Hai
  1. Modal Blog28

    Quora sử dụng Modal để chạy hàng nghìn hộp cát Python cùng lúc như thế nào

    Quora sử dụng Modal Sandboxes để thực thi an toàn mã do LLM tạo ra trong Poe, nền tảng chatbot AI của mình, đưa tính năng này ra mắt sớm hơn nhiều tháng so với việc tự xây dựng nội bộ. Nhóm đã kiểm tra tải thông lượng tạo Sandbox lên tới 1000 sandbox mỗi giây và báo cáo tiết kiệm thời gian bảo trì hạ tầng liên tục tương đương 2 kỹ sư.

26 tháng 6, 2025Thứ Năm
  1. Vapi Blog38

    Vapi ra mắt Chiến dịch Gọi ra ngoài qua Tải lên CSV

    Vapi hiện cho phép người dùng khởi chạy các chiến dịch gọi ra ngoài bằng cách tải lên CSV chứa số điện thoại và các biến tùy chỉnh, sau đó gán một trợ lý hoặc quy trình làm việc để vận hành. Vapi xử lý việc xếp hàng, thực thi và ghi nhật ký, với trạng thái cuộc gọi hiển thị trên bảng điều khiển. Chiến dịch yêu cầu số điện thoại đã xác minh, vì không thể dùng số của Vapi.

18 tháng 6, 2025Thứ Tư
  1. Vapi Blog18

    Năm cách nhân viên bất động sản có thể sử dụng AI

    Một hướng dẫn nêu ra năm cách nhân viên bất động sản có thể sử dụng AI, bao gồm các tác nhân thoại được xây dựng trên Vapi để trả lời cuộc gọi, sàng lọc khách hàng tiềm năng và đặt lịch xem nhà suốt ngày đêm. Hướng dẫn cũng đề cập đến việc tự động hóa nội dung với ChatGPT và Canva, cùng các công cụ định giá bằng AI như HouseCanary và CoreLogic tạo ra định giá kèm điểm tin cậy.

5 tháng 6, 2025Thứ Năm
  1. Vapi Blog22

    GPT-4.1 vs Claude 3.7 Sonnet: AI nào mang lại Voice Agent tốt hơn?

    Vapi so sánh GPT-4.1 và Claude 3.7 Sonnet với vai trò LLM đứng sau voice agent, đánh giá chất lượng hội thoại, xử lý ngữ cảnh, tính minh bạch trong suy luận, tích hợp nền tảng và chi phí. GPT-4.1 cung cấp cửa sổ ngữ cảnh 1.000.000 token và đầu ra 32.768 token với ưu đãi caching 75%, trong khi Claude 3.7 cung cấp ngữ cảnh 200.000 token và đầu ra 128.000 token. Cả hai mô hình đều có thể lựa chọn trên nền tảng voice agent của Vapi.

4 tháng 6, 2025Thứ Tư
  1. Vapi Blog22

    Ba ví dụ về AI giọng nói cải thiện ngành logistics

    Vapi phác thảo ba trường hợp sử dụng AI giọng nói trong logistics: ShipEX sử dụng trí tuệ giọng nói trên 350 xe tải để định tuyến cảnh báo bảo trì và báo cáo tai nạn, hệ thống nhặt hàng bằng giọng nói của Idaho State Liquor Division tăng tỷ lệ nhặt hàng lên 35%, và các kỹ thuật viên bảo trì ghi lại sự cố bằng giọng nói để tự động tạo lệnh công việc CMMS. Bài viết cũng trình bày chi tiết tích hợp API với các hệ thống TMS, CRM và WMS cùng các cân nhắc triển khai.

29 tháng 5, 2025Thứ Năm
  1. Vapi Blog25

    Lựa chọn giữa các mô hình Gemini cho AI giọng nói

    Vapi phác thảo cách chọn trong bốn mô hình Gemini cho tác nhân giọng nói: Gemini 1.0 Pro cho các luồng có thể dự đoán và thân thiện với tuân thủ với giá 0,50 đô la đầu vào và 2,00 đô la đầu ra trên mỗi triệu token, Gemini 1.5 Flash cho khối lượng công việc cao với cửa sổ ngữ cảnh 1 triệu token, Gemini 1.5 Pro cho suy luận sâu với cửa sổ 2 triệu token và độ chính xác truy xuất ngữ cảnh dài 99,7%, và Gemini 2.0 Flash cho gọi công cụ gốc.

23 tháng 5, 2025Thứ Sáu
  1. Vapi Blog18

    5 lựa chọn thay thế Character AI hàng đầu để tích hợp giọng nói liền mạch

    Một bài tổng hợp trên blog Vapi liệt kê năm lựa chọn thay thế Character AI để tích hợp giọng nói: Vapi, AnimaAI, JasperAI, Novel AI và AI Dungeon. Vapi được giới thiệu là nền tảng Voice AI gốc API hỗ trợ hơn 100 ngôn ngữ, kết nối với hơn 40 ứng dụng, với các tác nhân giọng nói sử dụng Sesame và bộ kiểm thử tự động để phát hiện ảo giác.

  2. Vapi Blog8

    Làm chủ biến môi trường cho tích hợp Vapi Voice AI

    Hướng dẫn của Vapi giải thích cách cấu hình biến môi trường cho tích hợp Voice AI của mình, bao gồm biến tạm thời và vĩnh viễn, biến cấp người dùng và cấp hệ thống. Hướng dẫn chi tiết cách thiết lập trên Windows, macOS và Linux với các ví dụ dành riêng cho Vapi như VAPI_API_KEY và VAPI_MULTILINGUAL_SUPPORT, cùng các thực hành tốt nhất về đặt tên và bảo mật như không bao giờ mã hóa cứng khóa API.

22 tháng 5, 2025Thứ Năm
  1. Modal Blog58

    Modal ra mắt Batch, xử lý 1 triệu tác vụ chỉ với một dòng mã

    Modal ra mắt Modal Batch, một giao diện xử lý theo lô được hỗ trợ bởi hàng đợi bền vững được xây dựng lại, có thể xếp hàng 1 triệu đầu vào cùng lúc, tăng từ 2.000, và đảm bảo thực thi tới 7 ngày sau khi tác vụ được khởi chạy, tăng từ 1 ngày. Một trình xử lý gốc mới, .spawn_map, khởi tạo hàng nghìn container trên một tập hợp đầu vào mà người dùng không cần quản lý logic bất đồng bộ, và Harvey báo cáo tốc độ nhanh gấp 10 lần trong quy trình xử lý tài liệu của mình sau khi phân tán đầu vào trên 1.000 container. Suno sử dụng nó để chạy tiền xử lý tăng tốc GPU trên hàng nghìn GPU, và Achira dựa vào cơ chế thử lại của nó cho các bộ dữ liệu cơ học lượng tử.

20 tháng 5, 2025Thứ Ba
  1. Vapi Blog22

    Vapi tích hợp Lịch GoHighLevel vào các tác nhân thoại của mình

    Vapi đã triển khai tích hợp trực tiếp với Lịch GoHighLevel, nhúng các tác nhân thoại của mình vào luồng lên lịch của GHL. Giờ đây các tác nhân có thể kiểm tra tình trạng còn trống theo thời gian thực trên các lịch GHL đã kết nối, tạo liên hệ từ thông tin người gọi và đặt lịch hẹn gắn với đúng liên hệ. Việc thiết lập tương tự như kết nối Google Calendar trong Vapi, với bốn công cụ mới: Create Event, Check Availability, Create Contact và Contact Get.

24 tháng 4, 2025Thứ Năm
  1. Modal Blog22

    Lemon Slice đã xây dựng video tạo sinh thời gian thực như thế nào với Modal và Daily

    Lemon Slice đã xây dựng Lemon Slice Live, một sản phẩm cho các cuộc trò chuyện video thời gian thực với các nhân vật AI, sử dụng Modal và các primitive độ trễ thấp của Daily để đạt được độ trễ phản hồi video end-to-end từ 3-6 giây. Pipeline vận hành một máy chủ Pipecat và một mô hình video 1B tham số trên các container Modal riêng biệt giao tiếp qua Modal's Tunnel và được đặt cùng vị trí với lựa chọn khu vực, với Deepgram, Grok và ElevenLabs xử lý chuyển giọng nói thành văn bản, phản hồi LLM và chuyển văn bản thành giọng nói. Trước đó, hai Python Modal Functions đã cho phép Lemon Slice mở rộng lên 10.000 yêu cầu mỗi giờ mà không cần quản lý cụm ECS, hàng đợi công việc hay bộ cân bằng tải.

18 tháng 4, 2025Thứ Sáu
  1. Modal Blog22

    sync. sử dụng Modal để lipsync 100 giờ video mỗi ngày như thế nào

    sync. đang sử dụng Modal để lipsync hơn 100 giờ video mỗi ngày, chia video dài thành các cảnh để chạy nhận diện khuôn mặt và dịch trên n container GPU T4 trước khi chuyển từng cảnh đến mô hình LipSync GenAI độc quyền của mình trên A100. Nhóm triển khai tới 95 lần mỗi ngày và đưa 10 biến thể mô hình chính vào production trong một năm, sau khi chuyển khỏi nguyên mẫu Google Colab và AWS Lambda.

  2. Vapi Blog40

    Vapi ra mắt MCP Server để điều khiển Voice Agent từ Claude Desktop và Cursor

    Vapi đã phát hành Vapi MCP Server, cho phép các công cụ AI agent kích hoạt luồng thoại thời gian thực và cuộc gọi ra ngoài thông qua function calling. Nó hỗ trợ tích hợp Claude Desktop và truy cập từ xa qua SSE, để người dùng có thể yêu cầu Claude thực hiện cuộc gọi hoặc lên lịch theo dõi bằng ngôn ngữ tự nhiên. Server có sẵn qua @vapi-ai/mcp-server, chạy cục bộ hoặc thông qua endpoint SSE được lưu trữ.

17 tháng 4, 2025Thứ Năm
  1. Modal Blog25

    Cập nhật sản phẩm Modal: batch job đầu vào 1M, ứng dụng tạm thời và ví dụ TensorRT-LLM

    Modal hiện cho phép mỗi Function xếp hàng tới 1 triệu đầu vào, tăng từ 2k, với giới hạn tốc độ .spawn() cao hơn và kết quả FunctionCall được giữ trong 7 ngày. Bản cập nhật cũng bổ sung ứng dụng tạm thời qua app.run() bên trong container, thông tin Git commit cho ứng dụng trong CLI và dashboard, cùng ví dụ TensorRT-LLM mới phục vụ LLM với độ trễ dưới 400 ms.

1 tháng 4, 2025Thứ Ba
  1. Vapi Blog20

    Mở rộng quy mô tiếp nhận khách hàng với Vapi Voice AI Agents: Nghiên cứu điển hình của một nhà tư vấn

    Nhà tư vấn Christian Ulstrup của GSD at Work đã sử dụng Vapi voice AI agents để thay thế các cuộc gọi khám phá theo lịch hẹn bằng một hệ thống tiếp nhận bằng giọng nói bất đồng bộ cho các hội thảo AI Action Sessions của mình. Người tham gia gọi đến một đường dây điện thoại Vapi chuyên dụng vào thời điểm thuận tiện của họ, và bản ghi chép cùng các bản tóm tắt do AI tạo ra sẽ được chuyển vào Slack qua Zapier và được ghi lại trong HubSpot. Đối với một khách hàng gần đây, 20 người tham gia trên toàn cầu đã đóng góp hơn 3 giờ khám phá, và buổi hội thảo đã đạt được đánh giá 5 trên 5.

6 tháng 3, 2025Thứ Năm
  1. Vapi Blog20

    Trung tâm cuộc gọi AI đang thay đổi dịch vụ khách hàng như thế nào

    Các trung tâm cuộc gọi AI đang định hình lại dịch vụ khách hàng bằng cách giải quyết các cuộc gọi thông thường trong vài giây thay vì chờ đợi lâu, như trong ví dụ về một truy vấn sự cố được xử lý trong 30 giây. Gartner ước tính khoảng 25% tương tác dịch vụ khách hàng sẽ liên quan đến AI vào năm 2027, tăng từ 2% vào năm 2022, một thị trường trị giá 15-20 tỷ USD vào năm 2027-2028 với CAGR khoảng 25-30%. Bài viết đề cập đến những điểm đau của trung tâm cuộc gọi truyền thống như thời gian phản hồi chậm, quá tải vào giờ cao điểm và giờ hoạt động hạn chế, và cách tự động hóa AI giải quyết chúng.

21 tháng 1, 2025Thứ Ba
  1. Modal Blog58

    Modal Sandboxes chính thức khả dụng, cung cấp môi trường thực thi cách ly cho LLM và mã người dùng

    Modal công bố tính khả dụng chung của Sandboxes, nguyên thủy (primitive) của họ để chạy an toàn mã không đáng tin cậy từ LLM, người dùng hoặc nguồn bên thứ ba trong một môi trường cách ly tách biệt với các tài nguyên Modal khác. Sandboxes cung cấp API exec đơn giản, môi trường có thể cấu hình lúc chạy thông qua Image API, và ảnh chụp nhanh hệ thống tệp để lưu trữ liên tục. Modal cũng đã upstream hỗ trợ vào SWE-bench, nơi cờ --modal cho phép 500 tác vụ của benchmark Verified chạy trong khoảng 7 phút, và trích dẫn Poe của Quora, Codegen và Relevance AI là khách hàng.

10 tháng 12, 2024Thứ Ba
  1. Modal Blog22

    Cuộc thi hackathon nội bộ của Modal: Browserman, Glodal và nhiều dự án khác được xây dựng trên Modal

    Modal đã tổ chức một cuộc thi hackathon nội bộ, trong đó 30 nhân viên thành lập 13 đội để xây dựng các dự án đều sử dụng Modal. Browserman là một tác nhân AI đa phương thức được xây dựng với Llama-3.2-90B-Vision-Instruct-FP8, vLLM và Playwright, có khả năng điều hướng web bằng hình ảnh để hoàn thành nhiệm vụ. Glodal đã tạo mẫu một mặt phẳng điều khiển phân tán giúp giảm độ trễ yêu cầu từ 268ms xuống 3ms, và Modal hiện đang làm việc để tích hợp nó vào nền tảng.

12 tháng 11, 2024Thứ Ba
  1. Cursor Changelog58

    Supermaven gia nhập Cursor khi đội ngũ chuyển trọng tâm sang trình soạn thảo Cursor

    Cursor thông báo rằng Supermaven, trợ lý lập trình AI nhận biết ngữ cảnh nhanh, đang gia nhập công ty, với người sáng tạo Supermaven Jacob Jackson và đội ngũ của anh ấy cùng tham gia. Cursor cho biết họ dự định ra mắt phiên bản mô hình Tab mới nhanh, nhận biết ngữ cảnh và đặc biệt giỏi xử lý chuỗi dài các chỉnh sửa lớn, trong khi plugin Supermaven sẽ tiếp tục được duy trì ngay cả khi Cursor trở thành trọng tâm chính của đội ngũ.

8 tháng 11, 2024Thứ Sáu
  1. Modal Blog22

    Cập nhật sản phẩm Modal: proxy IP tĩnh, tích hợp Slack, bảng điều khiển sử dụng trực tiếp và dự phòng GPU

    Modal đã phát hành proxy IP tĩnh định tuyến lưu lượng truy cập ra ngoài qua các IP độc quyền của workspace, cùng với tích hợp Slack gốc để nhận cảnh báo ứng dụng theo thời gian thực và bảng điều khiển sử dụng trực tiếp theo dõi tài nguyên trên tất cả ứng dụng trong workspace. Bản cập nhật cũng bổ sung dự phòng GPU cho các hàm, mở rộng nhóm tài nguyên mà một hàm có thể được lập lịch trên đó, và các thay đổi phía client bao gồm ID container của `modal shell` và chụp nhanh bộ nhớ cho các hàm được tham số hóa.

6 tháng 9, 2024Thứ Sáu
  1. Modal Blog22

    Cập nhật sản phẩm Modal: Hoàn nguyên ứng dụng, Xử lý theo lô động, Đường hầm Sandbox và OpenTelemetry

    Modal đã phát hành tính năng hoàn nguyên ứng dụng cho phép người dùng khôi phục một ứng dụng đã triển khai về phiên bản trước đó từ bảng điều khiển hoặc CLI, cùng với decorator @batched tích lũy các yêu cầu thành các lô có kích thước động để đánh đổi độ trễ lấy thông lượng và mức sử dụng GPU. Các đối tượng Sandbox giờ đây có thể chuyển tiếp cổng TCP ra internet và thực thi thêm các tiến trình, và nhật ký có thể được xuất sang nhà cung cấp OpenTelemetry. Lõi CPU và các GPU cao cấp hơn cũng trở nên rẻ hơn.

23 tháng 8, 2024Thứ Sáu
  1. Cursor Changelog62

    Cursor huy động được 60 triệu USD vòng Series A từ Andreessen Horowitz, Thrive Capital và OpenAI

    Cursor đã huy động được 60 triệu USD trong vòng Series A từ Andreessen Horowitz, Thrive Capital, OpenAI, Jeff Dean, Noam Brown, và những người sáng lập của Stripe, GitHub, Ramp, Perplexity và OpenAI. Công cụ lập trình AI này cho biết đã phát triển lên hơn 40.000 người dùng, bao gồm các startup, tổ chức nghiên cứu và doanh nghiệp lớn, và mô tả các hệ thống nội bộ cho dự đoán chỉnh sửa tiếp theo, truy xuất trên hàng tỷ tệp và viết lại mã bằng suy luận suy đoán.

    Vì sao đáng chú ý: Thông báo vòng Series A 60 triệu USD của Cursor cũng tiết lộ cơ sở người dùng của nó đã vượt qua 40.000 và nêu tên các nhà đầu tư đứng sau công cụ lập trình AI của mình.

3 tháng 7, 2024Thứ Tư
  1. Modal Blog30

    Kỹ thuật gợi ý cạnh tranh: Basis tổ chức Prompt Olympics trên Modal

    Basis đã tổ chức Prompt Olympics, một cuộc thi kỹ thuật gợi ý theo phong cách lập trình cạnh tranh với giải thưởng 5.000 đô la, và chạy nó trên hạ tầng của Modal. Trong một thử thách, người tham gia viết các gợi ý để điều hướng LLaMA 3 70B, được triển khai trên Modal, tạo ra mã phải vượt qua các bài kiểm tra bên trong Modal Sandboxes. Đêm chung kết có các người chơi gợi ý một mô hình để điều khiển tác nhân trò chơi Crafter; Basis nhận thấy ngay cả các mô hình mã nguồn mở có khả năng như LLaMA 3 70B cũng khó gợi ý hiệu quả và đã chuyển sang một API mô hình độc quyền cho thành phần đó.

20 tháng 6, 2024Thứ Năm
  1. Modal Blog25

    Chạy tác vụ GPU từ Airflow với Modal

    Modal giờ đây có thể được kích hoạt trực tiếp từ một DAG của Airflow, cho phép các nhóm chạy các tác vụ AI/ML dùng GPU mà không cần thiết lập Celery hay Kubernetes executor. Hướng dẫn bao gồm việc cài đặt Modal trong môi trường Airflow, thiết lập MODAL_TOKEN_ID và MODAL_TOKEN_SECRET, và hai cách tiếp cận: gọi các Modal Function đã triển khai thông qua lookup, hoặc xây dựng một operator tùy chỉnh chạy Python trong Modal Sandboxes. Một gói Airflow provider cho Modal đang được phát triển.

26 tháng 5, 2024Chủ Nhật
  1. Cursor Changelog40

    Cursor phác thảo các vấn đề lập trình AI giai đoạn tiếp theo: Dự đoán hành động, Chỉnh sửa hoàn hảo, Ngữ cảnh tối ưu

    Cursor đã công bố bài viết tiếp nối cho bài đăng "Problems" gốc của mình, liệt kê các câu hỏi nghiên cứu mà công ty coi là quan trọng nhất đối với giai đoạn tiếp theo của lập trình AI. Công ty đã mở rộng Copilot++ để dự đoán vị trí con trỏ tiếp theo, và kết hợp điều đó với dự đoán chỉnh sửa tiếp theo cho phép mô hình "chơi" chuỗi các thay đổi có độ hỗn loạn thấp—một bản demo cần 11 lần nhấn Tab so với 3 lần nhấn mọi phím khác, mà Cursor gọi là Cursor Flow. Các hướng khác bao gồm dự đoán hành động trên toàn bộ cơ sở mã, chỉnh sửa hoàn hảo thông qua nhiều tính toán suy luận hơn, mã giả ảo giác, chỉnh sửa nhiều tệp, ngữ cảnh tối ưu, ngữ cảnh đa bước, và phát hiện lỗi và gỡ lỗi.

23 tháng 5, 2024Thứ Năm
  1. Modal Blog22

    Hunch sử dụng Modal Sandboxes như thế nào để chạy mã do AI tạo ra một cách an toàn

    Hunch, một không gian vẽ kết hợp các mô hình như OpenAI GPT-4o, Anthropic Claude 3 Opus và Stable Diffusion 3, sử dụng Modal Sandboxes để thực thi mã do AI tạo ra một cách an toàn trong các container cô lập, tạm thời. Việc tích hợp chỉ cần vài dòng Python và hỗ trợ cài đặt pip, gắn ổ lưu trữ và tự động mở rộng quy mô. Hunch cho biết thiết lập này cho phép những người không biết lập trình xây dựng các quy trình làm việc để lấy dữ liệu API hoặc gửi kết quả đến Slack webhooks.

13 tháng 10, 2023Thứ Sáu
  1. Cursor Changelog38

    Danh sách vấn đề của Cursor: Ngữ cảnh tốt hơn, Edit Copilot, Agent bị ràng buộc

    Cursor đã công bố danh sách các vấn đề đang được giải quyết, bao gồm việc huấn luyện một reranker nhanh tùy chỉnh để lọc 500k token từ tất cả các nguồn xuống còn 8k phù hợp nhất cho mỗi yêu cầu. Danh sách cũng đề cập đến một copilot định hướng chỉnh sửa, các agent bị ràng buộc trong luồng cho các cơ sở mã lớn, tìm lỗi và chỉnh sửa quy mô lớn hơn. Tính đến ngày 12 tháng 10 năm 2023, Cursor đã lập chỉ mục 1,4 tỷ vector và 150k cơ sở mã.

12 tháng 6, 2023Thứ Hai
  1. Cursor Changelog38

    Arvid Lunnemark của Cursor: vì sao nên gọi prompting là prompt design

    Nhà nghiên cứu Arvid Lunnemark của Cursor lập luận rằng prompting nên được gọi là "prompt design" và so sánh với web design, vì cả hai đều theo đuổi giao tiếp rõ ràng với đầu vào động và phải điều chỉnh nội dung cho phù hợp với các "kích cỡ" khác nhau — kích cỡ màn hình đối với web, context window đối với prompt. Ông đã phát hành Priompt v0.1, một thư viện thiết kế prompt dựa trên JSX giống React đã được dùng trong Cursor, kèm một trang xem trước để render prompt dựa trên dữ liệu request thực tế.