Modal 如何利用系统调用特征识别加密货币挖矿者
Modal 在其无服务器容器运行时中新增了一个名为 seccheck 的运行时程序分析组件，可在封禁违规用户之前检测并禁用用于加密货币挖矿的 Function。由于挖矿者可以更改元数据但无法更改其程序，Modal 分析的是系统调用日志，而非源代码、二进制文件或容器镜像。该系统避免了基于 ptrace 的 strace 开销——后者可能使系统调用密集的程序变慢 100 倍以上。
#教程/实践
Modal BlogAI 评分3838
Modal BlogAI 评分2222 Hunch 如何利用 Modal Sandboxes 安全运行 AI 生成的代码
Hunch 是一个空间画布，集成了 OpenAI GPT-4o、Anthropic Claude 3 Opus 和 Stable Diffusion 3 等模型，它使用 Modal Sandboxes 在隔离的临时容器中安全执行 AI 生成的代码。该集成只需几行 Python 代码，支持 pip 安装、挂载存储卷和自动扩缩容。Hunch 表示，这一设置让非程序员也能构建获取 API 数据或将结果发送到 Slack webhook 的工作流。
Modal BlogAI 评分3131 在 Heroicons 上微调 Stable Diffusion，打造无限图标库
Modal 在约 300 个 SVG 的 Heroicons 图标库上微调了一个 Stable Diffusion 模型，以生成该风格的新黑白线条图标，包括 barack-obama 和 golden-retriever 等概念的图标。完整流程——下载预训练模型、使用 HuggingFace Diffusers 的 train_text_to_image.py 脚本进行全量微调，以及提供 Gradio Web UI——都在 Modal 的无服务器 GPU 平台上运行。文章详细介绍了数据集准备（SVG 转 PNG、白色背景、caption metadata.csv），并指出全量微调效果最好，不过 LoRA 风格的并行适配器也可用于小数据集。
Modal BlogAI 评分5050 微调开源嵌入模型以超越 OpenAI 的 text-embedding-3-small
仅用少量示例，微调后的开源嵌入模型就能以更低的成本在准确率上超越 OpenAI 的 text-embedding-3-small。Modal 在 Quora 重复问题数据集上做了一项实验，以探究一个简单的问答用例需要多少微调数据，并介绍了如何在其无服务器基础设施上构建这样一个模型。
Modal BlogAI 评分2222 Ramp 如何在 Modal 上使用微调 LLM 实现收据处理自动化
Ramp 使用 Modal 微调其 LLM，并构建了一个文本转结构化 JSON 的模型用于收据管理，使需要人工干预的收据减少了 34%，其基础设施成本估计比 OpenAI 等主要 LLM 提供商便宜 79%。Modal 函数并行训练了许多候选模型，将权重持久化到 Modal volumes，并提供了一个参数化推理端点。一名工程师还将一个用于 25,000 张发票的 PII 剥离脚本移植到 Modal，在 256 个云 worker 上并行运行，20 分钟完成，花费 100 美元，而在本地则需要 3 天。
Modal BlogAI 评分3636 Modal 的 modal-http：在无服务器基础设施上提供 Web 函数服务
Modal 构建了 modal-http，这是一个 HTTP 和 WebSocket 协议栈，使其无服务器函数能够接受 Web 请求，最近已完成完整的 WebSocket 支持。与 AWS Lambda 的 15 分钟和 50 MB 限制不同，Modal 容器最多可使用 64 个 CPU、336 GB 内存和 8 块 Nvidia H100 GPU，因此团队将 HTTP 转换为函数调用，而不是用传统的反向代理来前置容器。
Modal BlogAI 评分4040 用 Modal 和 Hugging Face TEI 在 15 分钟内嵌入英文维基百科
Modal 和 Hugging Face 的文本嵌入推理服务器可以在约 15 分钟内嵌入整个英文维基百科，成本仅略高于 15 美元，这得益于 Modal 的无服务器 GPU 弹性伸缩。文章认为，对于生产环境的 RAG，开源嵌入模型优于 OpenAI 的 text-embedding-ada-002 等基于 API 的模型，因为开源模型可以基于用户数据进行微调，并避免速率限制和按 token 计费的成本。
Cursor Changelog精选AI 评分6262 Cursor 分析 Llama-2-70B 推理成本与延迟，并与 GPT-3.5 对比
Cursor 在 2 块 80 GB A100 GPU 上测量了 Llama-2-70B 的推理，发现对于提示词 token，它比 GPT-3.5 便宜 3 倍以上，但在小批量下生成 token 的成本要高得多。提示词处理成本约为每 1K token 0.00042 美元，而 GPT-3.5 为 0.0015 美元；而在批量大小为 1 时，生成成本达到每 1K token 0.066 美元，只有在大批量下才接近 GPT-3.5 的定价，而这会将首 token 时间推至数秒。Cursor 建议对分类和重排序等提示词密集型任务使用开源模型，对生成密集型工作负载使用闭源 API。
推荐理由：Cursor 测量的成本和延迟数据展示了自托管 Llama-2-70B 何时优于 GPT-3.5、何时不优于，为开源模型服务决策提供了一个可复用的框架。