什麼是 LLM 微調？技術與工具指南

微調會調整預訓練 LLM 的權重，使其符合特定任務或領域，在品質上優於提示工程，且成本與延遲更低；相較於 GPT-3.5，微調後的 Llama 7B 在效能相當的情況下，每個 token 的成本效益約高出 50 倍。本指南涵蓋結構化輸出、風格遵循與領域專屬指令等使用案例，以及 OpenAI、Predibase、Modal、Google Colab 與 AWS SageMaker 等選項，還有 HuggingFace transformers、TRL 與 Axolotl 等框架。