维护中AI 关键词公开推荐

LoRA (Low-Rank Adaptation)

LoRA 是一种参数高效微调技术，通过冻结预训练模型权重、仅训练低秩分解矩阵，以极少参数量实现模型能力适配。广泛用于 Stable Diffusion 风格/角色微调、LLM 领域适配，支持多 LoRA 叠加、动态加载卸载。

更新于 2026年8月20日发布于 2026年8月20日AI资源库高级

下载渠道

暂无

文件信息

资料包

资料数量

持续更新

访问方式

公开查看

AI 提示词 · 图片 / 视频生成

关键词详情

LoRA (Low-Rank Adaptation) 将预训练权重矩阵 W 的更新 ΔW 分解为两个低秩矩阵 A (r×d) 和 B (d×r) 的乘积，其中 r << d。训练时冻结 W，仅更新 A 和 B，参数量减少 1000x+。推理时将 ΔW = BA 合并回 W，零额外延迟。

LoRA rank (秩) 怎么选？: SD 图像模型常用 16-128，推荐 32/64 起步。LLM 常用 8-64，QLoRA 常用 64。rank 越大表达能力越强但训练显存/时间增加，易过拟合。建议从小尝试，观察验证集 loss。
LoRA 训练数据量需求？: 概念/角色：10-50 张高质量图（去重、多角度、标注好）。风格：50-200 张。LLM 领域：1k-10k 样本。数据质量远比数量重要，需清洗、去重、平衡。
多个 LoRA 怎么叠加？: 权重加权求和：W' = W + Σ(αᵢ × BᵢAᵢ)。ComfyUI 支持多 LoRA 节点链接，每个设置 strength (α)。注意：过多叠加易冲突，建议 ≤3 个主 LoRA + 微调 LoRA。
LoRA 和 DreamBooth/Full Fine-tuning 区别？: DreamBooth 微调全量参数（需正则化图），参数量大、训练慢、推理需单独模型。LoRA 参数极少、训练快、可热插拔、可合并回基座。同等数据下 LoRA 效果接近 DreamBooth，性价比极高。
如何评估 LoRA 质量？: 定量：验证集 loss、FID/CLIP Score（图像）、Perplexity/BLEU（文本）。定性：生成样本人工评分（相似度、保真度、多样性、伪影）。A/B 测试对比基座/其他 LoRA。
LoRA 文件格式与兼容性？: 常见 .safetensors (推荐、安全)、.pt/.bin (PyTorch)、.gguf (llama.cpp)。SD 系列通用，Flux 需专用训练脚本。LLM LoRA 需匹配基座架构 (Llama/Qwen/Mistral 等) 与量化格式。

欢迎反馈资料质量、链接状态或希望补充的内容，管理员会持续维护。

下载链接失效怎么办？
请优先切换其他网盘渠道，并反馈失效链接。

会员能下载所有资料吗？
页面标注为会员专享的资料支持会员下载，具体以当前页面显示为准。