Lora训练核心参数思维导图：AI绘画模型调参知识梳理思维导图
在线编辑导图
直接在下方导图上编辑：双击节点改文字，Tab 加子节点，Enter 加同级，Delete 删除； 需要批量改文本时点工具栏「显示源码」展开 Markdown 文本栏。草稿自动保存在本机浏览器， 支持导出 Markdown / SVG / PNG。点上方版式按钮可切换为 10 种可视化版式预览。
导图加载中…
思维导图大纲
Lora训练核心参数思维导图
基础概念与训练准备
Lora原理认知
- 低秩适配通过小矩阵注入微调能力
- 冻结原模型权重降低显存与算力需求
- 适配器文件体积小便于分享与切换
数据准备要点
- 图像质量优先于数量避免噪声干扰
- 分辨率对齐训练底模推荐尺寸
- 打标需覆盖主体特征与风格描述
环境与框架选择
- 主流训练脚本支持不同底模架构
- 显卡显存决定批大小与精度策略
- 学习笔记记录环境版本便于复现
网络结构参数
秩与维度
- 秩决定适配器表达能力与文件大小
- 秩过高易过拟合且训练更慢
- 秩过低可能欠拟合难以学到细节
网络层选择
- 仅训练注意力层可平衡效果与速度
- 扩展至全连接层增强风格学习
- 不同层组合影响角色与画风迁移
缩放系数
- 缩放系数调节适配器输出强度
- 与秩配合控制整体影响幅度
- 推理时可再调权重改变融合程度
训练过程参数
学习率
- 学习率过大导致震荡与色彩崩坏
- 学习率过小收敛慢且欠拟合
- 常配合预热与余弦衰减稳定训练
批大小与步数
- 批大小受显存限制需权衡梯度稳定
- 总步数影响拟合程度需观察过拟合
- 保存间隔便于挑选最佳检查点
优化器与调度
- 常用优化器影响收敛速度与稳定性
- 权重衰减抑制过拟合
- 梯度累积模拟更大批大小
数据与正则化策略
重复与采样
- 每张图重复次数影响学习强度
- 类别平衡避免某概念主导训练
- 采样策略可缓解长尾分布问题
正则化图像
- 正则图防止概念过拟合与污染
- 正则权重需与训练集规模匹配
- 合理使用可提升泛化与可控性
数据增强
- 翻转裁剪等增强提升鲁棒性
- 过度增强可能破坏角色特征
- 增强需与打标内容保持一致
精度与显存优化
混合精度
- 半精度降低显存并加速训练
- 需注意数值稳定性与溢出风险
- 关键层可保留更高精度
梯度检查点
- 以时间换显存支持更大模型
- 适合显存紧张时开启
- 会略微延长单步训练时间
缓存与预取
- 潜变量缓存减少重复编码开销
- 预取数据提升GPU利用率
- 缓存需与数据变更同步清理
效果评估与调参流程
评估指标
- 观察损失曲线判断收敛与过拟合
- 固定提示词对比不同检查点
- 关注角色一致性与风格还原度
推理测试
- 调整Lora权重寻找最佳融合比例
- 多底模测试验证泛化能力
- 记录提示词与参数形成学习笔记
迭代调参
- 先固定数据再调网络结构参数
- 再调学习率与步数逐步优化
- 用思维导图梳理变量避免混乱
5996
评论 0 条
还没有评论，来抢沙发吧