玄喵小站

一名准备好迎接 AI 时代的程序员喵

Stable Diffusion LoRA 训练入门

LoRA (Low-Rank Adaptation) 是微调 Stable Diffusion 模型最流行的方法之一。本文介绍 LoRA 训练的基本流程。

什么是 LoRA

LoRA 通过在模型的注意力层中插入低秩矩阵来实现微调,相比全量微调:

  • 训练参数量减少约 1000 倍
  • 显存需求大幅降低
  • 训练速度更快
  • 生成的模型文件很小(通常 10-200MB)

训练准备

数据集准备

  1. 收集 15-30 张高质量图片
  2. 统一裁剪为 512x512 或 768x768
  3. 为每张图片编写标注文本

环境配置

推荐使用 kohya-ss 训练框架:

1
2
3
git clone https://github.com/kohya-ss/sd-scripts
cd sd-scripts
pip install -r requirements.txt

训练参数建议

参数 推荐值
学习率 1e-4
Epoch 10-20
Batch Size 1-2
Network Rank 32-128
Network Alpha 16-64

常见问题

  • 过拟合:减少训练步数或降低学习率
  • 欠拟合:增加训练步数或提高学习率
  • 颜色偏移:检查数据集的色彩一致性

LoRA 训练是一个需要反复调试的过程,多实验才能找到最佳参数!

大模型 API 中转服务搭建指南

随着大模型的普及,API 中转服务的需求日益增长。本文介绍如何搭建一个稳定、高效的大模型 API 中转服务。

为什么需要中转服务

  1. 统一接口:将不同厂商的 API 统一为标准的 OpenAI 格式
  2. 负载均衡:在多个 API Key 之间分配请求
  3. 额度管理:精确控制每个用户的使用额度
  4. 日志审计:记录所有请求用于分析和优化

技术选型

常见的开源方案:

  • New API:功能完善,支持多种模型
  • One API:轻量级,易于部署
  • 自建方案:灵活度高,可定制性强

部署建议

基础架构

  • 使用 MySQL/PostgreSQL 存储配置和日志
  • 使用 Redis 做缓存和限流
  • Nginx/OpenResty 做反向代理和 SSL 终端

安全注意事项

  • 所有 API 通信使用 HTTPS
  • 定期轮换 API Key
  • 设置合理的速率限制
  • 监控异常使用模式

选择合适的方案,根据实际需求进行部署和优化,即可拥有一个可靠的大模型 API 中转服务。

在 Proxmox VE 上部署 Docker 容器

Proxmox VE (PVE) 是一款优秀的开源虚拟化平台。本文介绍如何在 PVE 上高效部署和管理 Docker 容器。

方案选择

在 PVE 上运行 Docker 有两种主要方式:

  1. 在 LXC 容器中运行 Docker:资源开销最小,适合轻量级应用
  2. 在 VM 中运行 Docker:完全隔离,兼容性最好

LXC + Docker 部署步骤

1. 创建 LXC 容器

1
2
3
4
5
6
7
8
# 创建特权容器(Docker 需要)
pct create 100 local:vztmpl/debian-12-standard_12.2-1_amd64.tar.zst \
--hostname docker-host \
--memory 4096 \
--cores 4 \
--rootfs local-lvm:32 \
--net0 name=eth0,bridge=vmbr0,ip=dhcp \
--features nesting=1

2. 配置容器

在容器配置文件中添加:

1
2
3
4
lxc.apparmor.profile: unconfined
lxc.cgroup2.devices.allow: a
lxc.cap.drop:
lxc.mount.auto: "proc:rw sys:rw"

3. 安装 Docker

1
curl -fsSL https://get.docker.com | sh

性能对比

方式 内存开销 启动速度 兼容性
LXC + Docker 部分限制
VM + Docker 较慢 完全兼容

选择合适的方案取决于您的具体需求。对于大多数场景,LXC 方案已经足够。

欢迎来到玄喵小站

玄喵小站是一个专注于 AI 技术探索与开发实践的技术博客。作为一名拥抱 AI 时代的开发者,我在这里记录学习和实践过程中的心得体会。

内容方向

  • AI 技术:大模型应用、Stable Diffusion、ComfyUI 等
  • 开发实践:Python、Node.js、Linux 运维
  • 技术教程:黑苹果、虚拟化、容器化等

欢迎关注,一起探索技术的无限可能!

0%