NovelAI原本是AI生成小说的网站,其中有一个AI生成小说插图的功能。NovelAI模型在Stable Diffusion的基础上做了一些修改和优化,使得生成的二次元图片效果更好。现在NovelAI模型被泄露到了网上,我们借此机会试玩一下。
# 前期准备
- 建议将操作系统升级到最新
- 安装cuda显卡驱动(需显卡支持,如果没有合适的显卡也能在CPU上勉强玩)
- 安装Git版本管理工具,确保网络能从Github下载源码库。
- 安装Python >= 3.10.6
# 部署步骤
创建工程文件夹
mkdir stable-diffusion-webui下载Stable Diffusion运行服务
cd stable-diffusion-webui
git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git下载NovelAI模型(怕被和谐此处不放地址)
关注公众号发送NovelAI,可得下载地址。整包有55G,下载部分文件就够玩了
stableckpt/animefull-final-pruned(必须)
stableckpt/animevae.pt(必须)
stableckpt/modules/modules(可选,提供特殊风格)将标准模型文件放到 stable-diffusion-webui/models/Stable-diffusion
stableckpt/animefull-final-pruned/config.yaml 重名为 nai.yaml
stableckpt/animefull-final-pruned/model.ckpt 重名为 nai.ckpt
stableckpt/animevae.pt 重名为 nai.vae.pt将风格模型文件放到 stable-diffusion-webui/models/hypernetworks
stableckpt/modules/modules/*.pt(所有的.pt文件复制到hypernetworks)启动Stable Diffusion服务
windows: ./webui-user.bat
macosx: ./webui.sh如果服务启动成功,在浏览器打开终端里的地址: http://127.0.0.1:7860
# FQA
-
启动Stable Diffusion 遇到 PyTorch 安装失败
手动安装
stable-diffusion-webui/venv/bin/pip install torch torchvision
-
启动Stable Diffusion 遇到 'not found lzma'
安装xz包(包含lzma算法)
brew install xz
重新编译安装 python
pyenv uninstall 3.10.7
pyenv install 3.10.7 -
NotImplementedError: The operator 'aten::index.Tensor' is not current implemented for the MPS device
设置环境变量
PYTORCH_ENABLE_MPS_FALLBACK=1
-
低内存错误
适用显存2G
COMMANDLINE_ARGS=--lowvram
适用显存4G-6G(更高显存不用加参数)
COMMANDLINE_ARGS=--medvram
生成绿图黑图或CPU计算精度错误
COMMANDLINE_ARGS=--no-half --precision full内存优化参数
COMMANDLINE_ARGS=--opt-split-attentioncuda驱动检测报错
COMMANDLINE_ARGS=--skip-torch-cuda-test
A卡不支持cuda驱动所以在CPU上运算,N卡可进行GPU加速Macosx系统上pyenv install 3.10.7 编译错误 not found arch x68_64
更新系统 -> 重装Homebrew -> 重装pyenv
下一篇继续分享NovelAI的prompt和参数设置