text-generation-webui大模型部署
1 简介
text-generation-webui是一个挺好用的大模型部署UI，提供了很多便于交互的接口，安装部署好之后将model放置到对应的位置即可在网页访问，若是在服务器部署也可以通过ssh端口转发至公网服务器进行访问。
其中，模型的下载可参考这个教程，比较有效的是利用镜像网站和下载脚本进行下载，还有直接在浏览器中点击下载后再上传服务器。
2 安装
2.1 官方安装
先把库下载到本地
git clone http://github.com/oobabooga/text-generation-webui.git
然后进入文件夹，即可按照官方的教程进行安装，主要是根据系统类型，支不支持AVX指令集，以及是否使用GPU来选择。
2.2 自定义安装
2.2.1 环境
可以不使用官方的一键安装脚本，因为其会新下载一个conda并新建一个环境，并且下载过程会从国外官方的源下载所需要的环境包，比较慢。
首先，激活conda环境，根据平台安装pytorch，如果使用GPU则安装cuda版本的，并且安装cuda相关的库等等，这里不再赘述。
其次，根据GPU与CPU选择对应的依赖文件，例如，支持NVIDIA GPU但不支持AVX2指令集的则选择requirements_noavx2.txt，使用清华源进行加速
pip install -r requirements_noavx2.txt -i http://pypi.tuna.tsinghua.edu.cn/simple
题外话： 使用AVX2指令集有可能在模型部署的推理阶段出现Illegal instruction (core dumped) error的bug，可以根据链接重新下载对应的包。
2.2.2 模型
然后，根据示例放置好模型文件。比如，量化后的gguf模型可以直接放置。但是使用Q4量化的模型时，会出现AttributeError: ‘LlamaCppModel’ object has no attribute ‘model’的bug，推荐使用Q5以上的。
text-generation-webui
└── models
└── llama-2-13b-chat.Q4_K_M.gguf
原始的模型需要放在models文件夹下的子文件夹中，示意如下。
text-generation-webui
├── models
│ ├── lmsys_vicuna-33b-v1.3
│ │ ├── config.json
│ │ ├── generation_config.json
│ │ ├── pytorch_model-00001-of-00007.bin
│ │ ├── pytorch_model-00002-of-00007.bin
│ │ ├── pytorch_model-00003-of-00007.bin
│ │ ├── pytorch_model-00004-of-00007.bin
│ │ ├── pytorch_model-00005-of-00007.bin
│ │ ├── pytorch_model-00006-of-00007.bin
│ │ ├── pytorch_model-00007-of-00007.bin
│ │ ├── pytorch_model.bin.index.json
│ │ ├── special_tokens_map.json
│ │ ├── tokenizer_config.json
│ │ └── tokenizer.model
在text-generation-webui的模型读取中，有多种模式，可根据不同的情况进行选择。
此外，在模型加载时，还容易出现AttributeError: ‘NoneType’ object has no attribute ‘Llama’，可根据平台选择对应的库下载安装llama-cpp-python即可。
特别地，在linux/arm64平台下下载安装时，会出现ERROR: Failed building wheel for llama-cpp-python，可尝试升级gcc（已经在aarch平台上成功验证），或者安装arm64-wheels的版本（还没测试过）。
3 部署
3.1 启动
在目录下启动即可。
python server.py
此时会返回显示在localhost:7860生成Web UI
3.2 autossh转发
在内网的服务器上部署，访问不太方便，参考ssh隧道，可利用autossh转发到公网服务器上进行访问。安装autossh后，在服务器上运行以下命令
# 80 公网端口
# 7860 本地端口
# username@xxx.xx.xx.xx 公网服务器用户和ip地址
# (-p xxx) 公网的ssh端口 一般默认22 可不写
autossh -M 4010 -NR 80:localhost:7860 username@xxx.xxx.xxx.xxx (-p xxxx)
参数解释：
- -M 4010：表示用4010端口监听ssh连接的状态
- -N：表示不执行远程命令
- -R：将公网服务器的某个端口转发到本机的某个端口
注意：一般非root用户不能使用1024以下的端口，所以公网服务器的端口选择依情况而定，并且对于阿里云等租赁的服务器，还要在网站的控制台打开对应的端口才行，仅在服务器上操控防火墙开放端口还不行。
执行命令后，即可在个人电脑输入公网ip:端口进行访问Web UI。
