智谱 GLM-4-9B-Chat 模型认知微调，怎么样给模型洗脑（一）-外链论坛

esc0rp 发表于 2024-8-22 13:56:36

智谱 GLM-4-9B-Chat 模型认知微调，怎么样给模型洗脑（一）

❝
咱们创造了工具，而后工具塑造了咱们。❞
本篇文案分享下智谱GLM-4-9B-Chat模型的安装与运用，同期展示了下认知微调后的效果。
<h1 style="color: black; text-align: left; margin-bottom: 10px;">1 智谱 GLM-4-9B</h1>
GLM-4-9B 是智谱 AI 推出的最新一代预训练模型 GLM-4 系列中的开源版本。在语义、数学、推理、代码和知识等多方面的数据集测评中， GLM-4-9B 及其人类偏好对齐的版本 GLM-4-9B-Chat 均表现出超越 Llama-3-8B 的卓越性能。除了能进行多轮对话，GLM-4-9B-Chat 还具备网页浏览、代码执行、自定义工具调用（Function Call）和长文本推理（支持最大 128K 上下文）等高级功能。
<h1 style="color: black; text-align: left; margin-bottom: 10px;">2 GLM-4-9B-Chat 安装</h1>
这儿运用腾讯云服务器进行安装安排，腾讯云搜索高性能应用服务，创建服务器选取AI框架，磁盘空间全部操作下来大概消耗了100GB，大众能够按照状况进行选取。
<img src="https://mmbiz.qpic.cn/mmbiz_png/XmaW4RhXPzEKoyr12HYswzomrohDs04XFVGpwfyTvZq0JvIG4KacGGFBZX5iaWPNyVKJ6K5HWiboRicm3trvOzc7w/640?wx_fmt=png&from=appmsg&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1" style="width: 50%; margin-bottom: 20px;">
起步成功后登录秘码会以站内信的方式发送给用户，另一重视（每次起步登录IP都会出现变化），这儿直接选取在掌控台登录选取JupyterLab面板
<img src="https://mmbiz.qpic.cn/mmbiz_png/XmaW4RhXPzEKoyr12HYswzomrohDs04Xj81krMXhyVC0W4bP2jiaWSo5SKwSGAZMNNNZdthVbQruIIZibL31hLKw/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1" style="width: 50%; margin-bottom: 20px;">
<h2 style="color: black; text-align: left; margin-bottom: 10px;">2.1 安装 git 环境</h2>
首要安装 git
apt install git
安装 git-lfs 用于下载大文件
apt install git-lfs
<h2 style="color: black; text-align: left; margin-bottom: 10px;">2.2 大模型下载</h2>
下载大模型glm-4-9b-chat，这儿运用魔搭社区的仓库进行下载，文件很强下载会耗费点时间（总计接近20GB），设备磁盘需要预留足够的空间，全部操作下来磁盘运用了约100GB，空间不足的话下载会失败
git clone https://www.modelscope.cn/ZhipuAI/glm-4-9b-chat.git
完成之后继续下载智谱官方封装的模型调用代码：
git clone https://github.com/THUDM/GLM-4.git
这儿官方供给了4个demo，每一个demo下均有较仔细的文档参考：
basic_demo 基本示例：供给了基本对话、训练后的模型加载及运行的例子。
composite_demo 综合示例：供给了网页浏览，函数调用例子。
finetune_demo 微调示例：这儿供给的微调方式效率较低，咱们不去运用。
intel_device_demo 量化运行示例：适合在内存较小的设备上运行，但会丢失精度。
<h2 style="color: black; text-align: left; margin-bottom: 10px;">2.3 运行环境配置</h2>
咱们经过conda进行环境管，刚才选取的腾讯云AI框架环境已然安装了miniconda，因此无需在安装配置 conda，执行以下命令新建一个 conda 环境并安装所需依赖。
#创建环境 glm4
conda create -n glm4 python=3.12
#安装Jupyter内核
ipython kernel install --name glm4 --user
#激活环境
conda activate glm4
#切换到GLM-4项目的basic_demo的目录
cd /GLM-4/basic_demo
#安装依赖basic_demo 环境下的依赖
pip install -r requirements.txt
这儿显现了依赖冲突问题，如下所示，咱们将 requirements.txt 文件中的torch版本修改为torch==2.3.0，再次运行 pip install -r requirements.txt 安装成功。
ERROR: Cannot install -r requirements.txt (line 1) because these package versions have conflicting dependencies.
The conflict is caused by:
 torch 2.4.0 depends on nvidia-cuda-runtime-cu12==12.1.105; platform_system == "Linux" and platform_machine == "x86_64"
torch 2.3.1 depends on nvidia-cuda-runtime-cu12==12.1.105; platform_system == "Linux" and platform_machine == "x86_64"
torch 2.3.0 depends on nvidia-cuda-runtime-cu12==12.1.105; platform_system == "Linux" and platform_machine == "x86_64"
To fix this you could try to:
1. loosen the range of package versions youve specified
2. remove package versions to allow pip attempt to solve the dependency conflict
<h2 style="color: black; text-align: left; margin-bottom: 10px;">2.4 运行代码配置</h2>
咱们直接运用 trans_web_demo.py 示例进行测试，这个代码能够加载刚才下载的模型，亦可以加载后边微调后的模型。
1、修改模型路径
MODEL_PATH = os.environ.get(MODEL_PATH, THUDM/glm-4-9b-chat)
# 修改为
MODEL_PATH = os.environ.get(MODEL_PATH, /root/glm-4-9b-chat)
2、起步项目
python trans_web_demo.py
显现一个错误和一个告警，稍加修改（官方示例更新的比较频繁，可能会遇到区别的问题，能够到官方仓库进行查找提问：https://github.com/THUDM/GLM-4/issues）：
错误：
from peft import AutoPeftModelForCausalLM, PeftModelForCausalLM
ModuleNotFoundError: No module named peft
修改错误
安装peft包：pip install peft
告警：
/root/GLM-4/basic_demo/trans_web_demo.py:85: SyntaxWarning: invalid escape sequence \`
 line = line.replace("`", "\`")
修改告警
trans_web_demo.py 78 行处
line = line.replace("`", "\`")
# 修改为
line = line.replace("`", "\\`")
<h2 style="color: black; text-align: left; margin-bottom: 10px;">2.5 安装网络穿透工具</h2>
再次运行python trans_web_demo.py命令，模型加载成功，然则会显现下边的提示，frpc_linux_amd64_v0.2 是用来做内网穿透的，方便咱们拜访web 页面。
Could not create share link. Missing file: /root/miniconda3/envs/glm4/lib/python3.12/site-packages/gradio/frpc_linux_amd64_v0.2.
Please check your internet connection. This can happen if your antivirus software blocks the download of this file. You can install manually by following these steps:
1. Download this file: https://cdn-media.huggingface.co/frpc-gradio-0.2/frpc_linux_amd64
2. Rename the downloaded file to: frpc_linux_amd64_v0.2
3. Move the file to this location: /root/miniconda3/envs/glm4/lib/python3.12/site-packages/gradio
咱们手动安装下这个
1、下载frpc_linux_amd64文件，上传到服务器/root 目录下，重命名为 frpc_linux_amd64_v0.2
https://cdn-media.huggingface.co/frpc-gradio-0.2/frpc_linux_amd64
2、安装 frpc_linux_amd64_v0.2
# 移动文件
mv frpc_linux_amd64_v0.2 /root/miniconda3/envs/glm4/lib/python3.12/site-packages/gradio/
# 添加权限
chmod +x /root/miniconda3/envs/glm4/lib/python3.12/site-packages/gradio/frpc_linux_amd64_v0.2
<h1 style="color: black; text-align: left; margin-bottom: 10px;">3 起步模型</h1>
执行命令 python trans_web_demo.py 运行代码，初次加载会有点慢，看到这个临时链接就说明运行成功了。
<img src="https://mmbiz.qpic.cn/mmbiz_png/XmaW4RhXPzEKoyr12HYswzomrohDs04XhlaicEMpeiap0smZvUt4aklyLnSNcviafQnVIroiaZzu22nNrr7ia2fg0cg/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1" style="width: 50%; margin-bottom: 20px;">
到页面上测试下效果，至此咱们的模型已然下载运行成功。
<img src="https://mmbiz.qpic.cn/mmbiz_png/XmaW4RhXPzEKoyr12HYswzomrohDs04X2u46eR0ZgD34BlXkiblUfMicpyRcnbeLlWUicshcxxibnkqb87A4yYjH4Q/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1" style="width: 50%; margin-bottom: 20px;">
下篇文案咱们分享下怎样微调大模型的自我认知，让大模型回答咱们自定义的名叫作和研发者，先来看下微调后的效果：
<img src="https://mmbiz.qpic.cn/mmbiz_png/XmaW4RhXPzEKoyr12HYswzomrohDs04XVLLUn98wlVCAyMMKRiaGJ7PH9jwKlcABc4CPJNzAS2U7ZFekib7Lw7icw/640?wx_fmt=png&tp=webp&wxfrom=5&wx_lazy=1&wx_co=1" style="width: 50%; margin-bottom: 20px;">
关联链接：
https://github.com/THUDM/GLM-4
https://www.modelscope.cn

nqkk58 发表于 6 天前

期待楼主的下一次分享！”

nykek5i 发表于 3 天前

你的见解真是独到，让我受益匪浅。

页: [1]

外链论坛's Archiver

智谱 GLM-4-9B-Chat 模型认知微调，怎么样给模型洗脑（一）