在windows 台式机电脑部署GLM4大模型

参考这篇文章在windows笔记本电脑部署GLM4大模型_16g显卡本地部署glm4-CSDN博客

我的环境（PC台式机电脑：

处理器    Intel(R) Core(TM) i9-14900K   3.20 GHz

机带 RAM    32.0 GB (31.8 GB 可用)、32G内存、NVIDIA RTX4080（16G）、Windows 10 专业版）

基本完成处理相关软件的安装，

目前能启动trans_cli_demo.py,

中途出现torch安装错误，导致启动执行效率非常低.

后续再重新卸载torch:pip uninstall torch

pip

pip3 install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

可以正常 启动，但是报需要下载：

https://cdn-media.huggingface.co/frpc-gradio-0.2/frpc_windows_amd64.exe

conda安装

conda install pytorch torchvision torchaudio pytorch-cuda=12.1 -c pytorch -c nvidia

ImportError: cannot import name 'CommitOperationAdd' from 'huggingface_hub'

报错：ImportError: cannot import name 'get_full_repo_name' from 'huggingface_hub'

使用python3.12重新安装后：

运行效果：