Windows环境下的配置和环境准备

[zRzRzRzRzRzRzR]

在这里提出Windows环境下配置ChatGLM3-6B模型的任何问题，例如：

• Windows下的cuda和torch跟Linux要求一样么
• Windows 7 系统能运行这个仓库么

[zhangyanming]

请问，Windows 下如何更换成已下载的ChatGLM3-6B-32K？

[qmd158]

下载了modelScope/chatglm3-demo模型到本地，
环境变量也配置了，
项目拉取得是ChatGLM3
但是执行streamlit run main.py
报错：ValueError: The current device_map had weights offloaded to the
disk. Please provide an offload_folder for them. Alternatively, make
sure you have safetensors installed if the model you are using
offers the weights in this format.
如何解决？有没有大佬遇到过？拉取得ChatGLM3项目需不需要改项目代码？

[qmd158]

我的电脑是tinkpad E15

[wenrui123123]

运行所有demo都，与AI互动的时候都出现RuntimeError: "addmm_impl_cpu_" not implemented for 'Half'这个错误，大佬们知道怎么解决吗

[ascode]

我也是，新手，有点懵逼

[zRzRzRzRzRzRzR]

这个大概率是你用cpu了吧

[MAlways]

部署模型时怎么指定路径呢

[zRzRzRzRzRzRzR]

使用绝对路径

[featherfly0513]

我按照步骤操作到安装依赖环境pip install -r requirements.txt，在vllm这一项一直报错，搜索了之后才知道vllm用在Linux上，我是win10的系统，有没有人指导下后面怎么操作。

[lookatall-to]

同样错误，我的是windows10 专业版

[18534902089]

How can we solve this, guys?

[hzucc]

guys +1。快说，怎么解决，不说的话我就投票给特朗普。一查浏览器就看到一堆win10部署这个模型的帖子，我都感觉我是在平行世界了。有没有官方人员帮帮忙。I am a new hand ， small white。

[badass-16]

遇到同上问题+1，开发者怎么都默认是在Linux环境下玩？我在Win11环境下按官网或者相关参考书籍的教程走下来，不是缺.DLL就是报字典无法定位（vocabulary not found）的错误，没谁了。

[lookatall-to]

您好，邮件已收到，谢谢！