有没有能够兼容 Win7 的离线模型工具

[faketemp]

想用 ollama 或 llm studio 等工具下载个 Hugging Face 上的模型，在 windows7 中离线运行处理一些日常小需求，发现这些工具最低都是仅支持 win10/win11 ，有没有大佬研究过有没有类似的能够加载使用离线模型的兼容 Win7 的工具推荐

[ztm0929]

这些图形工具都是基于 llama.cpp 的，因为系统 API 的设计，恐怕很长时间内都无法实现。

https://github.com/ggml-org/llama.cpp/pull/8208

建议尽早换为 Linux

[01802]

如果实在要用又不换软件，试试 vxkex ，几百 k 的软件，让部分 win10 以上的在 win7 运行。
例如腾讯 workbuddy 就用这个安装到 win7 且运行。

[aes114514gcm]

win7 主流支持都结束超过十年了，你指望现代的基础设施为其服务，不太容易。
升级系统可能更简单。

[faketemp]

感谢答疑
内网离线环境指定操作系统且不能使用 win10+ 即使用 linux 也必须用国产麒麟 linux 且无法联网也无法 apt 更新 看来这条路基本堵死了

[simonsww]

这么恐怖的吗，win7

[simonsww]

win7 都是 17 年前发布的，可以单独准备一台 win10 的笔记本

[docx]

win7 里跑个 win10 或者 linux 的虚拟机？

[cowcomic]

看来是做政府的项目啊
linux 部署吧，麒麟兼容性还是可以的，当 centos 用

[jark006]

难搞哦，只能用 Win7 就试试用 [VxKex]( https://github.com/i486/VxKex)，这样可以兼容部分至少需要 Win10 的软件。
最好还是升 Win10 ，这不是软件想向下兼容就能兼容的，因为很多底层的开发工具链开发环境，早就不支持 Win7 了

[wonderfulcxm]

虚拟机比较靠谱

[coefu]

先在 window 7 指定的版本里 搞定 docker ，然后在外面把所有依赖都封装进 docker 。

[tairan2006]

麒麟可以跑 docker