V2EX › josStorer 的所有回复 › 第 1 页 / 共 1 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

2023-05-23 17:52:51 +08:00

回复了 josStorer 创建的主题 › 程序员 › RWKV-Runner 发布并开源，可商用的大语言模型，一键启动管理， 2-32G 显存适配， API 兼容，一切前端皆可用

@jones2000 可以，网盘里有全依赖的包： https://pan.baidu.com/s/1wchIUHgne3gncIiLIeKBEQ?pwd=1111
此外你可以用本体 exe ，在联网环境把所有依赖都装上，然后整个目录打包，就是离线包了，所有依赖都在文件夹内
API 部分做了简单的加锁，可以内网多人使用，理论上可以套个负载均衡集群部署，不过我没测试过