这是一个创建于 326 天前的主题，其中的信息可能已经有所发展或是发生改变。
本地部署 ChatGLM-6B API 服务，将 ChatGLM API 接入 BabyAGI ，使得 BabyAGI 运行时调用 ChatGLM 的结果。
将 BabyAGI 的提示和输出都进行了中文优化，使其输出中文结果。Embedding 使用针对中文优化的 text2vec-large-chinese 模型。
ChatGLM 占用大约 12G 左右显存，embedding 模型大约占用 3G 左右显存，最终大约共使用 15G 显存成功运行。
GitHub 项目地址： https://github.com/EmbraceAGI/LocalAGI
效果图：
目前尚无回复
Select Language