主题总数 140
这个节点讨论在本地电脑或者局域网里运行 LLM（大语言模型）的技术细节
 |
跑 AI 模型，显卡的购买咨询 xiniu • 12 小时 28 分钟前 • 最后回复来自 Foxii | 23 |
 |
无 GPU 服务器部署小模型框架求推荐（需兼容 Kafka 数据流） Daybyedream • 9 小时 56 分钟前 • 最后回复来自 NoahBishop | 1 |
 |
一块 4090，怎么来评估部署大模型后（假设为 DeepSeek-R1-Distill-Qwen-7B）的并发数？、、 bushnerd • 2 天前 • 最后回复来自 jroger | 1 |
 |
Deepseek R1 671B 本地部署方案 mcsddjyd • 3 天前 • 最后回复来自 Zaden | 14 |
 |
请问此配置如何加速 ollama ds-r1 32b 的速度，好慢 littlemis • 4 天前 • 最后回复来自 littlemis | 4 |
 |
如何估算一个大模型需要用到什么性能配置的硬件？ zcm3579 • 3 天前 • 最后回复来自 ChristopherY | 16 |
 |
开发了个本地实时字幕 (Whisper + LLM api ) 软件，开源 xkeyC • 5 天前 • 最后回复来自 xkeyC | 2 |
 |
MacMin M4 +国补很香，想买一个内存大一点的跑 pytorch 训练是否可行 python35 • 5 天前 • 最后回复来自 hwdq0012 | 2 |
 |
A30 显卡-24G 显存，推荐部署什么大模型呢 ZimaBlueee • 4 天前 • 最后回复来自 ijk0 | 7 |
 |
半个小时前， ollama 上线了目前单显卡里，最强的中小模型 gemma3 tool3d • 9 天前 • 最后回复来自 hanbing135 | 50 |
 |
ollama 支持的一些模型测试结果 feelapi • 9 天前 • 最后回复来自 coefuqin | 6 |
 |
打算用 AI 来做企业知识库,最佳的组合是什么? xubingok • 11 天前 • 最后回复来自 coefuqin | 18 |
|
ollama 新手，求问哥哥们 2 个问题，找了好多资料还是没弄明白 ZimaBlueee • 11 天前 • 最后回复来自 hefish | 19 |
 |
100 多号人的企业，想自己部署 deepseek，硬件要哪些？ libasten • 11 天前 • 最后回复来自 tamshy | 5 |
 |
大佬们，本地使用 ollama 部署的 DeepSeek-R1-32B 在 anythingllm 中发送图片，它说它没收到，应该怎么做？才能让他帮我识别图片？实现官网那种效果 cander0815 • 11 天前 • 最后回复来自 coefuqin | 4 |
 |
本地部署的小模型（小于 16G 显存）适合轻任务，哪一个模型比较好用？ Kinnikuman • 14 天前 • 最后回复来自 tool2dx | 13 |
 |
帮忙看看这个 DIY 装机配置大模型入门怎样 song135711 • 8 天前 • 最后回复来自 coefuqin | 19 |
 |
30min 搭建本地运行的 General AI agent, 多模态,自扩展,还支持语音! stevenlu137 • 15 天前 • 最后回复来自 stevenlu137 | 1 |
 |
为 Ollama 添加 APIKEY 鉴权的最简单的方式，防止 Ollama 直接暴露在公网被滥用 mili100 • 10 天前 • 最后回复来自 musi | 6 |
 |
q4 量化的大模型能比原版全精度的差多少？ jhytxy • 16 天前 • 最后回复来自 mili100 | 2 |
第 1 到 20 / 共 140 个主题
138 人收藏了这个节点
Select Language