mkroen 最近的时间轴更新 mkroen 最近的时间轴更新 |
mkroenV2EX 第 572960 号会员，加入于 2022-02-16 18:15:36 +08:00今日活跃度排名 2993 |
mkroen 最近回复了
2 天前 回复了 charlesxiong 创建的主题 › NAS › 玩 NAS 已经感觉到无聊了，还费电。想出一个 16T 的希捷 X18 硬盘 |
/go/all4all 可以放这个分区
慢扫全绿吗，通电时间多久呢，楼主就一个盘吗，如何联系，有意
慢扫全绿吗，通电时间多久呢，楼主就一个盘吗，如何联系，有意
21 天前 回复了 iyobucuo 创建的主题 › 推广 › [抽奖 · 烟台大樱桃] 五一假期已过，价格有落，欢迎光临 |
已下单支持，祝大卖
34 天前 回复了 llxe2v 创建的主题 › 硬件 › 铭凡 amd mini 主机外接 nvidia 显卡? |
um790 pro 没有 oculink ，需要 m2 转出来，不介意也可以用 usb4 接。可以考虑带 oculink 的主机，记得铭凡前段时间出了个带 oculink 的
35 天前 回复了 xingfukuaile 创建的主题 › 分享创造 › 部署了一个 Llama3 [8B 和 70B] 欢迎来尝试 |
部署了 llama-8b ，P40 大概占了 16G 显存，感觉英文交流的效果比中文交流好很多，也试了第三方的中文微调模型，效果还是不尽人意。不过速度比较快，效果相比于 Qwen1.5-7b 的效果要好。
43 天前 回复了 kincaid 创建的主题 › 云计算 › 腾讯云发布 0408 故障报告 |
@hellomsg #58 我也收到了。虽然也就 100 ，但感觉好小气哈哈
60 天前 回复了 avalox 创建的主题 › 程序员 › 想用手头的硬件最低成本尝试下本地 LLM 推理，请教一下方案 |
可以试试 Qwen1.5-7B-Chat 阿里的千问模型，P40 24g 显存占用 15 个 g ，效果还能接受，也比较快。16g 显存应该够用了吧，不够再试试量化
Select Language