 |
WuSiYuV2EX 第 117744 号会员，加入于 2015-05-19 20:37:14 +08:00今日活跃度排名 2712 |
wusiyu.me
WuSiYu 最近回复了
1 天前 回复了 zha0w 创建的主题 › 宽带症候群 › 请问现在北京移动的宽带，光猫型号 ZXHN G7716V6 能改桥接吗？ |
先问宽带师傅，不行就上咸鱼找破解，还不行就花几十块闲鱼买个破解好的猫
1 天前 回复了 v0rtix 创建的主题 › 宽带症候群 › ikuai 可以更新 4.0 beta 了 UI 大焕新 |
功能说不定比 unifi 还更适合国内，不过鉴于其“优秀历史”并不是很想用
1 天前 回复了 feunterban 创建的主题 › 宽带症候群 › 论家宽建站的可行性？ |
运营商有 dpi 的话能看到你的跑了 http/https 服务
3 天前 回复了 unpay 创建的主题 › 宽带症候群 › 运营掐上行本质还是“钱”PCDN 只是理由 |
不为了钱还能为啥。。。家宽、商宽费用不对等的必然结果呗，一切都是为了高价的商宽有人买
4 天前 回复了 fiht 创建的主题 › 随想 › 你愿不愿意打开引擎盖？ |
对于搞 LLM 算法或者 infra 的 1 那些都属于常识，但对于普通 LLM 用户而言知道个 sampling 就够了，毕竟 DNN 的可解释性一直就不强，知道 softmax(Q @ K^T / sqrt(d_k)) @ V 也不会对使用技巧有太多帮助
4 天前 回复了 fengwq 创建的主题 › NVIDIA › 4090 置换 5090，我花了 2400 |
差不多，我 4090 1.85w 卖的，当时 2.1w 换的 5090
5 天前 回复了 shenjialun 创建的主题 › iPhone › 国行能否使用 6Ghz |
用起来很折腾吧
6 天前 回复了 wshjdx 创建的主题 › 宽带症候群 › 求推荐家用硬件防火墙 |
“防火墙”概念太宽泛了，iptables 、DPI 流量检测、IDS/IPS 、WAF 都是不同的东西，后面几种的特征库基本都是要钱的
另外我在用的 unifi ucg fiber 网关自带免费的 DPI 和 IDS/IPS ，但我感觉图一乐，平时也就帮你拦截一些脏 ip
另外我在用的 unifi ucg fiber 网关自带免费的 DPI 和 IDS/IPS ，但我感觉图一乐，平时也就帮你拦截一些脏 ip
6 天前 回复了 keaidian 创建的主题 › 程序员 › 千问的这次崩了，会属于事故吗？ |
很难的啦.jpg
跑 LLM 又不像 Web 后端那么简单，LLM 一个请求在输出结束前 kv cache 都要驻留在显存里，一个 8 卡服务器只能顶个几百到几千并发。再加上 LLM 服务冷启动慢（分钟级），动态扩容响应速度也不快。再加上现在 LLM infra 搞的很复杂，又是 PD 分离又是全局多级 kv cache 缓存，一个大 EP 实例横跨几百卡，failover 的工作却不多，一崩炸一片
跑 LLM 又不像 Web 后端那么简单，LLM 一个请求在输出结束前 kv cache 都要驻留在显存里，一个 8 卡服务器只能顶个几百到几千并发。再加上 LLM 服务冷启动慢（分钟级），动态扩容响应速度也不快。再加上现在 LLM infra 搞的很复杂，又是 PD 分离又是全局多级 kv cache 缓存，一个大 EP 实例横跨几百卡，failover 的工作却不多，一崩炸一片
9 天前 回复了 Admstor 创建的主题 › SSH › 我不理解几乎所有 SSH 加固都提到配置公钥 |
@est 我知道，我没表达清楚，我的意思是 ssh 本身通信是 ssl/tls 这套，安全性是一开始的非对称加密保证的
Select Language