V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  bwnjnOEI  ›  全部回复第 4 页 / 共 7 页
回复总数  125
1  2  3  4  5  6  7  
❮ ❯
2 月 12 日
回复了 yuhangch 创建的主题 › 程序员 › Vibe coding 时代随想
@andforce 我的意思是基于 agent 。小程序就是我描述的那样?我没做过应用开发只会 import torch
2 月 12 日
回复了 yuhangch 创建的主题 › 程序员 › Vibe coding 时代随想
我感觉我未来 app 会逐渐减少 一个 app 会变成可调用的 API 集合 必须图形展示的会调用一个轻量 UI
读论文啃算法和头脑风暴我一般用 Gemini 写代码分析 repo 我用 Claude 搜索我用 grok 其余情况基本用 GPT
2 月 12 日
回复了 zx1w1w 创建的主题 › 程序员 › 感觉被智谱的 Coding Plan 背刺了
这迭代速度太快了 很难相信对齐 安全 合成轨迹质量。
国内就去年 ds 的 grpo 长脸了 rlhf 再也不需要 4 个模型了,之后都是源于做量化的底子在工程上的创新,今年的 mhc 还比较 demo 其他公司没有那么从 0 到 1 。 未来国内看好字节。国内还没有 alphago zero fold 这种诺奖级别的原创 这些你看他的论文很简单很清晰
2 月 6 日
回复了 Shielber 创建的主题 › 程序员 › 我的 agent 团队开始干活了,记录下
这分明是 ai 的供养
2 月 5 日
回复了 terry2048 创建的主题 › Claude Code › claude code 被封
在都使用 bandwagon 节点的情况下,如果是早期用境外白名单邮箱注册被封的概率比用虚拟邮箱注册的低,我就是 23 年用 icloud 注册的一直用,用 duck 邮箱用了几个月就被封了
新时代新方法 用智能体 同一信息源多个账号每个账号设置比如不同提示不同温度 这些消融实验做完找几个你觉得好的参数
@zzutmebwd 你指的是单一量化格式吧,现在都是混合精度,比如 moe 里用 fp8 layernorm 里保持精度能掉多少精度,而且 kv cache 一般都不量化而且我们现在天天用的套餐都是量化后的模型。
@bwnjnOEI 难点就是瞬时 token 数量会不会爆显存,如果观测一段时间爆了要么加算计要么上手段比如 fp8 (前提调点精度能不能接受
@bwnjnOEI 但是我不建议使用 claude code router ,至少公司使用这个不可行,推荐 Bifrost go 写的比 litellm python 的快
好几个开源 llm 网关,统一所有接口而且可以遥测和统计 token ,另外多卡用 vllm 或 sglang 部署都有很好的并发优化。必须先部署上之后效果需要不断优化,就对着这俩文档研究参数和基本原理就行
1 月 16 日
回复了 wyfig 创建的主题 › 程序员 › 你们的私人项目 git 库现在都保持到哪里?
去年纠结很久最后没买 nas 买的 macmini 挂尿袋,用的 gitea ,待机才不到 6w
@w3 怎么感觉变相夸自己呢
是侵入式遥测那家吗?我 X 的页面一翻译就崩溃 retry
买了 bandwagon ( LA )和 racknerd (圣何塞),从大概 11 月初 bandwagon 和 racknerd 都开始不稳定( hysteria2 和 Reality ),到了 12 月 bandwagon 恢复正常了但是偶尔也小抽风,racknerd 干脆用不了。坐标:辽宁移动。
2025 年 12 月 20 日
回复了 LimboRunner 创建的主题 › VPS › 我们的服务宗旨是不退钱! RackNerd VPS 大避雷
家里移动这两天连不上了已经 偶尔下午几小时能用 估计是线路问题
2025 年 12 月 14 日
回复了 dddddddy 创建的主题 › Local LLM › 想自己搞个量化投资模型,怎么解决训练资源的问题?
现在内存和固态涨成这样你得多花多少钱,等明年吧。另外,你可以看看 b/y 上的装机博主装机视频看看搞量化的都啥配置 3w 不算 gpu 应该够,我看他们至少 1 万多那个入门级线程撕裂着 >256g 内存 显卡当然越多越好
1  2  3  4  5  6  7  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   1525 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 24ms · UTC 17:33 · PVG 01:33 · LAX 10:33 · JFK 13:33
♥ Do have faith in what you're doing.