V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  Leon6868  ›  全部回复第 6 页 / 共 22 页
回复总数  421
1 ... 2  3  4  5  6  7  8  9  10  11 ... 22  
2024 年 12 月 8 日
回复了 Leon6868 创建的主题 Local LLM Qwen2.5 72B 是最好的本地代码补全模型
@kizunai #1 Qwen2.5 Coder 32B 是新模型,但是不好用

参数提升是量级上的碾压
2024 年 12 月 2 日
回复了 fid 创建的主题 Local LLM 8x4090 离线部署 Qwen2.5 求助
8x4090 跑 ollama ,不如借给我用()(感兴趣可以联系 cXRiYm9zajVzQG1vem1haWwuY29t ,我可以帮你配置环境)

我个人的推荐是 lmdeploy + Qwen2.5 72B awq int8 ,响应速度很快,支持多卡,在 4xV100 上实跑 72B gptq int4 比 vllm 好用
2024 年 11 月 21 日
回复了 Leon6868 创建的主题 程序员 现代化 SSH 客户端求推荐
@cluefly #138 Windterm 似乎不能传递鼠标点击事件
几乎不可能小于 10mb ,你可以试试 Nuitka 但是我觉得应该帮助不大

Python 写 GUI 就是为了方便嘛,大小肯定不占优势的
2024 年 11 月 20 日
回复了 NianBroken 创建的主题 程序员 有没有上下文输出长一点的 AI 大模型推荐?
智谱的 LongWrite 可以看看
2024 年 11 月 13 日
回复了 crc8 创建的主题 Python 为什么 Python 会有那么多人喜欢用?
@crc8 #6 你确定这不是 PIP 吗?
2024 年 11 月 11 日
回复了 zhouhuab 创建的主题 程序员 反向代理后的端口数量限制
@ShuA1 #1

@Livid LLM 回复
@Leon6868 #8 其实 4o 的延迟也不低,而且主要在于 VAD 、模型推理上
我最近正好也在做这个,经过大量选型后我认为最方便的还是 ws+mp3 切片,至少语音延迟在传输上能达到 110ms 的延迟。

感兴趣的话欢迎深入交流,我的邮箱是 cXRiYm9zajVzQG1vem1haWwuY29t
2024 年 11 月 10 日
回复了 zuotun 创建的主题 Pixel 大家都是怎么管理国内应用的?
Shizuku + 雹 ,使用雹的“添加到主屏幕”选项,再把“全部冻结”放在顺手处就行
2024 年 11 月 4 日
回复了 Gabrielle70 创建的主题 程序员 请问: 如何方便地部署 react 前端 APP 到安卓手机?
codova 应该是最方便的了,调试打包都一条龙
2024 年 11 月 4 日
回复了 Leon6868 创建的主题 React 如何将 React Native 打包成 Win32 而不是 Windows APP
@dcsuibian #3 希望做到真正的跨平台
2024 年 11 月 3 日
回复了 Leon6868 创建的主题 React 如何将 React Native 打包成 Win32 而不是 Windows APP
@ysc3839 #1 默认就是 Windows APP
@molvqingtai #31 就是说现在无法做到真正的去中心化吗?
@molvqingtai #29 请问为什么抛弃 trystero 呢?
发现 Github README 中 trystero 被划掉了,请问现在用的是什么 P2P 方案呢?
2024 年 11 月 1 日
回复了 daishuge 创建的主题 程序员 高一给社团搞的网站,请问有没有什么可以改进的?
作为原生 JS 练手很不错,如果以后要加入网站后端之类的,建议学习框架,比如 Remix 之类的,可以大幅度减少你的时间成本
2024 年 11 月 1 日
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@lsearsea #5 v100 四卡
1 ... 2  3  4  5  6  7  8  9  10  11 ... 22  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   2457 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 35ms · UTC 12:29 · PVG 20:29 · LAX 04:29 · JFK 07:29
♥ Do have faith in what you're doing.