V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  kneo  ›  全部回复第 26 页 / 共 30 页
回复总数  592
1 ... 18  19  20  21  22  23  24  25  26  27 ... 30  
227 天前
回复了 lwch 创建的主题 分享创造 无需量化,在树莓派上运行 LLaMA2 70B 模型
@lwch 最后提醒一下,你的直接竞争对手是 C/C++/Rust (比如 llama.cpp ,llama2.c )版本。而不是 GPU 版本。
不管怎么说,祝有成。
227 天前
回复了 lwch 创建的主题 分享创造 无需量化,在树莓派上运行 LLaMA2 70B 模型
@lwch

第一,关于 Google 搜索核心代码也是 Go ,是否有信息来源? Google 内部代码量巨大,模块众多,连所谓的核心代码指的是哪一部分都很难确定。

第二,Google 的数据量巨大,集群性能远比单机单核性能重要。和你的应用场景截然相反。

第三,作为通用语言,Go 并不慢。但是 AI 相关代码的性能大量依赖 CPU (就不提 GPU 了)指令优化。需要大量的经验和技巧。性能想赶上业界 c/cpp 版本,甚至 Python 的混合版本,我觉得需要相当的经验和技巧。我简单搜了一下你的项目,没发现有 SIMD 之类的代码,我对性能不是很乐观。

第四,没有实测而谈性能实属嘴炮。我不应该因为开发语言否认你的劳动。我本人这几年也是用 Go 开发比较多,提 Go 和性能纯粹是路过多了一嘴。用 Go 做 AI 并非完全不靠谱,只是需要想当的工作量。如果 OP 能努力把这件事做好对圈子也是一件幸事。不过性能比对十分重要,建议有时间考虑在主页加上与各版本的实测对比。
228 天前
回复了 lwch 创建的主题 分享创造 无需量化,在树莓派上运行 LLaMA2 70B 模型
@lwch 没人用纯 Python 写这东西啊……
228 天前
回复了 lwch 创建的主题 分享创造 无需量化,在树莓派上运行 LLaMA2 70B 模型
核心代码用 go 写的?这不慢个十倍八倍对不起用户吧。
消费主义洗脑的常用套路:每天只要多少多少钱。
为什么想起网贷广告了呢?
230 天前
回复了 kneo 创建的主题 硬件 求推荐一个装 4090 不会挡住插口的主板
准备搞一个 z690 的主板了。
@mumubin CodiumAI 比 Github Copilot 好用吗?
230 天前
回复了 kneo 创建的主题 Windows 最近 Win10 升级之后 CPU 总降不下去
刚嘲讽完,发现任务管理器的查看菜单下有一个“更新速度”,被设置为已暂停了……改成正常之后,问题解决!
挽尊一下:这是我老婆的电脑。
230 天前
回复了 kneo 创建的主题 Windows 最近 Win10 升级之后 CPU 总降不下去
好像是任务管理器的 BUG 。启动之后,显示的 CPU 会再刷新一次,然后就凝固了。之后显示的一直是启动之后第三秒左右的 CPU 。实际的 CPU 占用没有那么高。
不会发图,见谅。
说真的,任务管理器出 BUG 也是没想到。Windows 还是有两下啊。
231 天前
回复了 kneo 创建的主题 硬件 CPU(比如 13700)不超频可以不配散热吗……
@noe132 谢谢朋友。但是水冷我怕漏……我配个电脑基本上要用五年起步……我 4090 都买的风冷。
231 天前
回复了 kneo 创建的主题 硬件 CPU(比如 13700)不超频可以不配散热吗……
@ysc3839 谢谢。锁频版自带风扇,超频版需要自己购买。合理。
@whitecosm0s 广告就好好广告,别把人当傻子。
失业了就在家做独立开发者。v2 给的勇气吗?
建议继续摆烂。否则你可能花了十倍努力最后还是一杯咖啡。
“一键生成热门笔记,告别担心内容被限流或封号的烦恼。”

看不明白,这个前半句和后半句之间有因果关系?
利诱加群请三思。小心杀猪盘。
孪生? servo 和 rust ???
235 天前
回复了 gotio95 创建的主题 NAS 如何开发自定义 nas 客户端?
什么叫自定义客户端?你想走什么协议,连哪个服务端?
群晖自己开发的 APP ,其内部的私有协议是不公开的,你不具备逆向能力那就搞不定。
但是你可以通过其他公开协议,比如通过 sftp/webdav 在服务端存储照片。很多第三方照片管理应用就是这么干的。
你甚至也可以把自己的服务部署在 Docker 里。
建议你先把 nas 当做一个普通的服务器,理清自己的需求,想一想是否有必要自己开发,以及自己是否具备相应的开发能力。
236 天前
回复了 alexlee0728 创建的主题 NAS 适合小型团队使用的 NAS 推荐
你需要的是服务器,不是 nas 。
1 ... 18  19  20  21  22  23  24  25  26  27 ... 30  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   861 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 46ms · UTC 20:48 · PVG 04:48 · LAX 13:48 · JFK 16:48
Developed with CodeLauncher
♥ Do have faith in what you're doing.