V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  secondwtq  ›  全部回复第 4 页 / 共 120 页
回复总数  2394
1  2  3  4  5  6  7  8  9  10 ... 120  
322 天前
回复了 storyxc 创建的主题 问与答 炼丹这块业务, AMD 还能能支棱起来吗?
@ysc3839 AMD 最大的问题不是跑不跑得了,是人家根本就没把个人消费者当人看
你要是不管其他条件光是要跑 ROCm 肯定是能跑的,但是 ROCm 到现在不支持 Windows ,虽然我自己天天用 Linux ,几个人真会为这个装 Linux 啊(你别说,貌似还真有 A 卡用户这么干)?这就好比给你一个小目标,但是要强制你带着钞票去一个屁都没有连网都不通的海岛上面去 ...

我刚上去最上面还挂了个新 issue: https://github.com/RadeonOpenCompute/ROCm/issues/2128 Will the RX7900 series be supported? 要知道 7000 系 technically 是去年的卡,然后 ROCm 是自己的软件不存在什么开源社区项目要 review 不能进的问题,现在还没消息就离谱

然后 AMD 你能解释下这个迷之文档页面是怎么回事么? https://docs.amd.com/category/ROCm%E2%84%A2%20v5.x 为什么 5.5 没有“Getting Started Guide”,而且 5.4 里面该文档的 href 是“//”?
不过我觉得不需要解释,因为点进去就能看到“GPU requirement”只有有限的 Instinct 和 Radeon Pro 型号。反正大客户有问题都是直接一个邮件过去就行,公开页面随便摆烂得了呗?
实际上这问题早就给撕烂了 https://github.com/RadeonOpenCompute/ROCm/issues/887 可能不存在一个人类个体完整地了解 ROCm 究竟支持什么硬件 https://github.com/RadeonOpenCompute/ROCm/issues/1714

作为对比,CUDA 基本从一开始就是随便 N 卡( G80 之后)什么系统都能用(虽然严格上并不是,因为 NVIDIA 官方提供了 FreeBSD 的驱动,但是并没有提供 FreeBSD 的 CUDA Toolkit ,不过想在 FreeBSD 上用 CUDA 的怕是比 Windows 用户为了用 ROCm 切 Linux 的还要少 😅 而且 FreeBSD 本身有 Linux compatibility 功能,然后根据一些最近的信息好像经过一堆 hack 之后还真他娘的能用 😅😅 https://github.com/verm/freebsd-stable-diffusion 虽然 NV 官方对这问题好像也是一直摆烂)。Intel oneAPI 直接把 N 和 A 的支持也做了。

有小道消息说 ROCm 的 Windows 支持要出来了,但是 ChatGPT 都火了半年了,现在还没出来真就突出一个慢热。这不是一个单独的问题,AMD 整体都这样,X670 皇帝吊死在二仙桥上才几年哪,忘啦!
大概还有给 Martin Odersky 的学生刷 paper 吧 ...
似乎很多人把“疯狂”和“好”划等号
我觉得现在也挺疯狂的
类似的问题 NGA 讨论过了 nga.178.com/read.php?tid=35867636
选择的问题 NGA 也讨论过了 nga.178.com/read.php?tid=35174425
就 3.5-turbo 的效果来说,我觉得它更适合的用法是 Prompt 中给出一些信息,然后让 LLM 基于这些信息构造或转换成另一种形式的信息(中间可能涉及一定的推理)。
比如自然语言写代码就是一类,还有一个我在探索的做法是把自然语言的 etymology 描述转换成结构化的描述: https://gist.github.com/secondwtq/d00ea3a0d88c6098a57b0dba04054466 注意这里面的 etymology 数据是我自己事先从 wiktionary 里面抄下来给它的,你直接问它 etymology 它也知道,但是结果就不那么可靠。Changelog 推过一篇文章把 LLM 比作“calculator for words”我觉得很形象:simonwillison.net/2023/Apr/2/calculator-for-words Think of language models like ChatGPT as a “calculator for words”

当作“搜索引擎”就不太好,反而应该尽量限制它使用 Prompt 之外的信息(当然你可能很享受自己 fact check 这个学习的过程)。主要是 hallucination 太严重了,让它原文引用点东西都是很难的事情,比如这是我拿它搜陆游的诗的结果:

> 《秋夜将晓出篱门迎凉有感》:“三万里河东入海,五千仞岳上摩天。遗民泪尽胡尘里,南望王师又一年。已是悬崖百丈冰,犹有花枝俏冒春。梦得楼台声啾啾,昨夜风雨过后天。”
>《钗头凤·世情薄》世情薄,人情恶,雨送黄昏花易落。晓风干,泪痕残,欲笺心事,独语斜阑。难,难,难!人成各,今非昨,病魂常似秋千索。角声寒,夜阑珊,怕人寻问,咽泪装欢。瞒,瞒,瞒!
> 《卜算子·咏梅》:“风雨送春归,飞雪迎春到。已是悬崖百丈冰,犹有花枝俏。”

鉴定为不如百度。
337 天前
回复了 wayne3602 创建的主题 分享发现 一会没看, GitHub 变成这样了吗?
这可能是 GitHub 的一个灰度更改,我浅度使用下来只能说和原来的比各有千秋
你可以点头像下面的 Feature preview 禁掉
@xitek #9 你正好只 fact check 了一半
大 M 给 CPU 分的是等效 2xLPDDR5-6400 ,正好我回贴的这个机子也超到了 2xDDR5-6400 ,你就算超到 8400 也并不能翻倍。
345 天前
回复了 yzbythesea 创建的主题 字体排印 有什么复古的编程字体
点阵字体大多感觉在 HiDPI 屏幕上没内味了

楼主想找的可能是类似打字机的字体: https://tug.org/FontCatalogue/typewriterfonts.html
345 天前
回复了 liuidetmks 创建的主题 程序员 x % 256 有必要写成 x & 255 吗
对于这个 case 来说,现代 C/C++/Fortran 编译器对于整数的 div/mod 操作,当除数是整数时是可以直接优化掉的
https://godbolt.org/z/Eo8T56hn5
345 天前
回复了 OrdinaryMan 创建的主题 程序员 请教大家一个计算机组成原理的问题
相对于“字节”来说,“字”的概念貌似不那么绝对
比如现代 CPU 通过 SIMD 能访问 16/32/64 字节的数据,也没人说它是 512 位 CPU
相对来说我更喜欢把重点放在寄存器大小和地址大小上,虽然一般这俩和“字”在数值上是一样的
345 天前
回复了 OrdinaryMan 创建的主题 程序员 请教大家一个计算机组成原理的问题
@kkkbbb 你直接贴视频链接就行
其实有时候挺烦的 ... 经常打乱回复排版,就像公众号文章两句话一个图的感觉一样
www.youtube.com/watch?v=OHKKcd3sx2c Microsoft is Forcing me to Buy MacBooks - Windows Modern Standby - YouTube
357 天前
回复了 justincnn 创建的主题 macOS 重新用回 chrome,才体会到 edge 有多垃圾
微软现在就是这个作风,先扔你一个看上去还可以的东西,再一点点把屎掺进去
isdotnetopen.com Is .NET an open platform yet?
你别说,我这 Linux (无 swap )也是这个情况,而且好像更夸张:

系统+Home 盘:
Data Units Read: 1,000,741 [512 GB]
Data Units Written: 6,658,573 [3.40 TB]
Host Read Commands: 10,158,853
Host Write Commands: 78,860,657
Controller Busy Time: 31
Power Cycles: 43
Power On Hours: 2,575

数据盘:
Data Units Read: 28,896,974 [14.7 TB]
Data Units Written: 35,039,315 [17.9 TB]
Host Read Commands: 425,424,705
Host Write Commands: 433,676,025
Controller Busy Time: 6
Power Cycles: 120
Power On Hours: 7,041

有没有一种可能,比如我编译一个项目,中间结果(比如.o )绝大多数都直接放在 page cache 里面链接的时候直接取出来,导致最后都写进去了,但是从来没真正读过?
360 天前
回复了 v2yllhwa 创建的主题 问与答 遇到一个完全无法理解的访问问题
隐身模式下访问网页所有的连接都是单独的,不会复用非隐身模式的连接。
如果你是“平常在非隐身模式下浏览,发现出问题了才打开隐身模式可以正常使用”的话,可能是这个原因。
360 天前
回复了 Pichai 创建的主题 问与答 ChatGPT 是 OpenAI 的应用产品。
OpenAI 一般是指一个机构 /公司,不过他们这个结构本来就很奇怪,有点类似 Mozilla ,比较合适的限定应该是“以 XXX 同志,XXX 同志,XXX 同志等为领导核心的一群人”,毕竟别管是非营利组织还是 capped-profit 公司,核心都是人。
OpenAI 本身不是一个产品,你应该在 ChatGPT 上给这个答案点个踩。(把“人”当“产品”,我很怀疑 ChatGPT 是否使用了大量阿里的资料作为中文训练集)
有些人在指代 ChatGPT 等产品时喜欢带上 OpenAI (比如 GitHub 的"openai"这个 Topic 现在有 3.3k 的项目,和"chatgpt" Topic 差不多),大概是因为 OpenAI 独特的产品思路,他们的 AI 研究不是只发论文,打比赛或者发发公众号吹牛逼,而是做成了技术产品,而开源社区可以指数级地放大这些产品的影响力。ChatGPT 则意外地(这货到现在还在写着“Research Preview”)进一步降低了门槛,各路流量都能来蹭了。

除了产品之外 ChatGPT 也可以指模型。在 API 里,ChatGPT 的模型叫 gpt-3.5-turbo ,用 ChatGPT 称呼这个模型也没问题——因为 OpenAI 自己就是这么叫的:openai.com/blog/chatgpt ,从这个文章来看 ChatGPT 本来指的就是模型,OpenAI 本来想要卖的产品也是这个模型,而 chat.openai.com 这个界面更像是 ChatGPT 这个模型的 demo 。
ChatGPT Plus 性质又不太一样,首先它确实是一个产品,并且是 OpenAI 少有的直接面向大众的产品。而且看起来它并不是“一个”模型——我没有订阅 ChatGPT Plus ,但是看起来它目前是可以在 ChatGPT 和 GPT-4 两个模型间切换,而 GPT-4 模型的使用量是有限制的。

有人喜欢用“ChatGPT3”或者“ChatGPT4”这种称呼,实际上 ChatGPT 就是一个模型。名字就是 ChatGPT 或 gpt-3.5-turbo ,最多只有小的 snapshot 的区别,目前没有其他版本。
GPT 3.5 和 gpt-3.5-turbo 也不一样,按照 OpenAI 自己的说法( platform.openai.com/docs/models/gpt-3-5 platform.openai.com/docs/model-index-for-researchers ),很多 *-davinci-* 的模型都属于 GPT 3.5 的范畴。其中 text-davinci-002/003 是 InstructGPT 模型(而 InstructGPT 还有其他更小的模型 ...),而 code-davinci-002 连 InstructGPT 都没有。
362 天前
回复了 520discuz 创建的主题 问与答 如果以后 AI 变水军了是不是非常恐怖?
还好吧,公共互联网空间本来大部分就是垃圾,98% 是垃圾和 99% 是垃圾没有本质区别

我觉得可以拿安全里的做法来类比,验证信息的来源主流有两种手段,一种是 CA ,一种是 Web of Trust 。搬到日常网上冲浪上面,CA 对应带平台本身的过滤和推荐,Web of Trust 对应个人的订阅列表。也就是说只从信任的平台和信任的帐号获取内容。个人的经历是有限的,这些渠道的信息量就算是在前 AI 时代也远远超出了个人能够消费的级别。
另一方面,既然 AI 能够用来制造垃圾信息,也能用来过滤垃圾信息,比如垃圾邮件过滤大概也算是最早,最普遍的 AI 应用之一了。以后没准论坛也能加一个垃圾回复过滤。
> True leadership is giving people the tools to make good decisions locally.

这话说得好

我感觉我打过交道的基层技术管理都很忙,倒不是管下面的人搞得很忙,而是我们习惯把其他组来的需求推到 leader 头上让 TA 去帮忙扯皮,也就是说大部分时间 leader 是个路由器+防火墙的角色 ...
363 天前
回复了 serafin 创建的主题 OpenAI ChatGPT 把所有意大利 ip 封了
这下“欧洲里的中国”了
1  2  3  4  5  6  7  8  9  10 ... 120  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2767 人在线   最高记录 6543   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 51ms · UTC 11:56 · PVG 19:56 · LAX 04:56 · JFK 07:56
Developed with CodeLauncher
♥ Do have faith in what you're doing.