V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  kerb15  ›  全部回复第 1 页 / 共 23 页
回复总数  449
1  2  3  4  5  6  7  8  9  10 ... 23  
2 天前
回复了 yifei2 创建的主题 香港 香港银行卡申请记录
@dko 它家信用卡有什么优势么
2 天前
回复了 yifei2 创建的主题 香港 香港银行卡申请记录
有没有办汇丰的,一直想知道汇丰的好处在哪,环球同名转账港币都要收 50 多块钱手续费
@lovepandac 肯定啦
他要盈利就会投入成本去购买账号
3 天前
回复了 neurocomputing 创建的主题 OpenAI 大家要不要晒一下用 LLM api 做的应用
问就是没有场景
4 天前
回复了 tianzx 创建的主题 云计算 国内公有云还有救吗?
@napsterwu 直接要么
5 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@MajestySolor #15 不行啊,我又下载试了一下,全部生成完毕,然后进入别的文件夹再回去,又重新一张一张加载了,而且巨慢
6 天前
回复了 Sirius8 创建的主题 耳机 2024 TWS 耳机选择
刚买了 vivo 3pro ,降级消费了
6 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@fgt1t5y 我记得这个甚至没有缩略图
6 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@MajestySolor 试过,缩略图每次都要重新加载,都很慢
6 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@YGHMXFAL 跟双列其中一个移到右边倒是一个方法
6 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@cmdOptionKana 我是希望找一个文件管理器,然后直接替换掉系统那个了,方便我对各种类型整理归档,而不是针对媒体使用单独的软件,太不通用了
6 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@M2K4 试了一下没用
6 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@katwalk 不会呀,直接看缩略图就是让你方便整理,移动文件
9 天前
回复了 hepin1989 创建的主题 Java 大家用上了 ZGC 了吗?
小白想问下什么岗位的 java 工程师会需要关注垃圾回收
@sdjl #14 怎么可以拿模型的回复结果来作为参考,毫无价值
23 天前
回复了 kerb15 创建的主题 OpenAI GPT4 API 好像无法保证每次输出都一样?
@xmumiffy
@kaidong21
我试着给 Seed 传了一下 0 和 1 ,发现都没用,看参数注解也是说尽可能保障,实际上我测试的结果是变化的概率挺高的
23 天前
回复了 kerb15 创建的主题 OpenAI GPT4 API 好像无法保证每次输出都一样?
尽管将温度参数设置为 0 、top_p 参数设置为 0 ,也不能完全保证在相同的输入提示下生成的文本完全一致,主要原因是因为在 GPU 计算过程中存在固有的非确定性。

这是因为浮点数计算中的微小差异可能会导致最终选择的 token 有微小变化,特别是当前两个最有可能的 token 之间的差异很小时,会偶尔选择不同的 token ,从而产生不同的结果。

同时,为了提高模型端点的速度,通常使用 GPU 进行计算,而 GPU 计算是并行的(非确定性的)。

在现代的 GPU 神经网络计算中,这种非确定性是无法避免的。

而且,如果模型被部署在不同的区域以实现负载均衡,不同区域的硬件和环境也可能会对模型的计算产生微小的影响,进一步增加了非确定性。

作者:月明
链接: https://www.zhihu.com/question/595912240/answer/3160446512
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
24 天前
回复了 winterbells 创建的主题 问与答 春秋航空严查背包大小吗
你都这么讲了,那不就是事在人为吗,有操作空间,看眼缘,随时做好加钱的准备
1  2  3  4  5  6  7  8  9  10 ... 23  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2744 人在线   最高记录 6543   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 27ms · UTC 06:10 · PVG 14:10 · LAX 23:10 · JFK 02:10
Developed with CodeLauncher
♥ Do have faith in what you're doing.