V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
Fxshiny
V2EX  ›  问与答

有没有懂 excel 的小伙伴?

  •  
  •   Fxshiny · 258 天前 · 755 次点击
    这是一个创建于 258 天前的主题,其中的信息可能已经有所发展或是发生改变。

    1692286411654.png

    很奇怪,这个是为什么

    3 条回复    2023-08-18 06:33:51 +08:00
    geelaw
        1
    geelaw  
       258 天前 via iPhone   ❤️ 2
    D 列估计是公式计算的,有浮点误差。存储货币的时候请格式化单元格选择货币,然后计算货币的公式外面套一层 ROUND(…, 6) 保留六位小数,格式化的时候指定精度。
    akira
        2
    akira  
       258 天前
    不喜欢这种用法,比较喜欢就让他用两列来显示
    msg7086
        3
    msg7086  
       258 天前
    因为 36.89 和 35.99 都不是二进制下的有限小数。
    比如说在单精度 IEEE754 下,
    36.89 其实是 36.8899993896484375 ,
    35.99 其实是 35.990001678466796875 ,
    -0.9 其实是-0.89999997615814208984375 。

    如果要显示 0.9 ,需要四舍五入到一定的精度。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2390 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 95ms · UTC 13:11 · PVG 21:11 · LAX 06:11 · JFK 09:11
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.