mrchengzp
V2EX  ›  OpenAI

最近两个月 AI Token 用量: 135 亿,缓存命中 96%,有点夸张

  •  
  •   mrchengzp · 6h 12m ago · 782 views

    usage

    统计了一下 5 月到 7 月初的 AI 用量,68 天,总 Token 大概 135.65 亿,日均 2 亿左右,换算成 API token 价格 $15,194 ,比工资都高了有木有😂。感谢 Codex 和 Cluade 的套餐订阅。

    比较意外的是缓存命中率有 96%,缓存节省显示 $70,824 ,不然成本会更吓人。

    感觉现在做 AI 应用,模型本身只是成本的一部分,缓存、上下文复用、模型路由、限流策略可能才是真正决定能不能跑得动的关键。

    大家现在 AI 应用的 Token 成本大概是什么水平,可以分享分享你们的用量吗?

    日均 2 亿 Token 算重度使用吗?

    大家有没有什么比较实用的降本方案?

    4 replies    2026-07-09 01:13:59 +08:00
    xiaomushen
        1
    xiaomushen  
       4h 55m ago   ❤️ 1
    赚了多少呢?
    realpg
        2
    realpg  
       3h 52m ago
    我这边,AI Coding 的效能不算码农工资,是 15 倍左右回报率
    yjxjn
        3
    yjxjn  
       3h 10m ago
    请教一下,缓存命中这个如何提高?使用 OpenSpec 之类的么
    bailywen
        4
    bailywen  
       11 mins ago
    @realpg 不算码农的工资是怎么理解呢?是不计员工工资或者这些码农是外包的不计入成本?
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   1240 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 17:25 · PVG 01:25 · LAX 10:25 · JFK 13:25
    ♥ Do have faith in what you're doing.