Gemma4 + LiteRT-LM 真得有点的东西, e2b 内存仅 2G 左右占用, 在 天玑 的安卓机上跑的飞快.

[dacapoday]

安卓用这个: https://github.com/google-ai-edge/gallery

另外在 m2 mac 上直接跑 cli https://github.com/google-ai-edge/LiteRT-LM

这种性能已经完全可以离线运行 酒馆 小手机 之类的私密场景.

对 V2EX 挺失望的, 小红书上的业余开发者,都把 这一套打包成 橱窗 商品了, 这个所谓的专业开发者社区,居然在问 ai 模型怎么用. 当年加入的时候, 社区帖子都是怎么用科技改变社会.现在全是 中年打工人混生活. 老登味太重.

[ahdw]

酒馆、小手机 是什么东西

[James369]

模型能联网搜索吗？

[gotoschool]

@James369 你得给它 tools 吧

[jaoyina]

2b 的手机上能干啥？

[Jtyczc]

没记忆，闪退一下，又得重新给上下文了。

[lewiet]

为何我在 Github 下载的都用不了（但 SHA 校验正确）？能给个下载 URL 吗？（ GooglePlay 之外的）

有人用他的“离线翻译”吗？效果如何？
另外还有什么用法请推荐

再问个题外话，用 AI 做 APP （ Android/iOS ），有什么成熟好用的途径吗

[canvascat]

iOS 上 try it 就闪退

[dacapoday]

@Jtyczc 面向开发者的,是很好的原材料,还不是终端用户吃的熟食. 上下文本身就是开发者应该重点设计的, 涉及 memory 和 tool 调用与调度.现在这个 app 只是 demo 调试.

@lewiet 我最初只是让 pi 每日帮我阅览新闻, 挑它觉得有意思的产品自行安装调试后报告给我. 所以等我上手的时候, 已经是 cli 直接可用的状态了. 然后我又自行到 play 商店装手机上测试了一下,发现和 mac 上性能接近.