V2EX › Livid 的所有回复 › 第 3 页 / 共 1426 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8 9 10 ... 1426

❮

❯

15 天前

@344457769 收到，我现在去看一下。

17 天前

@nrtEBH exo 如果在内网的几台机器上启动，会自动组成一个群集。

只是，用一堆小机器跑超大模型这件事情可能本身就比较扯。

20 天前

20 天前

@drymonfidelia 那个账号已经被彻底 ban 。

20 天前

@xqzr 5 楼的账号已经被彻底 ban 。

21 天前

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

21 天前

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

这里有 128G 的 M4 Max 用户么，谁能试试 Q8_0 在 M4 Max 上能有多少 t/s

21 天前

回复了 Livid 创建的主题 › Local LLM › Llama 3.3 70B

@TonyG
@vfx666

2021 年的 M1 Max MBP 64GB 内存。

LM Studio 会自动检测能跑的版本 Q3_K_L：

https://i.v2ex.co/z8K8Ox6T.png

实际跑起来之后大概能有 3.8 t/s：

https://i.v2ex.co/fjzZO5m6.png

22 天前

@lyl2016
@vsitebon

6 楼的账号已经被彻底 ban 。

23 天前

@humbass
@lisongeee

1 楼用 AI 回复的账号已经被彻底 ban 。

23 天前

@Gears 谢谢，那个用 AI 回复的账号已经被彻底 ban 。

23 天前

@YJi 那个 spam 账号已经被彻底 ban 。

1 2 3 4 5 6 7 8 9 10 ... 1426

❮

❯