@mxalbert1996 我开发过 FCM 应用，之前负责公司 APP 里的推送这一块。
虽然文档是这么写，但实际上 FCM 的工作模式并不是简单的一句“直接由系统处理”就能概括的。

像是小米推送、苹果的 APNs ，都是系统自带的组件来负责从接收推送内容到呈现通知推送的全流程。
仅当你点击了通知，或者是国内推送平台所谓的“透传通知”时，系统才会真正唤醒相应的 APP 处理推送内容。

FCM 并不是这种设计。它的职责只有统一收取推送内容，然后转发给 APP 。系统只负责一件事情：统一各种 APP 与推送服务之间的网络连接。

在 FCM 接收到通知之后，其实没有“把通知显示出来”的能力。最终都由 APP 自己处理。

文档中提到的“FCM SDK”并不是一个系统组件（系统组件也不会叫做 SDK……），而是集成到 APP 内部的一个模块，封装了接收和处理通知的逻辑。如果 APP 不能启动，那么其中的 FCM SDK 也不能帮你把通知显示出来。

如果你把应用关闭/杀死了，此时系统会短暂唤醒 APP ，然后走 APP 里的逻辑。消息类型并不会改变这一点，只是 FCM SDK 简化了应用开发，不需要用户自己创建通知罢了。原文是：“此类消息由 FCM SDK 自动处理”。

在你发的连接里，其实下面还有几句话：
“当您的应用在后台运行时，如果您希望 FCM SDK 自动处理通知的显示，请使用通知消息”
“应用在后台运行时，通知消息将被传递至通知面板。应用在前台运行时，消息由回调函数处理”

里面总会提到“运行”这一点，其实挺准确的。只是没有提到应用被杀死时会被 FCM 唤醒……


完全禁止应用后台自启动的情况下（无论是国内 ROM 限制，还是用 Xposed 修改了系统框架限制），FCM 日志里都是“Failed to broadcast to stopped app *********”。

如果手机上有自动填充服务，要给自动填充服务自动启动+后台运行权限。
我用 Keepass2Android/KeepassDX 可以复现这个 bug 。卡住的时候其实一直在等待自动填充弹出来，但它没办法后台自启动。

其他的密码管理器/密码自动填充工具也是一样的。
为什么这个问题只有一部分人能遇到，因为其实很多人不用这种工具。

@emberzhang 选 Windows 其实不是因为 Windows 强，只是因为对互联网程序员来说，x86 Linux 强。而 PC 上可以轻松地运行它，哪怕用 WSL2 也不错。

有了 PC+Windows+Linux ，还可以尝试更多的东西。例如 3D 动画制作、游戏开发、机器学习等等。不少玩意在 Mac 上其实还是比较坑的，我手里有 Mac ，但是我现在上班用 Windows……

Mac 大多数优势还是仅限于笔记本形态的设备，在无任何外接的情况下，触摸板生态好，音响和屏幕好。
但在家里用主机+外接各种外设+键鼠操作时，Mac 好多优势都没有了。

如果 OP 没有 Mac ，买一台也挺好的，不过已经有了，就不必把自己局限在单一平台上了。


还有一个很大的好处，PC 的可升级和可扩展性非常棒。不再需要纠结硬盘多大，内存多大，显卡多强之类的问题了。

Win ，搭配一块 NVIDIA 显卡

那是 C#程序吧……
.NET Framework 4.0 的话，无解

静态链接
编译选项/MT

除了苹果自家的设备以外，其他品牌的 AirPlay 都是逆向得到的……
不能用也正常

@FaneLau 竞品太多了，绑住用户得靠优势

@highsun16 其实目前还没达到令我满意的效果，后面还得看看怎么把数据清洗一下。之后还得再试试训练的时候能不能额外带上 Prompt ，让生成的内容更可控。

折腾完了之后，等有空我写一篇吧。

@daiv 是的

@isouu 我还没想过这个问题

@isouu Chat 模型，训练数据是一些大 V 的回答

@iorilu
Yi-6B 就挺好的，预训练数据里已经有好多小说数据了。
如果还想更小一些，还有 RWKV ，不过相关的生态比较少。

embeding 用这个： https://huggingface.co/moka-ai/m3e-base

@iorilu 只想双显卡加快训练速度的话，用 huggingface 的 accelerate 库就可以了，官方文档： https://huggingface.co/docs/accelerate/index

不过它只支持数据并行，所以不能解决那种一块显卡显存不够，用多块才够的问题。

之前看过一些框架，据说支持把模型拆分到多块显卡上训练。例如 DeepSpeed 、ColossalAI 之类的。只是我还没成功跑起来……

想给大家分享几点：
1. 虽然个人制作一个预训练模型不太现实，但是其实微调模型的门槛很低；
2. 如果你只有 6GB 显存，可以尝试微调 Qwen 1.8B 。虽然不能指望它给你准确回答问题，或者帮你写出正确的代码，但用于只需要想象力的文学创作方面还不错；
3. 零一万物的 Yi 系列模型其实很强，尽管中文互联网上讨论得少。主要优势在中文写作上。虽然它不那么遵循指令，然而 34B-Chat 的中文写作质量真的可以超过 GPT4 ；
4. 除了在 LLaMa 1 刚出来的那个时代，实际上，参数量大的开源模型效果往往不理想。参数量小的开源模型反而更实用；
5. 不要迷信 M2 Ultra 192GB ，想玩出花样，目前看来，NVIDIA 仍然是首选。


说说为什么参数量大的开源模型效果不理想吧。其实最大的原因在于参数量越大，训练成本越高。哪怕对于商业公司来说，预算也不是无限的。训练大模型其实有很多复杂的工程问题，需要多机器的都不简单。

参数量小的模型因为训练成本比较低，很快就能迭代新版本，不断地追加训练数据。
于是，小一点的模型相比大一点的模型，训练得更加充分，数据也更多样。
对商业公司来说，也更适合尝试不同的训练方法。全参数训练 6B 模型最低其实只要一块显卡，60 多 GB 显存。

还有，为什么不要迷信 M2 Ultra 192GB 。
我尝试了市面上绝大多数比较受欢迎的模型（仅中/英文），绝大多数有用的模型都在 1~34B 内。其中又有几乎 95%的模型在 1.5~14B 这个范围内。

M2 Ultra 192GB 的优势则是可以在输出效率能接受的情况下尝试 70B 、120B 、180B （只有一个）的模型。
不过很快你就会发现这些模型一点用都没有：
写作很差，都是那种总-分-总的议论文结构，而且非常机械、死板；
写代码或者回答问题都是错误百出……写代码最好的模型大多数有 34B 左右的参数量；
角色扮演也很无趣，输出实在是太正经了。无论扮演什么，都像在跟售后客服聊天，而且服务范围很有限。最好的角色扮演模型大多数是 13B 左右的参数量。原因很简单，网友自己微调模型，能接受的最高成本在这里。

另外大型语言模型其实可以量化运行，而且性能损失很小。llama.cpp 的 Q5_K_M 量化几乎不影响写作性能，依然能保持和 fp16 同等的质量。只是输出的内容不完全相同。

如果想用 M2 Ultra 192GB 训练模型，其实并不好使。坑很多，有这些：
运行不一定报错，但是训练出来的模型可能是废的。还不好排查问题在哪，网上没人讨论。比如，训练 Stable Diffusion 的 LoRA 拿来用，输出的图都是黑的……
训练速度超级慢。要是模型本身就不大，其实用 NVIDIA 游戏显卡坑少效率还高。模型大到 NVIDIA 游戏显卡跑不起来的情况下，训练速度就相当慢了。你不会愿意把它放着跑个一两年，还保持满载。

PyTorch 的 MPS 后端跑很多模型看起来“能跑”，但是有一些算子实际上没有 MPS 实现，会回退到 CPU 上跑。所以不能光看显卡理论性能。
在训练的时候，ANE 是完全用不上的（推理的时候能用上，但它只能做 INT8/FP16 卷积）。而 NVIDIA 显卡的 Tensor Core 能用上。

个人玩 LLM 最具性价比的选择是 3090 ，进阶选择是两块 3090 ，缺点是噪声比较大，主板和电源要求也高。
4090 在噪声方面好一些，但是现在还是太贵了。

不捡垃圾，不买矿卡，不魔改的情况下，入门选择是 4060Ti 16GB 。
只想体验一下的话，租个 VPS 玩玩，或者用 llama.cpp 用 cpu 跑……

最近微调了 Yi-6B ，能用来写知乎回答，能过知乎的 AI 检测……
虽然没什么用，但是好玩。比给 GPT 写各种各样的 Prompt 好玩多了。

目前还有不少问题，回答里会有很多广告、引流的内容。

这是一些例子：
https://i.imgur.com/2EsBuG9.png
https://i.imgur.com/mrJHfON.png

Note12Turbo 14.0.25 ，刚试了一下，没有复现
应该是 bug

@neiltroyer849 要续航也有选择：
AMD 6800H / 7840HS
Core Ultra 系列（刚出的）

我的小新 Pro14 （ 7840HS ）可以做到最高屏幕亮度写代码，同时后台跑浏览器+QQ+微信+各种小工具+笔记软件，真实续航 8 小时。网上看评测比较垃圾，后来我发现这电脑键盘背光的功耗堪比屏幕……
关掉键盘背光，续航从 6 小时多提升到 8 小时多。

比起 11 代之前的酷睿，已经是“显著提高”了。
当然，要想有 Apple Silicon 水平，那得等高通台积电工艺的 ARM 处理器。

这种商业模式能做，就是上手门槛太高的话，一开始不会有用户……
吸引用户使用的门槛应该尽可能低。

等用户有了更高级的需求之后，想到自己已经用了很久，改用其他项目成本还要更高，才会乐意在现有的项目上付费。