https://flashai.com.cn/model/gemma2_2b
不用 GPU ,在 12 代 i7cpu 也能跑出 20+token/秒的速度
无需任何配置,开箱即用
支持 win10,win11 ,mac11+
图形界面,不用自己安装 webgui
自带 embedding 库,支持上传 pdf,docx,txt,md 创建知识库
文档翻译工作流,一次翻译整本书
知识树,从大模型压榨数据
离线使用,大模型基础功能永久免费
1
asaworld 94 天前 via iPhone
看着不错,有没有老哥测试下
|
2
zhs227 94 天前
mac 11.6.1 启动报错,大概就是执行模型加载错误了
|
3
zhs227 94 天前
"/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model gemma2:2b-instruct-q4_K_M -path "/Applications/FlashAI B2.app/Contents/Resources/embeddings"
zsh: segmentation fault "/Applications/FlashAI B2.app/Contents/Resources/flashai_server" -model -pat |
5
zhs227 94 天前
启了无数次都是一样的。报 segmentation fault ,应该是哪里内存越界了。
|
6
mumbler OP @zhs227 可以在 flashai.com.cn 主页扫二维码进交流群,帮你看看
|
7
Pepsigold 18 天前 via Android
3090 部署的话,并发支持多少?
|