V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  7d6a4  ›  全部回复第 1 页 / 共 2 页
回复总数  33
1  2  
## 本地化大模型简单方案
- gpt4all
> 配套工具最完善
> 适配 openai-python sdk
- ollama
> Go 生态的配套
- llamafile
> llamp.cpp + Cosmopolitan Libc 工程化 a file
> 适配 openai-python sdk

- [llama-cpp-python]( https://github.com/abetlen/llama-cpp-python)
> OpenAI-like API
> 支持视觉
> 支持 llava1.5 家族多模态模型 图片加文本


> 核心都是 llama.cpp 其作者写了个 ML 的 c 库 ggml
> 有高端显卡可以考虑 exllama

> [yc 讨论贴]( https://news.ycombinator.com/item?id=36780186)

> [redit 大模型本地化指南]( https://www.reddit.com/r/LocalLLaMA/wiki/index/)

## 开源大模型
- 全
https://github.com/Hannibal046/Awesome-LLM
- 高效
https://github.com/horseee/Awesome-Efficient-LLM
- 商用
https://github.com/eugeneyan/open-llms
- 中文
https://github.com/HqWu-HITCS/Awesome-Chinese-LLM
计算机科学 一堆书 从计算理论、硬件、软件设计实现 一堆 toy 项目 TAOCP 提到的 MIX 实现个最小系统等等 语言只是个方式 各语言背后的理论 lamda 演算 图灵机 分布式里的 PAXOS 乃至离散数学 组合数学 这才是以不变应万变的根本吧 要么尝试 push 下新东西的发展 尝试帮助下某些语言如 zig 框架如上文提到的 triton 等的发展 社区 PR 软文 等等都是实践的方式 a
没有分布式需求的话 单机 clickhouse victoriaMetrics(注重性能牺牲部分可靠性) questDB TDengine(国人的 c 项目) 应该可以了 其实这样简单的需求要么将你的查询在对应组件 api 上优化 要么选一个单机强的带 sql 引擎的数据库 现在时序数据库一般都会做 cluster 服务
278 天前
回复了 kylebing 创建的主题 分享发现 发现一个好网站:买购网,知识点满满
如果手中不需要这笔钱抗风险且 综合提前还贷违约等一系列扣费能支撑+5 年存的所得 还少于上面计算的较小节省利息 5w 建议提前还 至于还款方式等具体细节最好找银行问清楚 上述计算器的详表可以参考
- A 存起来
假设五年定期 3.5% 5 年利息 10w*3*3.5%=11750 5 年后有 17.5%利息 参考( https://data.eastmoney.com/money/calc/CalcZCZQ.html)
- B 提前还 10w
这要看你的贷款银行给你批什么样子的
根据你的描述 你原来贷款方案 360 期 已还 14 期 已还利息 2.8w 左右 剩余 39w 左右的利息 本金已还 1.9 左右 剩余 76w 左右
新贷款 66w
根据( https://www.tiqianhuandai.cc/) 计算
- 如果贷款利率不变 还款方式不变
还款期限不变 改为 346 期 可节省 51,383.3
月供基本不变 改为 279 期 可节省 123,661.11

- 如果贷款利率不变 还款方式改为等额本金
还款期限不变 改为 346 期 可节省 94,779.07
月供基本不变 改为 279 期 可节省 152,006.24
还有其他宦官
找找奸商的库存货就行 不嫌弃弄一个风评能看的二手先用着
现在的厂家拼命的满足容量需求牺牲寿命 开放主控又那么多 容量比速度更具性价比
品牌啥的洒洒水 去 chiphell 啥的问问牌子
e.g.
https://www.chiphell.com/thread-2444506-1-1.html
https://www.chiphell.com/thread-2513214-1-1.html
不会搞退役机可以找找垃圾佬问问 随缘挑一个带售后服务的
不如找个女装机媛解决亮瞎眼的的外观需求 性价比我建议你直接购入一台 D4 平台(带核显就行) 退役机 换个壳子就行 5k 应该够了 给你 3k 的外观预算 含机箱 散热(风 /水 一体 /分体) 电源 这几个可以适当加价钱 后面的拓展直接换板子上那一套 硬盘 SSD HDD 看使用频率 不高直接用 注意下散热选接口适配多的那种就行
2022-11-14 14:52:53 +08:00
回复了 yajuusenpai 创建的主题 程序员 一个很简单的二元回归,但是只知道趋势没有准确标签
基本变量相关性你都有先验了 直接去搞 lowbound<=F(x,y)<=upbound 就是了 F(x,y) -> (z_low, z_up)
2022-11-10 17:01:26 +08:00
回复了 momox 创建的主题 程序员 谁能看看这是什么加密方式?一段被加密的 URL 参数
三个 data 都是长为 88 的字符串
>猜测 base64 编码

三个 data 假设都经过 base64 encode
![base642hex]( https://base64.guru/converter/decode/hex)

他们对应的 hex 为
`5A6E95875577632DCFCE8FD3601854C52A369C14EFFFCEF28AEE5B6E9B9FD43BF3DE7DC6118E827581896785DAC4B1A1B579EF9118779A40B9DD8860405003CB`
`5A6E95875577632DCFCE8FD3601854C5A513500AD46D2AABC33C48C7FDA6C402B5AFC6E2FCE8F69CE9EAFD48FF2425C4E0656A03BD0210518D0B68CC72E744C8`
`5A6E95875577632DCFCE8FD3601854C565D63AB1E56A37478C196B34EC5B51F6E667EEEB588D16A47BA4F2A0B4A2C25F8BAB3F5F480D0EB8AEFCFED5EF227D66`

特点为前 32 位 hex 都相同 三个 hex 长度都是 128 猜测 AES128

> 猜测密钥与前 32 位可能有关 也可能与 uid 有关

根据![AES 密文与明文长度的关系]( https://www.cnblogs.com/lori/p/14210066.html) 贴中所述 data(明文)总长应该在(48, 64]
本地 大部分用纯文本 + 部分 云盘 /git 同步
考虑 CodiMD/HedgeDoc + seafile 自建 本地 /线上都可以
2020-10-16 19:09:52 +08:00
回复了 huskar 创建的主题 健康 想看看有多少成功拔掉拔阻生智齿的?
@zhongrs232 可能是食物残渣吧 不过切碎那种可能会留下些牙齿残片 应该问题不大 不放心可拍个片看下
2020-10-15 09:27:17 +08:00
回复了 huskar 创建的主题 健康 想看看有多少成功拔掉拔阻生智齿的?
还好 因为左下水平阻生拔掉了四颗智齿,一次同侧两颗,一周后第二次另外一侧。其实拔牙过程还好,根据你牙齿情况来说难度高的当然痛苦点,最痛的是牙齿麻醉,这个打麻药的人水平高低很大程度你疼痛的程度。我第一次打麻药基本没打好,用工具拔的时候感觉到了什么叫牙齿痛的想哭,不过第二次麻醉效果很理想,基本没什么大问题。然后就是一些术后过程了,刚拔牙当然肿,注意海绵按时间处理干净(我因没处理好后期才发现还有一块,这东西是异常口臭的主因),可以 24h 内冷敷 24 后热敷,术后吃点止疼,第一晚最痛苦,尽量不要因睡姿影响伤口,吃饭的话当然流食为主。
以上,想拔要趁早,当机立断,雷厉风行,三甲或者个人老牙医,动手前拍片还是必要的。
@jackrelative 感谢推荐
@ClericPy Python Timeline 不错
@seakingii 手动点赞
@luob 单纯新闻类还好,我指的不仅是新闻类,不过热度高的技术类或者其他类也有点这意思,太难找,或者需要更多精力判断
@sggggy 看得不多,懒,而且跟书本身写的也有关(不过相对好很多)
1  2  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   1683 人在线   最高记录 6543   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 31ms · UTC 16:45 · PVG 00:45 · LAX 09:45 · JFK 12:45
Developed with CodeLauncher
♥ Do have faith in what you're doing.