V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
JCZ2MkKb5S8ZX9pq
V2EX  ›  OpenAI

2024-03 如果要搭一个 GPT 公司内部用,有什么现成的轮子?

  •  
  •   JCZ2MkKb5S8ZX9pq · 2024-03-26 22:41:50 +08:00 · 2779 次点击
    这是一个创建于 369 天前的主题,其中的信息可能已经有所发展或是发生改变。

    先叠甲

    • 不用担心法务和担责的问题,买了专线,也有买海外服务器,仅公司内网环境下使用。
    • 不需要担心什么老板没让你做你就不要做,或者出了问题要担责啥的。
    • 纯讨论技术实现。聊不出技术内容光东拉西扯的不需要。

    需求

    • 身份验证
    • 对话记录
    • 不要让用户自己配置 api-key

    用过的轮子

    • ChatGPT-web

      • 这个有身份认证,大体可用。
      • 有对话记录。但查询起来略麻烦。
      • 小缺点是对话轮次无法限制,经常有人用了忘记清上下文,导致 token 被浪费。
      • 很久没更新了。
    • ChatGPT-Next-Web

      • 优点是 Vercel 一键部署
      • 缺点是要自己输入 key

    提前感谢能提供有效回复的各位大师

    19 条回复    2024-04-09 17:25:07 +08:00
    Plutooo
        1
    Plutooo  
       2024-03-26 22:55:07 +08:00
    ChatGPT-Next-Web 也可以直接设置 key ,不需要用户再输入,配置参数就可以
    CheckTime
        2
    CheckTime  
       2024-03-26 23:06:12 +08:00
    lobe-chat ?
    JCZ2MkKb5S8ZX9pq
        3
    JCZ2MkKb5S8ZX9pq  
    OP
       2024-03-26 23:20:45 +08:00
    @Plutooo 我之前直接 vercel 的,我去文档找找看,感谢。
    JCZ2MkKb5S8ZX9pq
        4
    JCZ2MkKb5S8ZX9pq  
    OP
       2024-03-26 23:21:44 +08:00
    @CheckTime
    lobe 我用过的,emoji 的那个,vercel 上好像还有一个,好像也是要自己输入 key 的吧。
    忘了为啥,最后反正常用的还是 next-web 那个。
    JCZ2MkKb5S8ZX9pq
        5
    JCZ2MkKb5S8ZX9pq  
    OP
       2024-03-26 23:24:59 +08:00
    @Plutooo 另外 Next-web 好像不能记录对话的吧?它的对话我记得都在 local-storage 里,这样对话同步、统计、拉取历史等功能就有点麻烦。可能人家的设计意图一开始就想做纯单页面应用的。
    Plutooo
        6
    Plutooo  
       2024-03-26 23:39:33 +08:00
    @JCZ2MkKb5S8ZX9pq 是的,没法远程拉取历史记录,如果要做到对话同步那么跟你说的不要输入 key 就冲突了
    ProxyXAI
        7
    ProxyXAI  
       2024-03-27 00:14:53 +08:00
    完美的方案经常需要付费才行
    maymay5
        8
    maymay5  
       2024-03-27 00:20:10 +08:00
    https://github.com/MayDay-wpf/AIBotPublic

    虽然不太能和预期,但是可以给你参考
    caomingjun
        9
    caomingjun  
       2024-03-27 01:05:17 +08:00 via Android
    librechat
    优点是满足你的全部需求,对话存在数据库里,可以邮箱密码验证也可以 sso ,可以统一配置 apikey ,更新频繁。
    缺点是发送的信息没 markdown 渲染( gpt 的回复有渲染,因为他模仿的官方界面),似乎也不能限制轮数,且我个人感觉移动端适配略差。
    lekai63
        10
    lekai63  
       2024-03-27 01:08:49 +08:00 via iPhone
    我也用的 librechat
    winterx
        11
    winterx  
       2024-03-27 01:42:10 +08:00
    next-web 、lobeai 都支持直接设置 key
    jwangbyus
        12
    jwangbyus  
       2024-03-27 08:23:23 +08:00
    你怎么解决用户花费 token 过多的问题
    CHTuring
        13
    CHTuring  
       2024-03-27 08:59:48 +08:00
    直接用 Vercel 的这个吧 https://chat.vercel.ai/
    listkun
        14
    listkun  
       2024-03-27 11:03:12 +08:00
    CheckTime
        15
    CheckTime  
       2024-03-27 11:15:49 +08:00
    @JCZ2MkKb5S8ZX9pq #4 你用的时候是自己部署的吗?自己部署的时可以设置一系列环境变量,包括模型和 Key ,这样应该用户使用的时候就不需要输入 key 也可以使用了,当然我没试过看文档意思好像是这样。我现在有用别人部署好的,直接微信登录后就可以直接使用(这个应该是他自己实现的),GPT4 ,Claude3 部署的时候配置了的话就都可以用。

    https://chat-docs.lobehub.com/zh/self-hosting/start
    MapleEve
        16
    MapleEve  
       2024-03-27 12:05:45 +08:00
    Lobe Chat ,docker 配置完所有默认 key ,不设置密码就可以所有人无限制访问了
    julyclyde
        17
    julyclyde  
       2024-03-27 18:08:30 +08:00
    不如问问 gpt 看看怎么做
    ProxyXAI
        18
    ProxyXAI  
       2024-03-30 10:03:51 +08:00
    Marwin
        19
    Marwin  
       355 天前
    我目前也在寻找类似的项目,我自己部署了一遍上面回复提到的四个项目
    chat-next-web 、lobeChat 应该是 UI 和交互体验都相对优秀的项目,但是目前都没有后端数据库功能,而且 chat-next-web 也没有专门做鉴权相关,两个都适合个人或者家庭使用,不太适合在公司使用,不过我看了下后续 lobeChat 会引入后端数据库,可以期待一波
    librechat 和 chat-web 个人感觉比较适合公司部署,librechat 支持后端数据库也就是可以跨端跨设备拉取对话记录,支持鉴权可以引用公司登录,chat-web 目前已经大概 5 个月没更新了吧,不推荐
    所以个人推荐 librechat 吧,详细的对比信息我写在我的 blog 了,https://winxuan.github.io/posts/casing-chatgpt-research/
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5876 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 30ms · UTC 02:21 · PVG 10:21 · LAX 19:21 · JFK 22:21
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.