V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
LemonLeon
V2EX  ›  OpenAI

OpenKey 中转接口为什么稳定?最新系统架构图已公布,可供学习

  •  
  •   LemonLeon · 2023-11-02 06:05:22 +08:00 · 1611 次点击
    这是一个创建于 412 天前的主题,其中的信息可能已经有所发展或是发生改变。
    OpenKey.Cloud 作为 ChatGPT 生态圈内的重要基础设施,提供官方 API 的转发,长久以来一直保持着高稳定性,这是如何做到的?今天就来揭秘 OpenKey 系统的详细架构图。



    官网: https://openkey.cloud/
    文档: https://docs.openkey.cloud/
    18 条回复    2023-11-06 01:15:00 +08:00
    OceanBreeze
        1
    OceanBreeze  
       2023-11-02 08:16:26 +08:00
    所以你们把用户的对话也记录到你们的数据库了嘛?
    superares
        2
    superares  
       2023-11-02 08:23:38 +08:00 via iPhone
    这个设计不是常规操作吗
    potatowish
        3
    potatowish  
       2023-11-02 08:51:48 +08:00 via iPhone
    有没有想过监控程序挂了怎么办
    cdwyd
        4
    cdwyd  
       2023-11-02 09:19:24 +08:00 via Android
    这不是常规方案吗?
    SingeeKing
        5
    SingeeKing  
       2023-11-02 09:36:07 +08:00 via iPhone
    OpenKey.Cloud 作为 ChatGPT 生态圈内的重要基础设施???
    Sricor
        6
    Sricor  
       2023-11-02 09:47:03 +08:00
    套壳也是真敢说 "OpenKey.Cloud 作为 ChatGPT 生态圈内的重要基础设施,长久以来一直保持着高稳定性"
    ispinfx
        7
    ispinfx  
       2023-11-02 10:36:50 +08:00
    老是你们的广告烦不烦
    justin2018
        8
    justin2018  
       2023-11-02 10:58:24 +08:00 via iPhone
    价格不错
    就是不知道 5 美元有没有官方的耐用
    LemonLeon
        9
    LemonLeon  
    OP
       2023-11-02 11:53:34 +08:00
    @OceanBreeze 没有记录对话数据,只记录了计费信息
    LemonLeon
        10
    LemonLeon  
    OP
       2023-11-02 11:58:28 +08:00
    @superares 是的。只是入门级的方案,主要解决了单点故障问题
    LemonLeon
        11
    LemonLeon  
    OP
       2023-11-02 11:59:09 +08:00
    @potatowish 监控程序连接着 Google Sheet 做监控面板,可以看到分钟级别的更新情况
    LemonLeon
        12
    LemonLeon  
    OP
       2023-11-02 12:00:32 +08:00
    @justin2018 OpenKey 价格并不算低,文档有详细的说明
    xabcstack
        13
    xabcstack  
       2023-11-02 13:00:52 +08:00
    可以对比看看 https://docs.open-assistant.cn

    一顿操作,唯独最关键的 api proxy 没有搞定,官方价格的 16 倍吗?
    xabcstack
        14
    xabcstack  
       2023-11-02 13:02:14 +08:00
    请问目前你们服务请求 503 响应比例是多少? 如有数据,可以具体列举
    LemonLeon
        15
    LemonLeon  
    OP
       2023-11-02 14:50:12 +08:00
    @xabcstack 这个报错是存在的,没有具体统计过。OK 总体的报错率可以控制在 2%以下
    xabcstack
        16
    xabcstack  
       2023-11-02 15:18:32 +08:00
    @LemonLeon 你们的服务可以使用上面 愚公代理 作为基础支撑,这个错误可以控制在 0.02%
    xiaotian456
        17
    xiaotian456  
       2023-11-03 13:28:11 +08:00
    我目前在用的一家也特别稳定,https://api.aigcbest.top
    aigcbest
        18
    aigcbest  
       2023-11-06 01:15:00 +08:00
    不错不错
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2615 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 15:40 · PVG 23:40 · LAX 07:40 · JFK 10:40
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.