上个月的时候,我开源了一个可以将任意 openai 请求转为 azure 请求的代理 diemus/azure-openai-proxy ,让很多使用 azure 的小伙伴们可以轻松对接各位大神开发的 web 前端项目,收货了不少 star ,但是也遇到很多朋友反馈 Azure 的服务很难申请,一个是需要美元信用卡,一个是需要公司的身份,最终还是没能申请下来。再加上 4 月份以来 openai 开始大规模封号,国内小伙伴们使用 chatgpt 的难度又上升了不少。所以我就在想,我能不能基于上次开源的代理项目,搞一个接口代理服务,直接让大家人民币付款就完了,于是就有了这么一个项目。
https://console.openai-asia.com
技术人员。可以直接 api 调用,接口和原生 openai 接口完全一致,支持 gpt3.5 ,davinci-003 ,embedding 3 种模型,后续也可能会支持 gpt4 ,可以直接在 langchain 等 python 库里使用,也可以配置到自己喜欢的开源 chatgpt 前端项目中使用。
小白用户。提供了基于开源项目搭建的一个默认 chatgpt ,小白用户可以登录后直接使用,无需各种复杂的 API 配置。
按使用 tokens 数量收费,和 openai 官网算法保持一致,用多少收多少,RMB 付款,最低 1 元起充,没有套路,注册后登录可见各模型具体价格。
其实核心的代理模块已经在 https://github.com/diemus/azure-openai-proxy 开源过了,这次的项目只不过是加了一个多租户管理还有多账号负载均衡之类的功能,对于有 Azure 账号的朋友们,建议直接使用我开源的代理就 ok 了
此页面可通过 PWA 转换为桌面和收集应用程序,类似小程序一样使用,不喜欢这个风格的朋友们也可以自己找开源项目搭建。
项目刚刚上线,难免有一些 bug ,后续会逐步优化
1
hellojay 2023-04-11 09:15:52 +08:00
主要是你这个网站名字太亮了
|
2
MarkIV OP 刚注册没有余额,大家可以先充值 1 元试用
|
4
chaselen 2023-04-11 09:22:27 +08:00
没找到注册的地方
|
5
gx19970920 2023-04-11 09:26:59 +08:00
充值了 2 元试一下,提个意见,没有注册,登陆直接注册貌似不太友好,还有不能改密码
|
6
mazyi 2023-04-11 09:27:26 +08:00 via iPhone
亚洲总代理还是不太对,大陆总代吧,openai-cn 哈哈哈
|
7
senhtry 2023-04-11 09:36:21 +08:00
没找到注册的地方+2
|
8
zhf883680 2023-04-11 09:40:32 +08:00
直接登录就是注册
gpt-3.5-turbo ¥ 0.028/1k 和之前看到的一家 api2d 价格好像一样 API 都是 ChatGPT 的 2 倍? |
9
tokoy 2023-04-11 09:43:02 +08:00
只要价格和官网差不多 就支持 绑国外卡这个真心烦
|
10
sdwgyzyxy 2023-04-11 09:45:35 +08:00
不是流式响应,建议改一下。
|
12
btxkenshin 2023-04-11 09:50:25 +08:00
|
13
swulling 2023-04-11 09:53:41 +08:00 via iPhone
|
15
goojia 2023-04-11 09:56:12 +08:00 via Android
很好,支持,希望不要跑路。
|
16
jellybool 2023-04-11 09:58:41 +08:00
你这域名和业务,OpenAI 来仲裁 99% 能拿下。
|
17
xabcstack 2023-04-11 10:53:38 +08:00
楼主, 我很好奇你多租户 , 虚拟的 key 实现方式, 通过内部算法, 搞一个虚拟的映射表, 本质上后台都是同一个真实的 key 对吧, 只是在虚拟 key 关联用户使用额度,是吧?
|
18
zjuster 2023-04-11 10:58:08 +08:00
非常棒,希望 OP 能持续运营下去。
不过这个域名实在是有风险啊 |
21
zjw7sky 2023-04-11 11:08:19 +08:00
进去顶部就弹出 jwt token not found in cookie
可以修复下 |
22
july1995 2023-04-11 11:09:03 +08:00 via Android
mark 一下,只要不是贵的离谱。都还是 OK 的。 等我的赠送额度用完了,就来试试。
|
23
MarkIV OP 价格上,大家不要只看自己付的费用,因为我还需要负担服务器,数据库,网关,流量等一系列费用,都非常贵,和官网原价一样的话 100%亏钱,目前属于试运营,如果后期成本能下来会考虑调整
|
27
TArysiyehua 2023-04-11 11:25:21 +08:00
我请求的时候报错是咋回事?
flutter: url = https://api.openai-asia.com/v1/images/generations flutter: headers = {Authorization: Bearer sk-Q******mR, Content-Type: application/json} flutter: params = {prompt: cat, n: 10, response_format: url, size: 512x512} flutter: ================== 错误响应数据 ====================== flutter: type = DioErrorType.badResponse flutter: message = The request returned an invalid status code of 404. flutter: response = 404 page not found |
28
MarkIV OP @TArysiyehua 不支持图片生成的模型
|
29
MarkIV OP 你对图片生成是有需求吗
|
30
TArysiyehua 2023-04-11 11:31:57 +08:00
@TArysiyehua 试了一下,只支持 chat ,图片等 api 尽快支持一下鸭,不然你就叫 chat api, 而不是 open api
|
31
TArysiyehua 2023-04-11 11:32:45 +08:00
@MarkIV 当然了,chat 早就玩烂了,图片才是刚需,而且它的 api 就这么几个,我建议你全部映射一下,也不多
|
32
MarkIV OP @TArysiyehua 我后面研究一下,图片接口需要单独申请,我感觉 openai 这个图片功能比 sd 要差不少,你用它来做什么呢?
|
33
TArysiyehua 2023-04-11 11:44:09 +08:00
@MarkIV 我的账号图片是自动就开通的,可能你的是企业才需要?它的图片能力其实挺强的,就看你怎么用。还有音频,编辑等等 api 也都挺强的。 而且你如果想把这个搞大搞好,特别是楼上很多兄弟是企业也要用,你想想,企业怎么可能只满足与聊天呢?可能需要图片,音频等等的能力的。
关键是这些成本也是我们给你分担的,你不是说申请了就要给钱,也是按照流量付费的。所以我觉得你可以加,毕竟光有 chat 老实说没什么用,意义不是太大 |
34
xingye163 2023-04-11 11:47:04 +08:00
充值了一元试了下,发送消息一直回复:{"error":{"message":"model gpt-4-0314 not exist","type":"error","param":null,"code":null}}```
|
35
cherryas 2023-04-11 12:34:16 +08:00
3.5 没用,个人用户免费平替太多了.
|
36
chen90902 2023-04-11 13:18:58 +08:00
|
37
Sumzibuyu 2023-04-11 13:37:42 +08:00
用了下右下角自带的网页版,怎么问了几个问题就花了 5 毛了? 这个收费也太贵了吧? 收费模式没看懂
|
38
phub2020 2023-04-11 13:58:01 +08:00
|
39
TArysiyehua 2023-04-11 14:06:06 +08:00
@phub2020 跑一次就算鸭,不管回答长短
|
40
burymme11 2023-04-11 14:18:16 +08:00
按使用 tokens 数量收费,和 openai 官网算法保持一致,用多少收多少,|
-------------------------------------- 想请教下是如何做到和 openai 官网算法保持一致的? openAI 开源了分词的代码,外界可以自己计算 token 。还是 open AI 开了查账户余额的接口?还是其他? |
41
MarkIV OP @burymme11 非流式模式直接用的 openai 返回的 token 数量统计就行了,流式的有对应的开源实现,基本差不多
|
42
MarkIV OP @Sumzibuyu 您可以到 tg 群里发私信给我,把您的邮箱告诉我,什么时候使用的,也可以发邮件到 help#openai-asia.com ,我给您查查看具体原因
|
43
MarkIV OP @phub2020 您可以到 tg 群里发私信给我,把您的邮箱告诉我,什么时候使用的,也可以发邮件到 help@域名,我给您查查看具体原因
|
44
MarkIV OP @TArysiyehua 企业级的账户每个模型的每个功能点都需要填表单申请,然后单独部署,和 openai 原生的不太一样
|
45
Garalt 2023-04-11 15:13:06 +08:00
测试了一下,一个 10 字左右的问答用了 1 分钱,写一个 100 字的小作文用了两分钱
|
46
LuckyDeer 2023-04-11 15:18:09 +08:00
刚测试了一下,我问了一个问题,让它随机返回 1000 个汉字,直接返回了"The user aborted a request.",并且扣了 2 毛钱
|
47
LuckyDeer 2023-04-11 15:19:25 +08:00
我敲,还在持续扣钱,现在账户就剩一毛七
|
48
linfaimom 2023-04-11 16:01:07 +08:00
自己薅了个 aws 的日本服务器搞了 nginx 代理了一波 openapi ,然后微信小程序搞了个 “AI 随心画”,拿来生图片还是挺有意思的。。有兴趣的大佬可以试试
|
49
linfaimom 2023-04-11 16:02:50 +08:00
@TArysiyehua 是的,感觉图片这块还是挺带劲的。。我就自己搞了个小程序最终接到 openai 的,一个是描述场景让他生图,还一种是传图片让他生出变体,还是挺有意思的
|
50
andyskaura 2023-04-11 17:19:14 +08:00
体验非常不错,api 接入也很方便。愿意付费
|
51
andyskaura 2023-04-11 17:23:54 +08:00
希望接口能新增流式输出功能
|
53
misaka 2023-04-11 18:41:49 +08:00
index.html 里还是 <title>Ant Design Pro</title> 忘记改了
|
54
CY4suncheng 2023-04-11 18:47:33 +08:00
看了好多前端页面都是这个项目部署的 https://github.com/CYsuncheng/ChatGPT-Next-Web , 我也部署了一个自己用
|
55
pkoukk 2023-04-11 19:04:16 +08:00
@phub2020
看一下 API 说明就知道了,chat 实际使用的 token 是叠加的。 假如 两轮对话 ( A1 B1 A2 B2 ),实际的 token 消耗是 ( A1+B1 )+ [( A1+B1 )+( A2+B2 )] 轮数越多,token 消耗越多 |
57
yummysakko 2023-04-11 19:47:32 +08:00
能做推广吗
|
60
zeyangstudies 2023-04-11 20:48:58 +08:00
看看好不好用
|
61
freedgw 2023-04-11 21:26:38 +08:00 via Android
感觉消耗 token 有点快啊,就提了几个小问题就几毛钱了
|
62
viiii 2023-04-11 21:38:02 +08:00
除了余额和充值, 没有任何其他内容,
基本说明缺失, 使用记录 /token 消耗缺失, 有大把要改进的地方. |
63
chitanda 2023-04-11 22:47:19 +08:00
这个其实挺不错,很多朋友都在问我有没有麻瓜版一键使用的,不过我推荐过几个,都是没多久就倒闭或者被封了
|
66
sunfly 2023-04-12 00:44:37 +08:00
这登录页像是手搓的 antdesign
|
68
2n80HF9IV8d05L9v 2023-04-12 01:54:01 +08:00
域名 nb
|
69
jjplay 2023-04-12 09:24:37 +08:00
你这是怎么接入支付宝的,个体户营业执照?
|
72
yinmin 2023-04-12 10:20:52 +08:00 via iPhone
这个接口是连入 azure openai 的吗?还是直接 openai 接口?
|
73
haidishayu 2023-04-12 11:45:25 +08:00
@chen90902 大神你这个是怎样做到的 付费无限制的 (共用一个 KEY )
|
74
MarkIV OP @haidishayu 有多个账号的,后端有专门写的负载均衡算法,会从池子里挑一个账号用
|
76
MarkIV OP @ 所有人
1. 打字机效果失效的问题已经修复。 2. 偶现超时失败的问题已经修复。 3. 计费策略优化,现在更精确了。 4. 前端登录和注册的入口分开了。 |
77
andyskaura 2023-04-13 14:12:59 +08:00
老哥,你这是薅的免费 key?
我自己用的免费 5 刀 key,但是在特定时间一点都不稳定,容易断,但绑卡后的 key 是很稳定的,于是用你的测试了下,和免费 key 同样的效果. 你那儿能不能升级成付费 key? |
78
x3927 2023-04-13 16:08:17 +08:00
这个不错. 现在哪里的服务器能稳定使用 chatGPT 呢
|
79
chaselen 2023-04-13 22:16:46 +08:00
还是会出现超时,有些问题,接口响应回来是空字符串,或者换行字符,不知道是你那边的 bug 还是 OpenAI 的锅
|
81
MarkIV OP @andyskaura 我这个是用的通过企业申请的付费版本,不一样
|
83
MarkIV OP 新增修复:
兼容 embeddings 模式下,Azure 不支持多个 input 的问题 兼容已经被废弃的 /v1/engines/text-embedding-ada-002/embeddings 接口 本次兼容逻辑调整后,经测试,langchain 和 llama_index (gpt-index)等 python AI 相关的库都可以正常使用了,欢迎各位开发者试用 |
84
MarkIV OP 成本分析页面上线,大家可以对自己的花费有更清晰的了解了
|
85
HFX3389 2023-04-14 14:55:25 +08:00
付了两笔一块钱的为啥还是等待支付中?
|
86
iyer 2023-04-14 15:07:57 +08:00
shiyu.chat/shi-yu 基于 3.5 模型,用的付费 API 。。
|
88
MarkIV OP 特大喜讯,重磅更新,GPT4 系列(8k, 32k)正式上线!!!!😘😘
由于 gpt4 系列采用了提问和回答分开定价的策略,因此定价模型有所更新,价格上浮系数保持不变。欢迎大家试用。 不过由于 gpt4 系列限流严重,大家提问不要过于频繁,否则会触发限流 |
89
MarkIV OP 多 token 的能力上线了
|
90
MarkIV OP 上线阶梯计费能力,对于使用量比较大的用户提供了最高 8 折的优惠
|
93
MarkIV OP 介于近期总有个别用户反馈支付宝到账慢的问题,平台上线了自助刷新功能,可以自助刷新支付状态,避免支付宝到账通知慢导致的资金无法入账
|
94
andyskaura 2023-04-18 14:16:48 +08:00
请问有兼容 usage 接口的计划吗?
dashboard/billing/usage?start_date=${startDate}&end_date=${endDate} |
95
MarkIV OP @andyskaura 后面会考虑,暂时没时间弄
|
96
lupus721 2023-04-19 12:30:46 +08:00
发现一个问题,如果生成的 shell 脚本中有##之类的情况,整个输出窗口会变成 markdown 的解析,出现问题。。这里好像没法知己诶贴图
|
97
chris555 2023-05-01 01:44:09 +08:00
langchain 里使用具体需要改哪些地方 谢谢
|
98
MarkIV OP @andyskaura 已经兼容了
|
99
zzbxqq 2023-05-08 16:13:15 +08:00
优秀呀,32k 非常吸引人。
|