有偿：熟悉 aws lambda 和 nodejs 的 v 友帮忙写一个 openai 套壳接口

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 487 天前的主题，其中的信息可能已经有所发展或是发生改变。

自己一顿操作，写了 Firebase Functions 的套壳，结果发现支持 stream ，所有结果返回后才会统一吐回客户端。

调查了一下，发现 AWS Lambda 支持，但是我对 aws 不熟，也几乎没写过 nodejs ，想找个人帮忙写一下。

具体需求：

1.将 Firebase Jwt 接入 AWS 的 jwt 验证

（这个我大概搜了一下，似乎配置一下就可以，如果我理解的不对欢迎指出）

2.请求 Azure OpenAi 接口，并以流式结果返回（每个 token 以 json 形式返回客户端）

应用还没上线，暂未盈利，所以预算有限，可以接受 1000 左右。

有意可以加我 VX：T2h2bm5ubg==

第 1 条附言 · 2023-08-02 10:39:47 +08:00

已经找到了，结贴，感谢 v2

9 条回复

john990

2023-07-30 20:02:51 +08:00

大佬们帮帮忙🥲

zbinlin

2023-07-30 21:01:38 +08:00

没找到人可以 Email 联系我

john990

2023-07-30 21:48:04 +08:00

@zbinlin #2 发你邮件了

john990

2023-07-31 08:30:09 +08:00

仍然有效

MintZX

2023-07-31 10:43:38 +08:00

我倒是用 AWS lambda 做了 python SDK 的 openai 套壳，但是好像没有能以流形式返回结果的方式。

MintZX

2023-07-31 10:45:25 +08:00

对了，Azure OpenAI 的接口就算是用流的形式返回，也受限于 request + response <= 4096 token limit 的限制。这是 OpenAI API 的限制，跟是否用流的形式返回没有关系。

john990

2023-08-02 10:40:44 +08:00

@MintZX #5 可以用流，不过只支持 nodejs

MintZX

2023-08-02 12:22:38 +08:00

@john990 #7 这样啊，好吧我确实不太清楚。我不知道你是如何确定可以用流的，不过如果你都确定可以用流了的话自己做就好了。本身 openai 的那个 sdk 就非常简单，好像就三四个参数。

john990

2023-08-03 10:36:09 +08:00

@MintZX #8 AWS 官方文档说可以用流，主要对 nodejs 不熟，不过已经被 v 友完成了，再次感谢 v2