 |
vonsditeV2EX 第 365567 号会员，加入于 2018-11-25 12:21:48 +08:00今日活跃度排名 11873 |
vonsdite 最近回复了
2 天前 回复了 lx0758 创建的主题 › 程序员 › 自己写了一个轻量的 AI 网关, 感觉适合拼车用户, 拿来分享一下 |
我也来一个： https://github.com/VonSdite/LLM_Proxy
- 支持一个上游对接多个下游（当前还是 1:1 ，正在修改）。比如上游 openai 接口，下游可对接 openai_chat\claude\codex 协议客户端
- 支持 Hook 扩展，有些 provider 需要 cookie 或者 token 才能访问，并且需要动态更新，这个时候可以写 hook 来扩展，hook 有 header_hook 、request_guard 、response_guard ，后面两个 guard 可以来做内容检测
- 支持白名单控制用户管理，不开的时候所有 IP 均能访问，开了之后只有允许的 IP 才可访问 provider ，支持对模型粒度的用户控制
- 支持 Provider 设置多个 api key 的策略，可控制单独 key 的使用量、请求数等
- 支持一个上游对接多个下游（当前还是 1:1 ，正在修改）。比如上游 openai 接口，下游可对接 openai_chat\claude\codex 协议客户端
- 支持 Hook 扩展，有些 provider 需要 cookie 或者 token 才能访问，并且需要动态更新，这个时候可以写 hook 来扩展，hook 有 header_hook 、request_guard 、response_guard ，后面两个 guard 可以来做内容检测
- 支持白名单控制用户管理，不开的时候所有 IP 均能访问，开了之后只有允许的 IP 才可访问 provider ，支持对模型粒度的用户控制
- 支持 Provider 设置多个 api key 的策略，可控制单独 key 的使用量、请求数等
3 月 31 日 回复了 rxc420902911 创建的主题 › ☕Vibe Coding🤖 › 2026 全球 AI 免费 IDE 额度攻略 |
收藏了， 新的 token ！
2 月 12 日 回复了 shenxiyang 创建的主题 › 分享发现 › DS 出新模型了，新 app 端有概率被灰度到 |
@Stoney 这个回答有问题吗？ 50m 走过去把钥匙给店员，让店员过来取。 开过去一般也都要排队还要自己停车，这看起来走过去也没毛病呀
2019 年 6 月 4 日 回复了 vonsdite 创建的主题 › 硬件 › 为什么 rtx2080 暗黑龙爵 DUKE 价格比魔龙 TRIO 还贵一点 |
@zhifeiji 京东。。。
2019 年 6 月 4 日 回复了 vonsdite 创建的主题 › 硬件 › 为什么 rtx2080 暗黑龙爵 DUKE 价格比魔龙 TRIO 还贵一点 |
@edsheeran 玄学可还行。
2019 年 2 月 16 日 回复了 uyhyygyug1234 创建的主题 › 程序员 › 画了一下某个社会工程学思路的图 |
emmmm， 实在忍不住吐槽，00 后可以骗到一个女生果聊。。 佩服佩服。。。
也感谢提供了这样的社会工程学思路， 有点 6 ！！
也感谢提供了这样的社会工程学思路， 有点 6 ！！
2019 年 1 月 29 日 回复了 DerekCoder 创建的主题 › 程序员 › Grape for GitHub - 致力于打造简洁且功能强大的 GitHub 客户端 |
来晚了。。 支持一下
2019 年 1 月 11 日 回复了 hzlzh 创建的主题 › 程序员 › [调研]除了免费私有库，各位中国开发者对 GitHub 还有什么期待？ |
让 github pages 支持百度收录？
Select Language