sxueck 最近的时间轴更新 sxueck 最近的时间轴更新 |
sxueckV2EX 第 438832 号会员，加入于 2019-08-30 17:18:39 +08:00今日活跃度排名 29215 |
| 自有算力平台-CodePlan ai 编程套餐 推广 • sxueck • 4 天前 • 最后回复来自 sxueck | 2 |
| 利用"专家模型"实现低成本类 AugmentCode 效果的设想
1 奇思妙想 • sxueck • 60 天前 • 最后回复来自 sxueck
|
3 |
| 极简分布式开源 AI 网关 - LLM Gateway 测试版 分享创造 • sxueck • 62 天前 • 最后回复来自 sxueck | 15 |
| 实验性 Chrome 翻译插件 - Open-Translate 分享创造 • sxueck • 133 天前 |
| 自荐跨平台 Singbox GUI 客户端 分享创造 • sxueck • 161 天前 • 最后回复来自 Richared | 21 |
sxueck 最近回复了
4 天前 回复了 sxueck 创建的主题 › 推广 › 自有算力平台-CodePlan ai 编程套餐 |
@lerefe 开源自己的卡部署，gemini 走采购，包含进订阅套餐内，4 小时滑动窗口非固定周期
60 天前 回复了 sxueck 创建的主题 › 奇思妙想 › 利用"专家模型"实现低成本类 AugmentCode 效果的设想 |
@blushyes 我试一下，感谢
60 天前 回复了 sxueck 创建的主题 › 奇思妙想 › 利用"专家模型"实现低成本类 AugmentCode 效果的设想 |
62 天前 回复了 sxueck 创建的主题 › 分享创造 › 极简分布式开源 AI 网关 - LLM Gateway 测试版 |
@daimaosix 目前还是 mvp 版本呢，在迭代功能稳定性，ui 细节很多时候将就了
64 天前 回复了 sxueck 创建的主题 › 分享创造 › 极简分布式开源 AI 网关 - LLM Gateway 测试版 |
这个其实更像 higress 或者 kong 这种传统 ai 网关的轻量版本，而不想 oneapi 这种类似“建站 Saas”的产品，例如添加了 prompt 优化、上下文压缩、专家路由等功能都是 higress 插件延伸过来的概念
64 天前 回复了 sxueck 创建的主题 › 分享创造 › 极简分布式开源 AI 网关 - LLM Gateway 测试版 |
@NUT 你指的是哪个 api 呢，是可以动态创建虚拟密钥、用户这种代理层的配置 api 么，还是指的是 openai 的 api 调用，这个可能暂时不会添加，因为本身就是基于 portkey 的封装 webui ，再提供一层 api 有点套娃的味道
68 天前 回复了 sxueck 创建的主题 › 分享创造 › 极简分布式开源 AI 网关 - LLM Gateway 测试版 |
@kknd22 http 的问题校验已修复，更新到了 main ，其他方面暂时先保证稳定性，比如当前日志翻页还有点问题，我之前也是深度网关类型的用户，包括 saas 和 unmanaged 都用过半年以上，目前该项目还是以核心 llm 聚合分发为主
68 天前 回复了 sxueck 创建的主题 › 分享创造 › 极简分布式开源 AI 网关 - LLM Gateway 测试版 |
@kknd22 日志截断 content 后存入数据库，ttl 默认 7 天，日志记录过程异步且非原子操作，不做 100%可靠性
70 天前 回复了 sxueck 创建的主题 › 分享创造 › 极简分布式开源 AI 网关 - LLM Gateway 测试版 |
@xxlsize 侧重分布式，例如你可以指定 claude 走美国节点，指定 deepseek 走国内
174 天前 回复了 sxueck 创建的主题 › 分享创造 › 自荐跨平台 Singbox GUI 客户端 |
@slowmist singbox 可以 dns 分流，最初衷还是给我公司写的内网域名和外网做不同的 dns
Select Language