【💰】[开源分享] Octopus 为个人打造的美观优雅的 LLM API 聚合服务

为什么已经有 newapi,sub2api,cc switch,cpa 等等软件后我还是做了 ocopus?

newapi 和 sub2api 对于个人来说并不轻量,个人使用大部分情况就仅需要渠道聚合统一管理而已
cc switch 虽然也有网关功能,但不能部署到 VPS 或者 NAS 上,我需要在每个电脑上都下载一个

以下是 octopus 的特点,本来想放几张预览图,发现不能直接粘贴图片,麻烦大家去 Github 看吧

• 单文件即可启动无外部依赖
• 无需重启客户端即可热切换渠道和模型
• 拦截所有上游错误,不会打断 Agent 任务,再也不用 重启->切换渠道->发送继续 了
• 日志页请求全链路可视化便于排查问题
• 多个 LLM 供应商渠道,统一管理,故障转移
• 支持透传功能,请求协议和渠道相同时 octopus 仅作统计,不会出现各种不兼容和丢缓存
• 支持 OpenAI Chat / OpenAI Responses / Anthropic 三种 API 格式互相转换
• 自动更新模型价格
• 自动与渠道同步可用模型列表
• 全面的请求统计、Token 消耗、费用追踪
• 简洁美观的 Web 管理面板
• 支持 SQLite、MySQL、PostgreSQL

https://github.com/bestruirui/octopus