Octopus is a Open Source Windows program in the Other category, developed by BESTRUI. The current version is 0.9.28; you can download it safely from its official source with the download button above.
一个简单、美观且优雅的个人大模型 API 聚合与负载均衡服务
✨ 特性
- 🔀 多渠道聚合 - 连接多个大模型服务商渠道，统一管理
- 🔑 多密钥支持 - 单个渠道支持多个 API 密钥
- ⚡ 智能选择 - 每个渠道多个端点，智能选择延迟最短的端点
- ⚖️ 负载均衡 - 自动分配请求，确保服务稳定高效
- 🔄 协议转换 - 无缝转换 OpenAI Chat / OpenAI Responses / Anthropic API 格式
- 💰 价格同步 - 自动更新模型定价
- 🔃 模型同步 - 自动同步各渠道可用模型列表
- 📊 数据分析 - 全面的请求统计、令牌消耗和成本追踪
- 🎨 优雅的界面 - 简洁美观的网页管理面板
- 🗄️ 多数据库支持 - 支持 SQLite、MySQL、PostgreSQL
✨ Features
人工智能代理大语言模型聊天机器人
📝 Release notes (0.9.28)
🚀 Features
- transformer: Add support for DeepSeek thinking mode and Nvidia chat template kwargs - by @JohnnyZ93 in https://github.com/bestruirui/octopus/issues/269 (4c4c7)
🐞 Bug Fixes
- 🐛 修复 ParamOverride 功能并简化代码 - by @sweetpotatoman in https://github.com/bestruirui/octopus/issues/273 (c21e1)
- SaveLog early return prevents relay logs from being persisted (#273 regression) - by @Introl-ljl and Introl in https://github.com/bestruirui/octopus/issues/276 and https://github.com/bestruirui/octopus/issues/273 (d8a23)
- 🐛 添加 pnpm 工作区配置以支持构建依赖项 - by bestrui (b7b05)
View changes on GitHub
SHA-256: 17B071B66218F15B574EFE08C73B4EC56D6ADFD9C08AAB3B216728B29AC0F92F
