What's Changed
Release note (#800)
- feat: 限流器 3.0 版本升级，支持分布式限流 (#763) @Dobiichi-Origami
- 压测新增对话log (#783) @Alex-TG001
- feat: 离线批量推理请求新增来源标识 header (#794) @Dobiichi-Origami
- feat: 增加
adapt_openai_message_format用于适配openai格式的messages & fix stress test获取content (#795) @danielhjz - fix: 修复只从实参传入鉴权信息然后初始化请求对象时失败的 Bug (#797) @Dobiichi-Origami
Full Changelog: py/v0.4.7...py/v0.4.8
Contributors
danielhjz, Dobiichi-Origami, and Alex-TG001