• IanShaw027's avatar
    feat(gateway): 实现负载感知的账号调度优化 · 592d2d09
    IanShaw027 authored
    - 新增调度配置:粘性会话排队、兜底排队、负载计算、槽位清理
    - 实现账号级等待队列和批量负载查询(Redis Lua 脚本)
    - 三层选择策略:粘性会话优先 → 负载感知选择 → 兜底排队
    - 后台定期清理过期槽位,防止资源泄漏
    - 集成到所有网关处理器(Claude/Gemini/OpenAI)
    592d2d09
gateway_handler.go 24.3 KB