Skip to content

feat: vision_api.py 多模型fallback支持 #635

Description

@ZhulongNT

背景

当前 vision_api.py 的视觉API调用只支持单一模型,没有fallback机制。如果API调用失败,直接返回错误字符串,不会尝试其他模型。

现状问题

OPENAI_CONFIG_KEY = 'native_oai_config_mimo_v2_5'  # 硬编码单个配置
DEFAULT_BACKEND = 'openai'  # 写死后端
  • ❌ 无多模型切换:只有1个 OPENAI_CONFIG_KEY
  • ❌ 无失败重试:异常直接返回错误
  • ❌ 无后端自动选择

建议

支持类似 LLM Session 的mixin fallback机制,例如:

result = ask_vision(
    image, prompt,
    models=['mimo_flash', 'deepseek', 'qwen'],  # 按优先级尝试
    fallback=True
)

期望行为

  1. 多模型按优先级链式调用
  2. 第一个失败自动切换下一个
  3. 全部失败才返回错误
  4. 可选配置:超时、重试次数等

感谢!

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions