跳到主要内容
solidway

切换语言

中文English

主题

SolidwayLLM 网关

可观测性

用量与故障

每个请求产生一条用量记录。记录可在控制台查询,保留策略由你配置。

记录字段

请求
按路由、API Key、provider、模型、归属人
Token
输入、输出、命中缓存、推理
延迟
平均、p95、首字节时间
错误
按失败分类与上游状态码
换号
按路由与按尝试
健康度
按凭据,实时状态

统计面板(示例)

最近 24 小时
请求数
1,284,930

+4.1%

错误率
0.31%

-0.12%

p99 延迟
1.42s

+0.04s

Token
48.2M

+6.3%

延迟分布

p50p95p99
目标流量占比错误率状态
openai / gpt-6-sol52%0.18%服务中
anthropic / claude-sonnet-5-531%0.24%服务中
bedrock / claude-opus-5-514%1.10%降级
azure / gpt-6-astra3%—已暂停

示例数据,用于展示布局

先有故障记录,再有告警

Provider 故障落成 incident(原因、持续时长、尝试次数),告警钩子由同一批记录驱动。

导出方式

结构化日志与 Webhook。OpenTelemetry/OTLP 与 Prometheus 导出尚未实现。

  • 凭据失效

    401 会把凭据退役,直到管理员人工恢复;故障记录在此之前保持未解决。

  • 限流或配额

    凭据在配置的窗口内冷却,到期后自动回到选号。

  • 恢复通知

    探测成功后凭据回到轮转,可选地发送恢复通知。

  • 投递

    Webhook 投递带重试,并按 Provider 设置最小间隔,单个账号抖动不会刷屏。

下一步

与我们聊聊你的架构

告诉我们你当前的流量形态。我们会一起看转发路径应该放在哪里、失败策略如何设定,以及网关在你的环境中如何部署。

本页不展示价格,每个部署单独评估。

  • 梳理你现有的 provider 与密钥结构
  • 针对你的错误分类设计失败策略
  • 匹配你网络环境的部署形态