面向 LLM，统一代理各主流大模型和自建大模型服务，提供 OpenAI 兼容的访问方式，并提供二次 API KEY 签发、限流、安全防护、观测等治理能力。

• 高可用

  多模型灰度、多模型间 Failover、Token 额度管理和流控。

  
  

• 高安全

  提供大模型内容安全检测，并支持路由配置认证和消费者鉴权，实现对 API 访问的控制、安全性和策略管理。

  
  

• 降低模型幻觉

  提供联网搜索、搜索结果自动融合、问题意图识别。

  
  

• 可观测

  在应用、网关、后端 LLM 服务上开启 OT 服务来进行全链路的跟踪，通过 TraceId 串联各个地方的日志、请求参数等信息。