01
模型自由组合
一次接入,拓展模型边界。聚合所选渠道的模型并集。对话、编程、图像理解,按任务选择合适的模型。
把前沿模型接入同一个 API。自由组合渠道,灵活切换模型,让每个请求都多一条可用的路。
from openai import OpenAI
import os
client = OpenAI(
api_key=os.environ["KEDA_API_KEY"],
base_url="https://keda8.ai/v1",
)
response = client.chat.completions.create(
model="YOUR_CONFIGURED_MODEL_ID",
messages=[{
"role": "user",
"content": "Make something great."
}],
)
print(response.choices[0].message.content)将 model 替换为密钥可用的完整模型 ID。
从一个模型,到多个渠道。把复杂的连接留给 API,把精力留给你的产品。
聚合所选渠道的模型并集。对话、编程、图像理解,按任务选择合适的模型。
为应用选择渠道与优先顺序。先匹配模型和能力,再决定请求的去向。
首选渠道不可用时尝试其他渠道,再按设定顺序回退到备用模型。
展示页与控制台共用实时渠道和配置,登录后确认并创建。
给应用命名,选择可用渠道,设置额度与模型权限。
设置 Base URL 和 API Key,在请求中填写完整模型 ID。
发送第一次请求,在控制台查看真实用量与调用日志。
可以。为密钥选择多个可用渠道后,它可访问这些渠道所支持模型的并集。每次请求通过 model 指定模型,模型权限和余额仍由服务端校验。
同模型重试保留模型 ID,在其他渠道继续请求;智能路由按你设定的顺序回退到其他模型。跨模型回退支持 Chat Completions,开始输出后不再切换。
不会。这里的设计是为每次请求选择一条可用路径。同一个 API 可以在不同请求中调用不同模型;并行调用多个模型属于另外的编排能力。
各模型的端点、工具、图像和上下文能力可能不同。路由应先检查请求所需能力,再选择候选模型。配置中的能力选项由你确认,具体支持情况请查看模型页面。