TypeSafe: Jev 1.14 是 Jev 的最新版本,这是 TypeSafe 的结构化决策模型,也是其首款“系统一”(System One)模型。“系统一”模型为软件提供快速、结构化的决策,返回类型化的答案而非自由文本。它适用于应用程序内的路由、分类及其他决策点,在这些场景中,快速、可预测的答案比生成的长篇文案更为重要。
在 TypeSafe 文档中了解更多信息:https://docs.typesafe.ai/models
我们使用必要 Cookie 来保障开桥正常运行。经你同意,可选 Cookie 将帮我们记住你的偏好,并了解你如何使用我们的服务。你可以接受或拒绝可选 Cookie,也可以随时管理你的选择。详情请参阅我们的 隐私政策。
TypeSafe: Jev 1.14 是 Jev 的最新版本,这是 TypeSafe 的结构化决策模型,也是其首款“系统一”(System One)模型。“系统一”模型为软件提供快速、结构化的决策,返回类型化的答案而非自由文本。它适用于应用程序内的路由、分类及其他决策点,在这些场景中,快速、可预测的答案比生成的长篇文案更为重要。
在 TypeSafe 文档中了解更多信息:https://docs.typesafe.ai/models
在多个供应商之间路由请求。复制供应商标识以设置偏好供应商。
AI Gateway 直连请求及各供应商的成功率。

AI Gateway 实时流量的 P50 吞吐量,单位为每秒 token 数(TPS)。
AI Gateway 实时流量的 P50 首 token 延迟(TTFT),单位为毫秒。
该模型随时间变化的 token 用量和请求流量。

按实际处理请求的供应商拆分 token 用量。区块越大,表示该供应商处理的模型流量越多。
Public apps that send the most traffic to this model. Good signal for what real production workloads look like — and a hint at which use cases this model is best suited for. View All
更多模型来自 TypeSafe