跳至主要内容

文档索引

在以下位置获取完整的文档索引: https://docs.portkey.ai/docs/llms.txt

使用此文件可在进一步浏览前发现所有可用页面。

只需 2 分钟即可完成集成,随后系统会开始监控所有 LLM 请求,使您的应用在弹性、安全、性能和准确度上同步提升。 以下是产品演示(3 分钟):

仅需 3 行代码即可集成

from portkey_ai import Portkey

portkey = Portkey(
    api_key="YOUR_PORTKEY_API_KEY",
    provider="@YOUR_PROVIDER"
)

chat_complete = portkey.chat.completions.create(
    model="gpt-3.5-turbo",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Hello!"}
    ]
)
print(chat_complete.choices[0].message.content)
既然您已经在这里,何不 给我们点星标吧?这对我们帮助很大!

常见问题

Portkey 部署在全球边缘节点上,确保最小的延迟。我们的基准测试显示,与直接调用 API 相比,总延迟增加约 20‑40 毫秒。通过缓存和路由优化带来的收益往往可以抵消这一轻微的提升。我们的边缘节点分布:
Portkey AI 已通过 ISO:27001 与 SOC 2 认证,且符合 GDPR 与 HIPAA 标准。我们遵循服务安全、数据存储与检索的最佳实践。所有数据在传输和静止时均使用业界标准的 AES‑256 加密。为提升安全性,我们还提供
  1. 根据需求,我们可以启用一项功能,使 Portkey 的数据存储或日志中不保存任何请求和响应体对象。
  2. 针对企业用户,我们提供托管式部署,可将 Portkey 部署在私有云环境中。
如需了解更多选项,请通过以下方式联系我们:[email protected]
Portkey 基于可扩展的基础设施构建,能够以极高的并发处理每分钟数百万请求。当前我们每日处理超过 2500 万请求,达到 99.99% 的可用率。边缘架构和弹性扩容能力确保在流量突增时仍能保持性能不受影响。查看我们的状态页面
我们对免费或付费计划中的请求设置任何显式超时。虽然我们这边不会主动超时,但我们仍建议根据业务场景在客户端实现合适的超时机制,以应对潜在的网络问题或上游 API 延迟。
是的!我们支持使用任意自定义 OIDC 提供商的单点登录。
Portkey 的网关是开源且免费使用的。托管版提供每月 10k 请求的免费套餐,同时我们还有更多请求额度和附加功能的付费套餐可供选择。
我们随时在 Discord 上提供支持,或通过我们的支持邮件 - [email protected]
最后修改于January 28, 2026