Apache 软件基金会顶级项目
开源 API 网关与 AI 网关
面向 API、微服务与 LLM 工作负载的高性能流量管理——动态路由、负载均衡、身份认证与可观测性。
- 100+插件
- ~18k单核 QPS
- 0.2 ms额外延迟
- Apache 2.0开源协议
快速开始
AI Gateway
同一个网关,现在服务你的 LLM 流量
代理、保护并治理发往 20+ LLM 提供商的流量——复用你已经在 API 上运行的性能、插件与可观测能力。
AI 应用与智能体→ Apache APISIX→ OpenAIAnthropicAWS BedrockDeepSeekOllama+ more
Multi-LLM proxy
Route to OpenAI, Anthropic, AWS Bedrock, DeepSeek, Ollama and 20+ providers through one endpoint.
LLM load balancing
Distribute traffic across providers and models for throughput and resilience.
Retry & fallback
Fail over to a backup model or provider automatically when one is unavailable.
Token rate limiting
Cap usage and cost with token-based rate limits per consumer.
Prompt security
Guardrails, content moderation, and prompt decoration before requests reach the model.
MCP support
Expose and govern Model Context Protocol tools through the gateway.
架构
为动态而生,基于 NGINX 与 etcd
请求流经可热加载的插件流水线;etcd 将配置实时分发到整个集群,无需重启。
适用于超大规模、复杂的业务系统
Apache APISIX 作为云原生架构的开源 API 网关,可以为海量 API 和微服务提供安全可靠的动态、高性能、可扩展的管理平台。
为什么选择 APISIX API 网关?
Apache APISIX 值得信赖,你只需专注在具体业务中,而无需考虑 API 处理基础组件。
APISIX API 网关提供 100+ 开源插件、全面的 API 管理能力和先进的技术优势。
与你的技术栈无缝集成
通过 100+ 插件,将 APISIX 接入你的可观测、安全、服务发现与 AI 工具。
性能
极致的性能体验
Apache APISIX 基于 Radixtree Route 和 etcd 提供路由极速匹配与配置快速同步的能力。从路由到插件,所有的设计和实现都是为了极速性能和超低延迟。
安全
阻拦恶意程序
Apache APISIX 提供了多款身份认证与接口验证的插件,我们将稳定、安全放在首位。如需了解更多信息请查看安全类插件。
高可用与可扩展性
与用户一起扩容
Apache APISIX 提供了自定义插件的能力,你可以在 Balancer 阶段使用自定义负载均衡算法,并使用自定义路由算法对路由进行精细化控制。
完全动态
热更新,节省开发时间
Apache APISIX 提供热更新、插件热加载能力,在不重新启动实例的情况下可快速更新配置,这能够节省开发时间并降低服务压力。同时,健康检查、服务熔断以及其它功能可以让系统始终保持稳定、可靠。
多平台、多协议
一次创建,随处运行
Apache APISIX 提供了多平台解决方案,它不但支持在裸机运行,也支持在 Kubernetes 中使用。它支持 HTTP 到 gRPC 的转换、WebSockets、gRPC、Dubbo、MQTT 代理和包括 ARM64 在内的多个平台,无需担心供应商对基础设施技术的锁定。