The open-source API Gateway & AI Gateway
High-performance traffic management for APIs, microservices, and LLM workloads — dynamic routing, load balancing, authentication, observability, and 100+ plugins.
- 100+plugins
- ~18kQPS / core
- 0.2 msadded latency
- Apache 2.0licensed
Get started
Install APISIX and configure your first route in minutes.
Read the docs →Learn the concepts
API gateway, AI gateway, rate limiting, mTLS, Kubernetes and more.
Explore the learning center →Case studies
See how teams run Apache APISIX in production at scale.
Read case studies →The same gateway, now for your LLM traffic
Proxy, secure, and govern traffic to 20+ LLM providers — with the performance, plugins, and observability you already run for your APIs.
Multi-LLM proxy
Route to OpenAI, Anthropic, AWS Bedrock, DeepSeek, Ollama and 20+ providers through one endpoint.
LLM load balancing
Distribute traffic across providers and models for throughput and resilience.
Retry & fallback
Fail over to a backup model or provider automatically when one is unavailable.
Token rate limiting
Cap usage and cost with token-based rate limits per consumer.
Prompt security
Guardrails, content moderation, and prompt decoration before requests reach the model.
MCP support
Expose and govern Model Context Protocol tools through the gateway.
适用于超大规模、复杂的业务系统
Apache APISIX 作为云原生架构的开源 API 网关,可以为海量 API 和微服务提供安全可靠的动态、高性能、可扩展的管理平台。
Apache APISIX 基于 NGINX 与 etcd,相较于传统的 API 网关,它提供了动态路由、插件热加载等诸多能力。
为什么选择 APISIX API 网关?
Apache APISIX 值得信赖,你只需专注在具体业务中,而无需考虑 API 处理基础组件。
APISIX API 网关提供近百个开源插件、全面的 API 管理能力和先进的技术优势。
Integrates with your stack
Connect APISIX to your observability, security, service discovery, and AI tools through 100+ plugins.
性能
极致的性能体验
Apache APISIX 基于 Radixtree Route 和 etcd 提供路由极速匹配与配置快速同步的能力。从路由到插件,所有的设计和实现都是为了极速性能和超低延迟。
高可用与可扩展性
与用户一起扩容
Apache APISIX 提供了自定义插件的能力,你可以在 Balancer 阶段使用自定义负载均衡算法,并使用自定义路由算法对路由进行精细化控制。
全动态
节省选型、开发时间,只做最重要的业务设计
Apache APISIX 提供了配置热更新、插件热加载能力,在不重新启动实例的情况下可快速更新配置,这能够节省开发时间并降低服务压力。同时,健康检查、服务熔断以及其它功能可以让系统始终保持稳定、可靠。
多平台、多协议
一次创建,随处运行
Apache APISIX 提供了多平台解决方案,它不但支持在裸机运行,也支持在 Kubernetes 中使用。它支持 HTTP 到 gRPC 的转换、WebSockets、gRPC、Dubbo、MQTT 代理和包括 ARM64 在内的多个平台,无需担心供应商对基础设施技术的锁定。
Apache APISIX 是 API 流量处理的最佳选择
Apache APISIX 是 Apache 软件基金会下的开源项目,并且在不断蓬勃发展。下方是 Apache APISIX 与其它 API 网关对比:
| Feature | Apache APISIX | Other gateways |
|---|---|---|
| Single-core throughput | 18,000 QPS | ~1,700 QPS |
| Added latency | 0.2 ms | ~2 ms |
| AI gateway / LLM proxy | ||
| Fully open-source, no paywalled features | ||
| Dynamic, real-time configuration | ||
| Hot plugin reload, no restart |