https://www.apiseven.com/_next/static/chunks/pages/open-source-ai-gateway-592f26d10a172f45.js

1(self.webpackChunk_N_E=self.webpackChunk_N_E||[]).push([[7384],{30435:function(e,n,t){(window.__NEXT_P=window.__NEXT_P||[]).push(["/open-source-ai-gateway",function(){return t(69802)}])},37354:function(e,n,t){"use strict";var i=t(82729),s=t(85893);t(67294);var a=t(70917),r=t(97375),o=t(68527),c=t(26723),x=t(34651),l=t(52966);function p(){let e=(0,i._)(["\n  0% {\n    transform: translateX(0);\n  },\n  50% {\n    transform: translate(20px);\n  },\n  100% {\n    transform: translateX(0);\n  }\n"]);return p=function(){return e},e}let d=(0,a.F4)(p());n.Z=()=>{let{isOpen:e,onOpen:n,onClose:t}=(0,r.qY)(),i="".concat(d," 4s linear infinite");return(0,s.jsx)(s.Fragment,{children:(0,s.jsxs)(o.xu,{pt:{base:"45px",lg:"72px"},pb:{base:"28px",lg:"10px"},px:"20px",borderBottom:"1px solid var(--chakra-colors-blackAlpha-100)",bg:"#fff",children:[(0,s.jsxs)(o.W2,{maxW:"7xl",px:{base:"6",md:"8"},py:{base:"48px",lg:"80px"},mb:{base:"40px",lg:"60px"},borderRadius:"24px",position:"relative",zIndex:1,_before:{top:0,left:0,right:0,bottom:0,zIndex:-1,content:'""',padding:"20px",opacity:.8,position:"absolute",background:"linear-gradient(91.29deg,#3177eb 1.1%,#447be2 110.64%)",borderRadius:"24px"},children:[(0,s.jsx)(o.Kq,{textAlign:"center",justifyContent:"center",alignItems:"center",spacing:"4",children:(0,s.jsx)(o.X6,{as:"h2",variant:"h2",textAlign:"center",color:"#fff",children:(0,s.jsx)(o.xv,{children:"开启您的 API 探索之旅"})})}),(0,s.jsxs)(o.M5,{mt:{base:"36px",lg:"40px"},gap:"4",children:[(0,s.jsx)(c.zx,{transition:"all 0.2s ease-in-out",border:"none",minW:"158px",role:"group",onClick:n,children:"联系我们"}),(0,s.jsx)(c.zx,{as:"a",target:"_blank",href:"https://apiseven.feishu.cn/share/base/form/shrcnP2ryU7GwkaOIavHTggzBef",minW:"158px",variant:"solid",bg:"#0029e6",color:"#fff",_focus:{color:"#fff",background:"#0029e6",textDecoration:"none",border:"none"},_hover:{color:"#fff",background:"#0020b4",textDecoration:"none",border:"none"},_active:{color:"#fff",background:"#0029e6",textDecoration:"none",border:"none"},role:"group",children:"免费试用"})]}),(0,s.jsx)(o.xu,{position:"absolute",zIndex:-1,top:0,left:"3%",animation:i,display:{base:"none",lg:"block"},children:(0,s.jsx)(x.Ee,{loading:"lazy",decoding:"async",src:"https://static.apiseven.com/uploads/2023/06/09/k5xF4uzH_shape1.png",filter:"grayscale(0.8)",alt:""})}),(0,s.jsx)(o.xu,{position:"absolute",zIndex:-1,bottom:0,animation:i,right:"3%",children:(0,s.jsx)(x.Ee,{loading:"lazy",decoding:"async",src:"https://static.apiseven.com/uploads/2023/06/09/5PKky2e7_shape2.png",filter:"grayscale(0.8)",alt:""})})]}),(0,s.jsx)(l.Z,{isOpen:e,onClose:t})]})})}},69802:function(e,n,t){"use strict";t.r(n),t.d(n,{default:function(){return k}});var i=t(85893),s=t(9008),a=t.n(s),r=t(2962),o=t(68527),c=t(37354);t(67294);var x=t(94090);let l="https://www.apiseven.com".concat("/open-source-ai-gateway"),p="开源 AI 网关可自托管，并可结合私有模型与护栏端点满足数据驻留要求。本文盘点 2026 常见的开源 AI 网关：AISIX、LiteLLM、Portkey、Envoy AI Gateway，逐个说明协议、语言与特点，并给出自托管与治理需求的选型建议。",d="https://static.apiseven.com/2022/10/16/634bd3b9543c3.png?imageMogr2/format/webp",h="开源 AI 网关是一类源码开放、可自托管的 AI 网关,让你把多家大模型(LLM)与 AI Agent 流量收敛到一个可自主掌控的统一入口来路由、治理与观测。",m="#e8330a",A=[{title:"可自托管",desc:"把网关部署在自有服务器或 VPC 内,自主掌控版本、配置与升级节奏,不依赖某个托管服务的可用性与地域。"},{title:"数据驻留",desc:"自托管网关可避免实时推理经托管网关中转；内容是否离开 VPC 仍取决于模型与护栏上游，只有使用私有或自托管端点时才能完整留在自有网络。"},{title:"无供应商锁定",desc:"源码开放、协议明确,可自由二次开发与迁移,不被单一厂商的定价、路线或接口变更绑定。"}],I=[{name:"AISIX",meta:"Rust \xb7 数据面 Apache-2.0",href:"https://www.apiseven.com/ai-gateway",featured:!0,desc:"Rust 编写、数据面 Apache-2.0 的开源 AI 网关，由 Apache APISIX 原班团队打造。在同一网关上提供语义路由、模型合议（ensemble）、提示词 / 响应护栏与 MCP 网关；可部署在自有 VPC 内，实时推理流量由数据面直连所配置的上游，不经过 API7 控制面。内容æ

1˜¯å¦ç¦»å¼€ VPC 取决于模型与护栏上游。"},{name:"LiteLLM",meta:"Python \xb7 MIT",desc:"Python 编写、MIT 协议,既是 SDK 也是代理,把 100+ 家供应商统一为 OpenAI 兼容接口。开源版即含语义缓存、虚拟密钥与预算、MCP 网关,以覆盖广度和轻量易接入见长,常用于快速统一多家模型的接入层。"},{name:"Portkey",meta:"TypeScript \xb7 网关 MIT(治理平台商业版)",desc:"TypeScript 编写的开源网关(MIT),搭配托管治理平台(商业版),覆盖 1,600+ 模型、20+ 原生护栏(另有合作方集成)与 MCP 网关。开源网关本身可自托管;语义缓存、SSO 等偏企业级的能力主要在其企业 / 托管版本中提供。"},{name:"Envoy AI Gateway",meta:"Go \xb7 Apache-2.0",desc:"基于 Envoy 的开源 AI 网关,Apache-2.0、Go 编写,面向 Kubernetes 原生场景,提供多模型路由与故障转移、token 限流,并在 v1.0 GA 中支持 MCP。定位偏云原生流量层,不内置原生护栏与语义缓存,护栏等能力通常需外部组件配合。"}],u=[{q:"开源 AI 网关有哪些?",a:"2026 年常见的开源 AI 网关包括:AISIX(Rust,数据面 Apache-2.0,由 Apache APISIX 原班团队打造,提供语义路由、模型合议(ensemble)、提示词 / 响应护栏与 MCP 网关,可在自有 VPC 自托管)、LiteLLM(Python,MIT,统一 100+ 供应商为 OpenAI 兼容接口,含语义缓存与预算)、Portkey(TypeScript 开源网关 MIT,搭配托管治理平台商业版,覆盖 1,600+ 模型)、Envoy AI Gateway(Go,Apache-2.0,基于 Envoy、Kubernetes 原生)。它们均可自托管,能力覆盖与协议约束各有侧重。"},{q:"哪个开源 AI 网关最适合自托管与数据驻留？",a:"若首要诉求是自托管与数据驻留，应分别核对网关部署位置以及模型、护栏上游是否为私有端点。以 AISIX 为例，其数据面为 Apache-2.0，可部署在自有网络内；实时推理流量直连所配置的上游，不经过 API7 控制面，但只有使用私有或自托管的模型与护栏端点时，推理内容才能完整留在自有网络。Envoy AI Gateway（Apache-2.0）适合已有 Kubernetes 且希望复用 Envoy 数据面的团队；LiteLLM、Portkey 的网关同样支持自托管，可按治理能力与协议要求进一步取舍。"},{q:"One API、New API 算 AI 网关吗?",a:"One API(Go / MIT)与 New API(Go / AGPL-3.0,在 One API 基础上二次开发)通常被归为「Token 中转站」,以中转与计费为核心:把多家模型统一到 OpenAI 兼容接口,提供令牌额度、渠道负载均衡与失败重试,自带控制台。它们轻量实用,但一般不提供语义路由、模型合议(ensemble)、提示词 / 响应护栏、MCP 网关等 AI 原生治理,因此不算完整意义上的 AI 网关。若只需中转 + 计费,中转站够用;若要 AI 原生治理,则需要更完整的 AI 网关。"},{q:"开源 AI 网关和商业方案有什么区别？",a:"开源 AI 网关的优势在于可自托管、无供应商锁定，且可自由二次开发；如需数据驻留，还要为模型与护栏选择私有或自托管端点。成本上以自运维为主。商业 / 托管方案通常开箱即用、内置更完整的可观测与企业治理（如 SSO / SCIM、审计、SLA 支持），但需要把流量或管控面托管给厂商，并按用量或席位计费。不少产品采用「开源网关 + 商业治理平台」的组合，可先用开源网关自托管，再按治理需求评估是否引入其企业版。"}],j=e=>{let{children:n}=e;return(0,i.jsx)(o.X6,{as:"h2",fontSize:"30px",mb:"18px",color:"#141414",sx:{"@media (max-width: 48em)":{fontSize:"24px"}},children:n})},g=e=>{let{children:n}=e;return(0,i.jsx)(o.X6,{as:"h3",fontSize:"20px",color:"#141414",mb:"8px",mt:"20px",children:n})},f=e=>{let{children:n}=e;return(0,i.jsx)(o.xv,{color:"#333",lineHeight:"1.9",mb:"12px",children:n})},b=()=>(0,i.jsx)(o.xu,{w:"full",bg:"#FFF",py:"64px",sx:{"@media (max-width: 48em)":{paddingTop:"40px",paddingBottom:"40px"}},children:(0,i.jsxs)(o.W2,{maxW:"80rem",children:[(0,i.jsx)(o.X6,{as:"h1",fontSize:"46px",color:"#141414",lineHeight:"1.3",sx:{"@media (max-width: 48em)":{fontSize:"30px"}},children:"开源 AI 网关有哪些?2026 选型清单"}),(0,i.jsxs)(o.xv,{mt:"20px",fontSize:"18px",color:"#333",maxW:"62rem",lineHeight:"1.9",children:[h,"相比托管服务，开源方案可自托管；结合私有模型与护栏端点时，推理内容可留在

1自有网络，同时不被单一厂商锁定。本文盘点 2026 年常见的开源 AI 网关,逐个说明协议、语言与特点,并给出选型建议。"]}),(0,i.jsxs)(o.xv,{mt:"12px",fontSize:"14px",color:"#9AA0A6",children:["最后更新:","2026 年 7 月"]})]})}),y=()=>(0,i.jsxs)(o.xu,{as:"section",pb:"40px",children:[(0,i.jsx)(j,{children:"什么是开源 AI 网关,为什么选开源"}),(0,i.jsxs)(f,{children:[h,"当团队从调用单一模型,发展到同时接入多家大模型、给多个应用与 AI Agent 供能时,分散的密钥、各异的接口、失控的 token 成本与缺失的审计都会成为难题;AI 网关把这些统一收敛到一个入口来解决。选择开源实现,则在此之上多了三点关键收益。"]}),A.map(e=>(0,i.jsxs)(o.xu,{mb:"16px",children:[(0,i.jsx)(o.X6,{as:"h3",fontSize:"18px",color:"#141414",mb:"4px",children:e.title}),(0,i.jsx)(o.xv,{color:"#333",lineHeight:"1.8",children:e.desc})]},e.title))]}),w=e=>{let{gw:n}=e;return(0,i.jsxs)(o.xu,{mb:"16px",p:"24px",borderRadius:"10px",border:"1px solid",borderColor:n.featured?m:"#ECECEC",bg:n.featured?"#FFF7F5":"#FFF",sx:{"@media (max-width: 48em)":{padding:"18px"}},children:[(0,i.jsx)(o.X6,{as:"h3",fontSize:"22px",color:"#141414",mb:"2px",children:n.href?(0,i.jsx)(o.rU,{href:n.href,color:m,children:n.name}):n.name}),(0,i.jsx)(o.xv,{fontSize:"13px",color:"#8A8F98",mb:"10px",fontWeight:"600",children:n.meta}),(0,i.jsx)(o.xv,{color:"#333",lineHeight:"1.9",children:n.desc})]})},P=()=>(0,i.jsxs)(o.xu,{as:"section",pb:"40px",children:[(0,i.jsx)(j,{children:"开源 AI 网关清单"}),(0,i.jsx)(f,{children:"以下是 2026 年较为常见、可自托管的开源 AI 网关,按协议、语言与能力侧重逐个说明。"}),I.map(e=>(0,i.jsx)(w,{gw:e},e.name)),(0,i.jsx)(o.xu,{bg:"#F7F8FA",borderRadius:"10px",p:"24px",mt:"8px",sx:{"@media (max-width: 48em)":{padding:"18px"}},children:(0,i.jsxs)(o.xv,{color:"#333",lineHeight:"1.9",children:["需要说明的是,",(0,i.jsx)(o.xv,{as:"span",fontWeight:"600",children:"One API"}),"(Go / MIT)与"," ",(0,i.jsx)(o.xv,{as:"span",fontWeight:"600",children:"New API"}),"(Go / AGPL-3.0,在 One API 基础上二次开发)常被一并提及,但它们属于「Token 中转站」,以中转与计费为核心,把多家模型统一到 OpenAI 兼容接口并做令牌额度与渠道负载均衡,通常不提供语义路由、模型合议、护栏、MCP 网关等 AI 原生治理,因此不算完整意义上的 AI 网关。两者的差异可参阅"," ",(0,i.jsx)(o.rU,{href:"/one-api-vs-new-api",color:m,children:"One API 与 New API 对比"}),"。"]})})]}),v=()=>(0,i.jsxs)(o.xu,{as:"section",pb:"40px",children:[(0,i.jsx)(j,{children:"如何选型"}),(0,i.jsx)(f,{children:"在开源 AI 网关之间做选择,可以从三个角度出发。"}),(0,i.jsx)(g,{children:"自托管与数据驻留"}),(0,i.jsxs)(f,{children:["若对数据驻留与合规有要求，应分别核对网关能否在自有 VPC 内自托管，以及模型与护栏上游是否为私有端点。例如"," ",(0,i.jsx)(o.rU,{href:"https://www.apiseven.com/ai-gateway",color:m,children:"AISIX"})," ","的数据面为 Apache-2.0，可部署在自有网络内；实时推理流量直连所配置的上游，不经过 API7 控制面。只有使用私有或自托管的模型与护栏端点时，推理内容才能完整留在自有网络。Envoy AI Gateway 则适合已在 Kubernetes 上、希望复用 Envoy 数据面的团队。"]}),(0,i.jsx)(g,{children:"治理需求"}),(0,i.jsx)(f,{children:"若只需中转 + 计费,轻量的 Token 中转站即可;若需要语义路由、模型合议(ensemble)、提示词 / 响应护栏、成本预算乃至 MCP 网关等治理能力,则应选择在开源版即覆盖这些能力的 AI 网关,并留意哪些能力被放在了商业 / 企业版。"}),(0,i.jsx)(g,{children:"协议宽松度"}),(0,i.jsx)(f,{children:"关注开源协议约束:Apache-2.0、MIT 相对宽松,便于自托管与二次开发;AGPL-3.0 则要求「对外提供修改版时需开源」,对以 SaaS 形式对外提供服务的团队有额外义务。同时评估上游模型的兼容协议(OpenAI / Anthropic 等)与是否支持 MCP。"})]}),S=()=>(0,i.jsxs)(o.xu,{as:"section",pb:"40px",children:[(0,i.jsx)(j,{children:"横向对比"}),(0,i.jsxs)(f,{children:["以上清单侧重逐个说明各家的协议、语言与特点。若想在协议、语言、语义路由、护栏、MCP、自托管等维度做一张横向对照表,进而快速缩小候选范围,可参阅"," ",(0,i.jsx)(o.rU,{href:"/ai-gateway-comparison",color:m,children:"AI 网关对比"}),"。若你对 AI 网关的定义与核心能力还不熟悉,建议先读"," ",(0,i.jsx)(o.rU,{href:"/what-is-ai-gateway",color:m,children:"什么是 AI 网关"}),"。"]})]}),M=()=>(0,i.jsxs)(o.xu,{as:"section",pb:"8px",children:[(0,i.jsx)(j,{children:"常见问题"}),(0,i.jsx)(x.UQ,{allowMultiple:!0,children:u.map(e=>(0,i.jsxs)(x.Qd,{children:[(0,i.jsx)("h3",{children:(0,i.jsxs)(x.KF,{py:"16px",children:[(0,i.jsx)(o.xu,{flex:"1",textAlign:"left",fontWeight:"600",color:"#141414",children:e.q}),(0,i.jsx)(x.XE,{})]})}),(0,i.jsx)(x.Hk,{pb:"16px",children:(0,i.jsx)(o.xv,{color:"#555",lineHeight:"1.8",children:e.a})})]},e.q))})]}),C=I.map(e=>e.name),L=()=>({"@context":"https://schema.org","@graph":[{"@type":"TechArticle",headline:"开源 AI 网关有哪些?2026 选型清单",description:p,image:d,inLanguage:"zh-CN",datePublished:"2026-07-01",dateModified:"2026-07-01",author:{"@type":"Organization",name:"支流科技"},publisher:{"@type":"Organization",name:"支流科技",url:"https://www.apiseven.com"},mainEntityOfPage:l},{"@type":"FAQPage",mainEntity:u.map(e=>

1({"@type":"Question",name:e.q,acceptedAnswer:{"@type":"Answer",text:e.a}}))},{"@type":"ItemList",name:"开源 AI 网关清单",itemListElement:C.map((e,n)=>({"@type":"ListItem",position:n+1,name:e}))},{"@type":"BreadcrumbList",itemListElement:[{"@type":"ListItem",position:1,name:"首页",item:"https://www.apiseven.com/"},{"@type":"ListItem",position:2,name:"开源 AI 网关有哪些"}]}]});var k=()=>(0,i.jsxs)(i.Fragment,{children:[(0,i.jsx)(a(),{children:(0,i.jsx)("script",{type:"application/ld+json",dangerouslySetInnerHTML:{__html:JSON.stringify(L()).replace(/</g,"\\u003c")}},"jsonld-open-source-ai-gateway")}),(0,i.jsx)(r.PB,{title:"开源 AI 网关有哪些?2026 选型清单",description:p,canonical:l,openGraph:{type:"article",url:l,site_name:"支流科技",description:p,images:[{url:d}]}}),(0,i.jsx)(o.iz,{}),(0,i.jsx)(b,{}),(0,i.jsx)(o.xu,{as:"main",bg:"#FFF",children:(0,i.jsxs)(o.W2,{maxW:"80rem",py:"56px",children:[(0,i.jsx)(y,{}),(0,i.jsx)(P,{}),(0,i.jsx)(v,{}),(0,i.jsx)(S,{}),(0,i.jsx)(M,{})]})}),(0,i.jsx)(c.Z,{})]})}},function(e){e.O(0,[4090,2888,9774,179],function(){return e(e.s=30435)}),_N_E=e.O()}]);