SOURCE // LABS

别再滥发IAM密钥!为AWS Bedrock构建OpenAI兼容网关

别再滥发IAM密钥!为AWS Bedrock构建OpenAI兼容网关

起初开发者的诉求很简单:他们希望在自己的代码编辑器中使用 AI 编程助手。然而,真正的挑战来自于企业内部的安全与管理约束。首先,开发者的本地电脑上绝对不能留有 AWS 凭证;其次,不能使用任何需要通过繁琐数据合规审查的第三方 SaaS 服务;最后,当账单寄来时,管理员必须能够清晰追踪“谁花了多少钱”。

后端选择 AWS Bedrock 完美解决了这些痛点。不仅模型表现优异,而且所有推理数据都安全地保留在企业自身的 AWS 账户中,省去了复杂的合规审批。但真正的麻烦在于 Bedrock 的前端对接。Bedrock 使用其独特的 AWS SigV4 签名进行身份验证,而开发者最常用的工具(如 CursorContinue.devaider 甚至大部分 LangChain 生态系统)默认仅支持 OpenAI API 格式,即通过简单的 Bearer Token 访问 POST /v1/chat/completions 接口。因此,要在两者之间架起桥梁,就必须进行 API 转换。

有些团队可能会选择为每个开发者单独生成一个 IAM 用户,并把密钥配置在本地。这是一个极具安全隐患的做法。这会导致 AWS 凭证散落在十几台本地机器上,不仅无法进行单人维度的额度限制,一旦有人离职或凭证泄露,撤销和修改 IAM 策略也将变得异常繁琐。作者采取了另一种方案:在中间部署一个轻量级API 网关。该网关前端接收标准 OpenAI 请求,后端无缝对接 Bedrock 的 Converse API,并在中间集中处理身份验证、速率限制、审计日志和费用追踪。

目前,该方案已在生产环境中稳定运行,服务于一个十人规模的研发团队。虽然开源社区有诸如 LiteLLM 这样的优秀代理工具,AWS 官方也发布过 bedrock-access-gateway 示例,但作者最终选择自研。因为这个翻译层仅需约 80行代码,却能完美将审计日志与团队现有的身份识别系统结合,实现精细化的每人成本核算。如果你的需求非常通用,使用现成方案即可;但如果需要高度定制,自研网关将是一劳永逸的选择。

AgentUpdate 深度解析

在当前 AI Agent 爆发的时代,模型网关(Model Gateway)正在从边缘工具演变为企业级架构的“核心基础设施”。随着 MCP (Model Context Protocol) 等统一协议的推进,将 Agent 框架与底层具体云厂商解耦已成为必然选择。本文所构建的 OpenAI 兼容网关,不仅解决了解析器和 SDK 兼容的燃眉之急,更是未来多 Agent 协同(Multi-Agent Systems)中实现动态路由成本围栏(Cost Guardrails)和安全审计的关键屏障。横向对比 #LiteLLM 等重型中间件,这种 80 行代码的轻量定制网关,为企业在不引入复杂外部依赖的前提下,提供了对数据流和账单的绝对主权,是构建安全、可控的企业级 Agent 生态的极佳工程实践。