快速了解本文
OpenAI 将 Habitat 存储平台从 Python 重写为 Rust，CPU 效率提升 6 倍。
内存效率提升 15 倍，目前处理 95% 的生产请求并计划弃用 Python 版本。
Habitat 每秒处理超 7000 万次请求，管理数据规模超过 500PB。
本摘要由 AI 辅助整理，请以正文内容为准。
OpenAI 宣布，其内部在线存储平台 Habitat 已完成从 Python 到 Rust 的整体迁移。重写后的 Habitat 服务目前处理 95% 的生产请求，CPU 效率提升 6 倍，内存效率提升 15 倍，平均延迟和尾延迟均有所降低。OpenAI 计划在未来几周内完全弃用 Habitat 的 Python 实现。
Habitat 是 OpenAI 产品体系中的核心存储基础设施，目前每秒处理超过 7000 万次请求，每周服务超 10 亿用户，管理的数据规模超过 500PB，覆盖近 40 个地区。这一规模量级决定了任何架构瓶颈都会被迅速放大。
01从客户端库到独立服务
Habitat 最初是一个与 ChatGPT 主服务器交互的 Python 库，底层连接 Azure Cosmos DB，负责数据类型识别、路由、授权、加密、序列化及连接池管理。作为客户端共享库，Habitat 在 2024 年前后承担了数据访问的核心职责。
然而，随着 OpenAI 产品数量和数据需求的增长，客户端共享库模式的工程代价逐渐显现。2025 年年中，每次修改 Habitat 共享库需协调数十个服务部署，发布复杂度与故障风险显著增加。更关键的是，数据安全控制点分散在各个服务中，难以统一执行访问控制、审计日志和底层存储资源权限管理。
为此，OpenAI 将 Habitat 改造为独立服务，集中管理部署、监控和平台功能，并作为数据安全的统一控制点。这一架构变化不仅解决了发布复杂度问题，也为多租户环境下的数据安全提供了集中控制能力。
02Python 阶段的工程调优
独立服务化后，Habitat 仍使用 Python 实现，但在高并发场景下面临 CPU 开销、内存开销和网络延迟挑战，尤其需要控制请求尾延迟。OpenAI 在语言重写前已进行了一系列工程优化：
- 限制并发请求数量，增加 Python 工作进程，优化异步任务调度
- 调整功能开关配置刷新策略，减少大规模 JSON 解析对请求处理的影响
- 将 aiohttp 连接池从默认的 LIFO（后进先出）改为 FIFO（先进先出）连接复用，避免流量集中到响应较慢的服务进程，降低负载不均衡
这些调优措施说明，Rust 重写是在工程优化仍不足以支撑规模后的选择，而非跳过调优直接重写。
03API 约束与查询分层
在数据访问层面，Habitat 采用受限的 NoSQL API，避免客户端执行不可控的 SQL 查询、复杂联表或大范围数据扫描。复杂查询场景通过变更数据捕获（CDC）将数据实时或近实时同步至 Rockset，提供离线分析和搜索能力。
这种分层设计将在线写入与复杂查询分离，把分析型负载交给专门的查询引擎，有助于在 500PB 数据与每秒 7000 万次请求规模下保持在线服务的稳定性。
04Rust 重写与 AI 协作
2026 年第二季度，OpenAI 调用 2 名工程师，加上 Codex 和 GPT-5.5，将 Habitat 服务整体用 Rust 重写。这一人力投入规模与 AI 辅助开发的深度参与，表明在 OpenAI 内部，AI 辅助开发已深度参与核心基础设施的迁移与重写。
Rust 重写后的 Habitat 服务在性能上实现了显著跃迁：CPU 效率提升 6 倍，内存效率提升 15 倍，平均延迟和尾延迟均有所降低。目前该服务已处理 95% 的生产请求，Python 版本已进入退役阶段。
Habitat 的迁移并非单纯的语言替换，而是从 Python 客户端库到 Rust 独立服务的架构升级：先通过服务化解决发布复杂度与数据安全控制点分散的问题，再通过语言重写解决高并发下的 CPU、内存与尾延迟瓶颈。对于关注大规模分布式系统与后端工程实践的开发者而言，Habitat 的演进路径提供了从规模增长到架构瓶颈、再到工程取舍与量化结果的完整案例。