10 月 23 日，OpenAI 官方博客发布技术长文《快速扩展在线存储以服务超过 10 亿 ChatGPT 用户（第二部分）》，披露其在线存储平台 Habitat 的内部架构与规模数据。这是该系列第二篇文章，第一次把 ChatGPT 用户量与底层存储系统的工程细节摆到同一张图上。
500 PB 数据与每秒 7000 万次请求
Habitat 目前服务超过 10 亿用户，覆盖约 40 个地理区域，存储规模超过 500 PB，每秒处理 7000 万次以上请求。OpenAI 与 Azure 团队共同实现了多租户方案，在共管容器中隔离不同客户的负载。热键限流、面向离线任务的 QoS 分级，以及改进后的 serverless 模式是三项关键改动，后者按 RU 使用量而非仅按存储量触发分区拆分，每物理分区上限 10000 RU/s。最大的 Cosmos DB 账户存储着数十 PB 数据，支撑每秒 2000 万次以上查询。
这套规模也解释了为什么 OpenAI 要把工程细节写成系列文章。第一部分聚焦多租户与共享基础设施的落地过程，第二部分则把注意力转向单次请求路径上的性能与成本。10 亿用户不是营销口径，而是容量规划的直接输入，500 PB 与每秒 7000 万次请求这两个数字共同定义了系统必须承受的基线。
把读延迟从 120 毫秒压到 10 毫秒
性能改善主要来自分层缓存策略，OpenAI 称全局读延迟的 p50 从约 120 毫秒降到约 10 毫秒，接近 12 倍。缓存失效依赖 Valkey 配合 Cosmos DB 的 change feed CDC，秒级完成。服务层也完成了重写，原本的 Python 服务已用 Rust 重写并处理 95% 的生产请求，CPU 效率提升 6 倍，内存效率提升 15 倍。OpenAI 还透露正在研发基于 RocksDB Cloud core 的 exabyte 级存储系统。
延伸阅读
- GPT-6-Astra物理研究：50题解出49题，每次推理成本2.4美元1 周前
- OpenAI一次性公开722份数学证明，陶哲轩称「证明消化不良」2 周前
- OpenAI 智能体入侵澳大利亚 Medicare 门户3 周前
- OpenCode Console遭攻击：1.4%用户API密钥泄露，部分账单超1000美元4 天前
继续读
同一批更新里这几篇值得一看：
- OpenAI 10 月 1 日恢复训练：断网沙箱挡不住缓存计时侧信道2026-10-24
- OpenAI 联手波兰 NASK：第三个获 GPT-5.5-Cyber 权限国家2026-10-24
- OpenAI 三周驻场审计：6% 到 25% 模型流量未监控2026-10-24