- SignalDesk2026-09-12
IT之家 9 月 12 日消息,OpenAI 今日发文,主要介绍了其在线存储平台 Habitat 如何应对产品规模的快速增长,以及从 Python 迁移至 Rust 的工程实践。 OpenAI 称该平台目前每秒处理超过 7000 万次请求,每周服务超 10 亿用户,管理的数据规模超过 500PB。据介绍,Habitat 已从 2024 年的 Python 客户端库,发展为支撑旗下产品的分布式存储系统。 据介绍,Habitat 最初是一个与 ChatGPT 主服务器交互的 Python 库,底层连接 Azure Cosmos DB。其目标是让产品工程师无需直接管理数据库,即可完成数据存取。系统负责数据类型识别、路由、授权、加密、序列化及连接池管理等工作。 随着 OpenAI 产品数量和数据需求增长,Habitat 在 2025 年年中逐渐暴露出客户端架构的局限。每次修改共享库都需要协调数十个服务进行部署,增加了发布复杂度和故障风险。因此,OpenAI 决定将 Habitat 改造为独立服务,集中管理部署、监控和平台功能。 独立服务还为数据安全提供了统一控制点。OpenAI 可以在 Habitat 中集中执行访问控制、审计日志及底层存储资源权限管理,降低外部、内部及代理程序未经授权访问用户数据的风险。 OpenAI 最初选择用 Python 开发高吞吐服务,以优先解决平台稳定性和产品开发效率问题。然而,Python 服务在高并发场景下仍面临 CPU 开销、内存开销和网络延迟等挑战,尤其需要控制请求尾延迟。 Habitat 通过限制并发请求数量、增加 Python 工作进程,以及优化异步任务调度来改善性能。OpenAI 还调整了功能开关配置的刷新策略,减少大规模 JSON 解析对请求处理的影响。 在连接池方面,OpenAI 发现 Python 的 aiohttp 默认采用 LIF
- 情报分类:技术价值
- 命中依据:Python迁移Rust提升CPU效率,具技术借鉴价值
- 来源:资讯 / IT之家
- 发布时间:2026/9/12 08:07:04
- No replies yet