OpenAI hat Habitat vorgestellt – eine Speicherplattform für ChatGPT und die API.

Am 11. September 2026 stellte OpenAI „Habitat“ vor – eine eigene Online-Speicherplattform für ChatGPT, die OpenAI-API, Codex und interne Dienste. Sie ermöglicht einen schnellen und zuverlässigen Zugriff auf Daten, die unter anderem für die Anmeldung, das Laden von Codex-Einstellungen und den Start von Chats in ChatGPT erforderlich sind.

Habitat verarbeitet mehr als 70 Millionen Anfragen pro Sekunde und unterstützt Produkte, die von über einer Milliarde Menschen wöchentlich genutzt werden. Die Plattform ist in fast 40 Regionen aktiv und speichert mehr als 500 PB an Daten.

Das System stellt eine einheitliche Zugriffsschicht für Azure Cosmos DB, Valkey-Caches, Blob Storage, Nanobase und weitere Datenspeicher bereit. Habitat ist zuständig für Routing, Caching, Autorisierung, Verschlüsselung, Mandantentrennung, Datenplatzierung sowie die Lastbegrenzung für nachgelagerte Komponenten.

Das Projekt begann im Jahr 2023 als Python-Clientbibliothek, die mit Azure Cosmos DB verbunden war. Später wandelte OpenAI es in einen zentralisierten Dienst um. Dies vereinfachte die Bereitstellung, die Systemüberwachung, die Auditierung sowie die Anwendung von Sicherheitsrichtlinien.

Habitat verwendet anstelle beliebiger SQL-Abfragen eine eingeschränkte NoSQL-API, die auf Objekten und Beziehungen basiert. Dieser Ansatz macht die Systemlast besser vorhersehbar und verringert das Risiko rechenintensiver Abfragen, die den Online-Datenspeicher überlasten könnten. Für komplexe Abfragen nutzt OpenAI eine separate Offline-Datenansicht in Rockset. Änderungen werden dort mittels CDC nahezu in Echtzeit eingespielt, wodurch Analyse- und Suchlasten vom Online-Datenspeicher entkoppelt sind.

Bei der Skalierung von Habitat beseitigte OpenAI Verzögerungen im asyncio-Scheduler sowie ein Ungleichgewicht bei den Verbindungen in Python aiohttp und verringerte zudem das Risiko einer Überlastung nachgelagerter Systeme. Hierfür kamen die Wiederverwendung von Verbindungen im FIFO-Modus, Envoy, HTTP/2, Multiplexing, Verbindungspools, Limits und Circuit Breaker zum Einsatz.

Zu Spitzenzeiten verarbeitete die Python-Version von Habitat mehr als 20 Millionen Anfragen pro Sekunde. Sie entwickelte sich zum Envoy-Dienst von OpenAI mit der zweitgrößten Anzahl an Prozessorkernen und dem viertgrößten Umfang.

Im zweiten Quartal 2026 schrieben zwei Ingenieure Habitat mit Unterstützung von Codex und GPT-5.5 von Python auf Rust um. Zum Zeitpunkt der Veröffentlichung bewältigte die Rust-Version 95 % der Produktionsanfragen und nutzte die CPU sechsmal sowie den Arbeitsspeicher 15-mal effizienter. Zudem bot sie geringere durchschnittliche Latenzzeiten sowie niedrigere Latenzwerte im oberen Bereich (Tail Latency). OpenAI plante, die Python-Version in den kommenden Wochen vollständig aufzugeben.

Habitat bleibt eine interne Infrastrukturplattform von OpenAI. Das Unternehmen hat nicht angegeben, dass sie als eigenständiges öffentliches Produkt verfügbar ist.

Quelle: OpenAI