Azure OpenAI oder OpenAI direkt? – Was sich für deutsche Unternehmen unterscheidet

Wenn Sie heute GPT-4o oder GPT-5 in einem deutschen Unternehmen einsetzen wollen, haben Sie zwei naheliegende Wege: direkt über OpenAI, oder über Microsoft Azure OpenAI Service. Beide Wege liefern technisch dieselben Modelle. Vertragslich, datenschutzrechtlich und operativ unterscheiden sie sich aber an mehreren Stellen, die für DACH-Kunden den Ausschlag geben.

Dieser Artikel fasst zusammen, was wir in der Beratungs-Praxis am häufigsten erklären müssen — und für welche Konstellationen welche Wahl sinnvoll ist.

Vertragspartner und Datenresidenz

OpenAI sitzt in den USA (OpenAI, Inc.) bzw. Irland (OpenAI Ireland Ltd.). Wenn Sie als deutsches Unternehmen einen Vertrag direkt mit OpenAI schließen, ist das in der Regel mit der irischen Tochter — datenschutzrechtlich also EU-Vertragspartner, aber mit Datenverarbeitung, die je nach Konfiguration auch außerhalb der EU stattfinden kann.

Microsoft Azure OpenAI dagegen wird in einer von Ihnen gewählten Azure-Region gehostet. Für deutsche Unternehmen sind die relevanten Regionen Germany West Central (Frankfurt) und Sweden Central. Vertragspartner sind je nach Setup Microsoft Ireland Operations Limited oder — und das ist der wichtigere Punkt — Microsoft Deutschland GmbH unter den Online Services Terms.

Der Unterschied wirkt subtil, ist aber für Berufsgeheimnisträger relevant: Microsoft Deutschland trägt §203-StGB-konforme Verschwiegenheitsverpflichtungen, OpenAI Ireland nicht standardmäßig.

AVV und Subprocessor-Listen

Beide Anbieter liefern AVVs nach Art. 28 DSGVO. Beide haben veröffentlichte Subprocessor-Listen. In der Praxis ist die Microsoft-Liste deutlich konservativer und besser dokumentiert — Audit-Rechte sind in den Microsoft Online Services Terms strukturiert geregelt, OpenAI handhabt das eher über generische Klauseln.

Für reine Mittelstandsunternehmen ohne Berufsgeheimnis ist OpenAI Ireland in der Regel ausreichend. Sobald Anwälte, Ärzte, Steuerberater oder KRITIS-Verantwortliche im Spiel sind, raten wir konsequent zu Azure OpenAI mit Microsoft-DE-AVV.

Identity und Zugriff

Hier wird der Unterschied technisch:

OpenAI authentifiziert über API-Keys. Pro Organisation, pro Projekt, pro Service-Account — flexibel, aber flach. Audit-Logs sind eingeschränkt, Conditional Access oder MFA pro Aufruf nicht eingebaut.

Azure OpenAI nutzt Microsoft Entra ID. Jede Anwendung, jeder Mensch, jedes System bekommt eine eigene Identität, mit RBAC-Rollen, Conditional Access, Privileged Identity Management. Anfragen sind per Default an Identitäten gebunden. Wer auf eine Standardarchitektur mit M365 oder Azure AD aufsetzt, hat hier wenig Mehraufwand und sehr viel mehr Kontrolle.

Modell-Verfügbarkeit

Hier punktet OpenAI direkt: neue Modelle (z.B. eine neue GPT-Generation, neue Reasoning-Modelle) sind in der Regel zuerst bei OpenAI verfügbar, dann mit ein paar Wochen Versatz bei Azure. Wer auf der Bleeding Edge sein muss — etwa für Forschung oder Produktentwicklung — kann das spüren.

In der Beratungsrealität ist das selten ein Showstopper. Die meisten produktiven Use-Cases (Korrespondenz, Recherche, Wissensmanagement) brauchen nicht die jeweils neueste Modell-Generation. Bei Azure ist Sweden Central oft Frankfurt einen Tick voraus, was Modell-Verfügbarkeit angeht — wir nutzen das gelegentlich als Fallback-Region.

Kosten

Die reinen Modell-Kosten pro Token sind bei OpenAI und Azure OpenAI fast identisch. Unterschiede gibt es bei Volumenrabatten (Microsoft Enterprise Agreements bündeln oft mit anderen Cloud-Diensten) und bei Provisioned Throughput Units (bei Azure verfügbar, bei OpenAI über andere Mechanismen).

Wer ohnehin tief in M365 oder Azure steckt, bekommt Azure OpenAI billiger ins Setup, weil Identity, Logging und Storage schon bezahlt sind. Wer „nur OpenAI" will, ohne Cloud-Footprint daneben, fährt mit OpenAI Direct nicht schlechter.

Wann Azure, wann OpenAI direkt — eine Kurzentscheidung

Wir empfehlen Azure OpenAI in folgenden Konstellationen:

• Sie sind in einer regulierten Branche (Berufsgeheimnis, KRITIS, Finanzaufsicht).
• Sie haben bereits Microsoft 365 oder Azure produktiv im Einsatz.
• Sie wollen Identity- und Audit-Logging über bestehende Strukturen abbilden.
• Sie planen Hochrisiko-Use-Cases nach EU AI Act, die nachvollziehbares Logging und Identity-Bindung brauchen.

OpenAI direkt ist tragfähig, wenn:

• Sie sind ein Tech-Startup oder Produktentwickler, der schnellstmöglich Zugriff auf neue Modelle braucht.
• Sie haben keine Cloud-Footprint-Synergien mit Azure.
• Ihre Use-Cases haben minimalen Datenschutz-Footprint (keine personenbezogenen Daten).

In allen anderen Fällen lohnt sich der etwas höhere Setup-Aufwand bei Azure OpenAI durch Audit-Tauglichkeit, Identity-Integration und vertragliche Klarheit deutlich.

Was Sie als Nächstes tun können

Wenn Sie unsicher sind, welcher Weg für Ihre Architektur sinnvoll ist: wir machen das im Erstgespräch in 30 Minuten klar. Vertiefende Architektur-Hintergründe finden Sie auf unseren Pillar-Seiten zu Azure OpenAI Deutschland und ChatGPT DSGVO-konform.