Erklärung
Wohin gehen die Modellaufrufe meines KI-Agenten? EU-Optionen für Claude, OpenAI und Mistral
Die Modellaufrufe Ihres KI-Agenten gehen an den Modellanbieter und den Endpunkt, den Sie konfigurieren, egal wo der Computer des Agenten läuft. Damit die Inferenz in Europa bleibt, wählen Sie einen europäischen Weg: Claude über Amazon Bedrock oder Google Cloud, OpenAI oder Azure OpenAI mit EU-Datenresidenz oder den EU-Endpunkt von Mistral. Prüfen Sie den genauen Umfang jedes Wegs, denn manche schließen Länder außerhalb der EU ein. Für die eigene Claude API nennt die Data-Residency-Dokumentation von Anthropic nur global und us (geprüft am 06.11.2026). Bei Sanbox laufen der Computer und das Gateway, das seine Modellaufrufe weiterleitet, in EU-Rechenzentren, und Sie wählen den Endpunkt selbst, auch eigene OpenAI-kompatible.
Warum ist der Modell-Endpunkt so wichtig?
Ein Modellaufruf enthält alles, was der Agent in seinen Kontext geladen hat: Ihre Anweisungen, geöffnete Dateien, Befehlsausgaben, Webseiten, Tickets. Sind darunter personenbezogene Daten, verarbeitet der Modellanbieter sie dort, wo sein Endpunkt die Inferenz ausführt. Die Anbieter trennen zudem, wo die Inferenz läuft, wo Daten gespeichert werden und wo Konto- und Metadaten liegen. Prüfen Sie alle drei Punkte.
Welche EU-Optionen gibt es?
| Weg | Wo die Inferenz läuft | So wählen Sie ihn |
|---|---|---|
| Claude API (Anthropic) | global oder us | Pro Anfrage oder als Workspace-Standard |
| Claude in Amazon Bedrock | Europäische AWS-Regionen; nur EU, wenn alle Zielregionen in der EU liegen | EU-Region mit regionalem Endpunkt oder eu.-Inference-Profil |
| Claude auf der Agent Platform von Google Cloud | EU-Mitgliedstaaten | Multi-Region-Endpunkt eu |
| OpenAI API | EWR und Schweiz, für berechtigte Kunden | Projekt mit Region Europa und eu.api.openai.com |
| Azure OpenAI in Microsoft Foundry | EU Data Boundary, die EFTA-Staaten einschließen kann; oder eine EU-Region | Deployment vom Typ Data Zone (EU) oder Standard in einer EU-Region |
| Mistral | EU- und EFTA-Staaten | Endpunkt api.eu.mistral.ai |
Diese Übersicht gibt wieder, was die Anbieter veröffentlichen, und ist keine Rechtsberatung: Welcher Weg für Ihre Daten zulässig ist, entscheiden Ihre Datenschutzbeauftragten oder Ihre Rechtsberatung.
Claude: über Bedrock oder Google Cloud
- Claude API.
inference_geokennt die Werteglobal(Standard, beliebige Region weltweit) undus. Der Workspace-Standort, der festlegt, wo Daten gespeichert werden, ist nurus. Für Claude Platform on AWS und Claude Models on Google Cloud (Anthropic managed) gelten dieselben Werte, und für Claude in Microsoft Foundry nennt Anthropic eine US-Datenzone, keine EU-Datenzone. - Amazon Bedrock. Rufen Sie Claude in einer EU-Region über einen regionalen Endpunkt oder ein EU-Inference-Profil auf (Modell-IDs mit dem Präfix
eu.). Globale Endpunkte können in jede kommerzielle AWS-Region routen. Zu den europäischen AWS-Regionen gehören auch London (eu-west-2) und Zürich (eu-central-2), die außerhalb der EU liegen. AWS rät, die Zielregionen eines Profils mitGetInferenceProfilezu prüfen, statt sich auf das Präfix zu verlassen. Regionale Endpunkte kosten 10 % mehr. - Agent Platform von Google Cloud (früher Vertex AI), von Google betrieben. Nutzen Sie die Multi-Region
eumit dem Hostaiplatform.eu.rep.googleapis.com. Laut Google bleibt die ML-Verarbeitung dort in den EU-Mitgliedstaaten; Großbritannien und die Schweiz sind ausgenommen. Der Endpunktglobalgibt keine Zusage zum Datenstandort. Einzelregionen wieeurope-west1bedienen nur Claude Sonnet 4.6 und ältere Modelle. Multi-Region- und regionale Endpunkte kosten 10 % mehr.
OpenAI und Azure OpenAI
- OpenAI API. OpenAI bietet für Europa (EWR und Schweiz) regionale Speicherung und Inferenz. Die Berechtigung klären Sie mit dem Vertrieb von OpenAI, und für Europa ist Zero Data Retention, Modified Abuse Monitoring oder eine andere genehmigte Aufbewahrungsoption nötig. Die Region wählen Sie beim Anlegen eines Projekts, die Anfragen gehen an
eu.api.openai.com. Systemdaten sind ausgenommen, für einige Endpunkte und Funktionen gelten Ausnahmen, und für Modelle, die ab dem 5. März 2026 erschienen sind, kosten diese Endpunkte 10 % mehr. - Azure OpenAI in Microsoft Foundry. Entscheidend ist der Deployment-Typ. Globale Typen dürfen Prompts in jeder Azure-Region verarbeiten. Data-Zone-Typen (EU) verarbeiten sie innerhalb der EU Data Boundary, die auch EFTA-Staaten wie Norwegen und die Schweiz umfassen kann; Laut Microsofts Dokumentation können einer Zone Regionen hinzugefügt werden. Standard-Deployments verarbeiten innerhalb der Azure-Geografie der Ressource. Gespeicherte Daten bleiben bei allen Typen in der festgelegten Geografie.
Mistral
Der globale Endpunkt von Mistral, api.mistral.ai, ist voreingestellt und sagt keinen Ort für die Inferenz zu. Der EU-Endpunkt api.eu.mistral.ai verarbeitet Anfragen in EU- und EFTA-Staaten, zum 1,1-Fachen des Listenpreises. Kontodaten, API-Schlüssel, Abrechnung und Nutzungsmetadaten können weiterhin anderswo verarbeitet werden. Gespeicherte Daten liegen bei Mistral standardmäßig in der EU, einige Funktionen können Daten aber vorübergehend an Unterauftragsverarbeiter außerhalb der EU übermitteln.
Bedeutet „EU“ überall dasselbe?
Nein. Die Multi-Region eu von Google umfasst nur EU-Mitgliedstaaten. Die eu--Regionen von AWS schließen London und Zürich ein. Die EU Data Boundary von Azure kann Norwegen und die Schweiz einschließen, die Region Europa von OpenAI umfasst den EWR und die Schweiz, der EU-Endpunkt von Mistral EU- und EFTA-Staaten. Jeder Anbieter nennt außerdem Ausnahmen, etwa Systemdaten oder Metadaten der Steuerungsebene. Ob die Unterschiede für Sie zählen, entscheiden Ihre Datenschutzbeauftragten.
Wie behandelt Sanbox Modellaufrufe?
Ein Sanbox-Computer, seine Festplatte und das Gateway, das seine Modellaufrufe weiterleitet, laufen in EU-Rechenzentren. Sanbox verkauft und hostet keine Modelle: Jedes Template nennt einen Modellanbieter, den Ihre Organisation mit eigenem Schlüssel verbunden hat, und das Gateway leitet die Aufrufe des Agenten dorthin weiter. Der Netzwerkzugang ist standardmäßig gesperrt; außer diesem Anbieter erreicht ein Computer nur die Ziele in seiner Netzwerkrichtlinie. Wohin ein Prompt danach geht, bestimmen der gewählte Endpunkt und Ihr Vertrag mit diesem Anbieter.
Einen EU-Weg mit OpenAI-kompatibler API, etwa ein Azure-OpenAI-Deployment vom Typ Data Zone (EU), fügen Sie als eigenen Anbieter hinzu. Dafür brauchen Sie die Rolle Owner oder Admin:
printf '%s' "$AZURE_EU_KEY" | sanbox model-providers create --name azure-eu \
--base-url https://<your-resource>.openai.azure.com/openai/v1 --api-key-stdin --json
sanbox model-providers models custom:azure-eu --json
sanbox templates create --name "EU agent" --model-provider custom:azure-eu --model <model-id> --json
Die Anbieter-ID lautet custom:<name>. Einen Weg ohne OpenAI-kompatible API können Sie hinter ein Gateway setzen, das Sie selbst in der EU betreiben; LiteLLM etwa führt Bedrock, Vertex AI, Azure OpenAI und Mistral unter seinen Anbietern.
Agenten, die Sie selbst installieren, etwa Claude Code, rufen ihre eigenen API-Hosts über die Netzwerkrichtlinie auf. Die EU-Wege von Claude Code sind Bedrock (CLAUDE_CODE_USE_BEDROCK=1 mit einer EU-Region in AWS_REGION) und Google Cloud (CLAUDE_CODE_USE_VERTEX=1 mit CLOUD_ML_REGION=eu). In EU-Regionen bevorzugt Claude Code eu.-Inference-Profile, die Dokumentation nennt das aber eine Präferenz, keine Garantie; legen Sie deshalb eu.-Modell-IDs fest und prüfen Sie mit /status. Lassen Sie api.anthropic.com aus der Netzwerkrichtlinie heraus, damit eine Sitzung ohne diese Einstellungen die Claude API nicht erreicht. Das gilt für eine Vorlage, deren eigener Modellanbieter nicht Anthropic ist, denn die Anbieterverbindung selbst kann diesen Host freigeben.
Wann Sanbox nicht die richtige Wahl ist
- Prompts dürfen keinen Modellanbieter erreichen. Sanbox hostet keine Modelle und hat keine GPUs. Betreiben Sie das Modell selbst, etwa auf einem vLLM-Server, und binden Sie es als eigenen Endpunkt an. Sanbox kann auch in Ihrer eigenen Cloud oder auf Ihrer eigenen Hardware laufen: Schreiben Sie an sales@sanlabs.ai.
- Sanbox soll die Region Ihres Anbieters durchsetzen. Sanbox leitet Aufrufe an den Endpunkt weiter, den Sie konfigurieren. Es prüft nicht, was Ihr Vertrag mit dem Anbieter abdeckt oder welche Funktionen der Anbieter von der Datenresidenz ausnimmt.
Verwandte Seiten
- Brauche ich einen AVV für KI-Agenten?
- How do I use my own model endpoint (Azure OpenAI, vLLM, LiteLLM) with an agent computer? (auf Englisch)
- How do I restrict which domains an AI agent can reach? (auf Englisch)
- Best EU-hosted sandboxes for AI agents in 2026 (auf Englisch)
Quellen
- Anthropic: Data residency (geprüft am 06.11.2026)
- Anthropic: Claude in Amazon Bedrock (geprüft am 06.11.2026)
- AWS: Supported Regions and models for inference profiles (geprüft am 06.11.2026)
- Anthropic: Claude Models on Google Cloud (Google managed) (geprüft am 06.11.2026)
- Google Cloud: Data residency for Agent Platform (geprüft am 06.11.2026)
- OpenAI: Data controls in the OpenAI platform, Abschnitt zur Datenresidenz (geprüft am 06.11.2026)
- Microsoft Learn: Deployment types in Microsoft Foundry Models (geprüft am 06.11.2026)
- Mistral: Regional inference (geprüft am 06.11.2026)
- Mistral Help Center: Where do you store my data? (geprüft am 06.11.2026)
- Claude Code: Amazon Bedrock (geprüft am 06.11.2026)
- Claude Code: Google Cloud's Agent Platform (geprüft am 06.11.2026)
- LiteLLM: Providers (geprüft am 06.11.2026)