API-Endpunkte

AI Foundation Services bietet eine OpenAI-kompatible REST-API. Alle Endpunkte verwenden die Basis-URL:

https://llm-server.llmhub.t-systems.net/v2

Die vollständige OpenAPI-Spezifikation finden Sie in der interaktiven API-Dokumentation (Redoc).

Endpunkte

Methode	Endpunkt	Beschreibung
GET	/models	Alle verfügbaren Modelle auflisten
GET	/models/{model_id}	Modelldetails und Metadaten abrufen. Auf diesem Host derzeit nicht verfügbar: liefert 405; nutzen Sie GET /models
POST	/chat/completions	Eine Chat Completion erstellen
POST	/completions	Eine Text Completion erstellen. Auf diesem Host derzeit nicht verfügbar: liefert 404; nutzen Sie /chat/completions
POST	/embeddings	Embeddings erstellen
POST	/rerank	Dokumente nach Relevanz für eine Anfrage sortieren (Anleitung)
POST	/audio/transcriptions	Audio in Text transkribieren
POST	/audio/translations	Audio ins Englische übersetzen
GET	/audio/models	Verfügbare Audio-Modelle auflisten. Liefert derzeit alle Modelle, nicht nur die Audio-Modelle
POST	/images/generations	Bilder aus Text generieren
POST	/images/edits	Ein Bild bearbeiten. Der Abschnitt Queued Requests dokumentiert diesen Pfad.
POST	/responses	Eine Antwort erstellen (Responses API)
POST	/decisions	Typisierte Entscheidung. Siehe Decisions.
POST	/files	Eine Datei hochladen
GET	/files	Hochgeladene Dateien auflisten
DELETE	/files/{id}	Eine Datei löschen

Die Pfade oben sind relativ zu https://llm-server.llmhub.t-systems.net/v2, der Chat-Pfad ist also /v2/chat/completions.

Unterstützung der Responses API

Achtung

Die Responses API wird nicht nativ unterstützt. Die Unterstützung ist sehr eingeschränkt, und eine vollständige Unterstützung ist nicht geplant.

POST /responses unterstützt nur diese Funktionen:

• input als String oder als Liste aus message-, function_call- und function_call_output-Items
• Input-Items vom Typ additional_tools mit role: "developer", wie neuere Versionen von OpenAI Codex sie senden
• Function Tools im Feld tools auf oberster Ebene, auch in einem namespace gruppiert
• instructions, max_output_tokens, reasoning.effort und tool_choice
• Streaming mit stream: true
• JSON-Schema-Ausgabe mit text.format, siehe Strukturierte Ausgaben

Andere Input-Item-Typen, Tool-Typen und Parameter werden nicht unterstützt. Nicht jedes Modell unterstützt die Responses API: siehe Function Calling.

Queue-Endpunkte

Queue-Endpunkte liegen auf demselben Host, https://llm-server.llmhub.t-systems.net, unter /queue statt /v2. Sie warten bis zu zwei Minuten, wenn das Rate-Limit überschritten ist, statt sofort 429 zu liefern. Siehe Queued Requests.

Methode	Endpunkt	Beschreibung
POST	/queue/chat/completions	Chat Completion (Queue)
POST	/queue/completions	Text Completion (Queue)
POST	/queue/embeddings	Embeddings (Queue)
POST	/queue/audio/transcriptions	Audio Transcription (Queue)
POST	/queue/audio/translations	Audio Translation (Queue)
POST	/queue/images/generations	Image Generation (Queue)
POST	/queue/images/edits	Image Edit (Queue)
GET	/queue/models	Modelle auflisten (Queue)

Pfade

Alle Pfade liegen auf https://llm-server.llmhub.t-systems.net. Standardaufrufe nutzen /v2/...:

Pfad	Verwendet für
/v2	Chat, Completions, Responses, Embeddings, Audio, Bilder, Decisions, Dateien, Modelle
/v2/coding	Cline, Continue und OpenCode
/queue	Queue-Varianten wie /queue/chat/completions und /queue/images/edits

Die Seite Umstieg auf die neue API beschreibt den bevorstehenden Wechsel zur neuen API.

Authentifizierung

Alle Anfragen erfordern einen API-Schlüssel im Authorization-Header:

Authorization: Bearer YOUR_API_KEY

Weitere Details zur Einrichtung finden Sie unter Authentifizierung.

Anfrageformat

Alle POST-Anfragen verwenden JSON:

Terminal

curl -X POST "https://llm-server.llmhub.t-systems.net/v2/chat/completions" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-oss-120b", "messages": [{"role": "user", "content": "Hello"}]}'

Antwortformat

Antworten folgen dem OpenAI-Antwortformat. Für Chat Completions:

JSON

{
  "id": "chatcmpl-abc123",
  "object": "chat.completion",
  "created": 1710000000,
  "model": "gpt-oss-120b",
  "choices": [
    {
      "index": 0,
      "message": {
        "role": "assistant",
        "content": "Hello! How can I help you today?"
      },
      "finish_reason": "stop"
    }
  ],
  "usage": {
    "prompt_tokens": 10,
    "completion_tokens": 9,
    "total_tokens": 19
  }
}

KI-generierte Inhalte

Antworten mit Modellausgaben (Chat und Text Completions, Responses API, Bilder, Audio und Decisions) enthalten den HTTP-Antwort-Header X-AI-Generated-Content: true, der den Inhalt gemäß EU AI Act als KI-generiert kennzeichnet. Der Antwort-Body bleibt unverändert. Embeddings, Modelllisten, Dateioperationen und Fehlerantworten enthalten den Header nicht.

Nächste Schritte

• Chat Completions für die Anfrage, die diese Seite zurückgibt.
• Fehlercodes, wenn der Aufruf fehlschlägt.
• Authentifizierung für das Bearer-Token.