API-Umstellung: Anfragen

Die neue API (https://llm-server.ai.t-systems.net/v1) unterstützt Standardanfragen für Chat Completions, einschließlich üblicher Parameter wie messages, temperature, top_p, tools und response_format, sofern das gewählte Modell sie unterstützt.

Die meisten Anwendungen können ihre bisherige Anfragestruktur mit nur kleinen Anpassungen weiterverwenden.

curl -X POST "https://llm-server.legacy.ai.t-systems.net/v2/chat/completions" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-6.1-sol",
    "messages": [
      {"role": "user", "content": "Hello!"}
    ]
  }'

curl -X POST "https://llm-server.ai.t-systems.net/v1/chat/completions" \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "azure/gpt-6.1-sol",
    "messages": [
      {"role": "user", "content": "Hello!"}
    ]
  }'

Das Beispiel für die neue API verwendet ein explizites Provider-Präfix (azure/) für ein vorhersehbares Routing; das Präfix jedes Modells ist in /v1/models angegeben. Ein Modellname ohne Präfix wie gpt-6.1-sol kann ebenfalls verwendet werden, wenn das Modell über die automatische Provider-Auflösung verfügbar ist.

Was ändert sich?

Aspekt	Legacy-API	Neue API
Standardparameter für Chat	Unterstützt	Unterstützt, abhängig von den Modellfähigkeiten
Modellbezeichner	Modellnamen ohne Präfix	Namen mit und ohne Provider-Präfix
Wahl des Providers	Über die bestehende Routing-Konfiguration	Explizite Wahl über Provider-Präfixe möglich
Tool Calling	Unterstützt	Unterstützt über die Standardfelder `tools` und `tool_calls`
Strukturierte Ausgabe	Unterstützt, sofern für das Modell verfügbar	Unterstützt, sofern für das Modell verfügbar
Provider-spezifische Parameter	In der Regel an den Provider weitergeleitet	Können gefiltert oder ignoriert werden, sofern nicht unterstützt
Anfragevalidierung	Validierung durch Gateway und Provider	Überwiegend abhängig vom Provider; einige Parameter können angepasst oder ignoriert werden

Was Sie prüfen sollten

Für Standardintegrationen: Ändern Sie den Endpunkt. Bisherige Anfragestrukturen und Modellnamen ohne Präfix können weiter funktionieren, sofern das Modell verfügbar ist.

Für ein vorhersehbares Routing der Modelle: Verwenden Sie Modellbezeichner mit Provider-Präfix.

Für fortgeschrittene Integrationen: Wenn Ihre Anwendung Provider-spezifische Parameter, eigene Anfragefelder oder modellspezifische Funktionen nutzt, prüfen Sie, ob das gewählte Modell sie über die neue API unterstützt.

Die Anfragevalidierung hängt vom Modell-Provider und der Verarbeitung der API-Parameter ab. Einige nicht unterstützte Parameter oder Werte außerhalb des zulässigen Bereichs können angepasst oder stillschweigend ignoriert werden, statt abgelehnt zu werden.

Details zu Modellfähigkeiten und unterstützten Parametern finden Sie unter Modelle und im Modellvergleich.