Available Models

Available Models

AI Foundation Services provides access to a wide range of open-source and proprietary LLMs, embedding models, vision models, and audio models — all through a single OpenAI-compatible API.

---

Featured Models

Verfügbare Modelle (39)

DeepSeek V4.1 Flash – Preview

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

d3 – Preview

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

DiffusionGemma 26B A4B – Preview

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

GLM 5.3

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Qwen3-Reranker-4B

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

LightOnOCR-3-4B

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

PaddleOCR-VL-1.6

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

GLM 5.3 Flash

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

NVIDIA Nemotron 3 Super 120B FP8

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Gemma 4

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Mistral Small 4

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

GPT-OSS 120B

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Qwen 3.8 27B FP8

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Qwen 3.6 35B FP8

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Gemini 3 Flash

Cloud: GCP Serverstandort: Worldwide Datenverarbeitung: Worldwide

Gemini 3 Pro Image

Cloud: GCP Serverstandort: Worldwide Datenverarbeitung: Worldwide

BGE-M3

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Ada Text Embedding

Cloud: Azure Serverstandort: France Datenverarbeitung: EU

Qwen3 Embedding 8B

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Jina Embeddings v2 Base DE

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Whisper Large v3

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Whisper Large v3 Turbo

Cloud: T-Cloud Serverstandort: Germany Datenverarbeitung: Germany

Claude Fable 5.1

Cloud: GCP Serverstandort: Europe Datenverarbeitung: EU

Claude Haiku 5.5 (>100k)

Cloud: GCP Serverstandort: Europe Datenverarbeitung: EU

Claude Haiku 5.5 (≤100k)

Cloud: GCP Serverstandort: Europe Datenverarbeitung: EU

Claude Opus 5.5

Cloud: GCP Serverstandort: Europe Datenverarbeitung: EU

Claude Sonnet 5.5

Cloud: GCP Serverstandort: Europe Datenverarbeitung: EU

Gemini 3.5 Flash

Cloud: GCP Serverstandort: Worldwide Datenverarbeitung: Worldwide

Gemini 3.8 Flash

Cloud: GCP Serverstandort: Worldwide Datenverarbeitung: Worldwide

Gemini 4 Argon

Cloud: GCP Serverstandort: Worldwide Datenverarbeitung: Worldwide

GPT Image 2

Cloud: Azure Serverstandort: Sweden Datenverarbeitung: EU

GPT-5.6 Sol

Cloud: Azure Serverstandort: Sweden Datenverarbeitung: EU

GPT-5.6 Terra

Cloud: Azure Serverstandort: Sweden Datenverarbeitung: EU

GPT-6 Astra (>272k)

Cloud: Azure Serverstandort: Sweden Datenverarbeitung: EU

GPT-6 Astra (≤272k)

Cloud: Azure Serverstandort: Sweden Datenverarbeitung: EU

GPT-6 Luna (>272k)

Cloud: Azure Serverstandort: Sweden Datenverarbeitung: EU

GPT-6 Luna (≤272k)

Cloud: Azure Serverstandort: Sweden Datenverarbeitung: EU

GPT-6.1 Sol (>272k)

Cloud: Azure Serverstandort: Worldwide Datenverarbeitung: Worldwide

GPT-6.1 Sol (≤272k)

Cloud: Azure Serverstandort: Worldwide Datenverarbeitung: Worldwide

33 weitere anzeigen

For a complete list with pricing, see the Plans & Pricing page.

---

List Models via API

curl

curl "$OPENAI_BASE_URL/models" \
  -H "Authorization: Bearer $OPENAI_API_KEY"

Python

from openai import OpenAI

client = OpenAI()

models = client.models.list()
for model in models.data:
    print(model.id)

Node.js

import OpenAI from "openai";

const client = new OpenAI();

const models = await client.models.list();
for (const model of models.data) {
  console.log(model.id);
}

---

Model Metadata

Each model includes metadata you can inspect:

models = client.models.list()
print(models.data[0].meta_data)

{
  "model_type": "LLM",
  "source_type": "OPEN SOURCE",
  "max_sequence_length": 128000,
  "hidden_size": 0,
  "max_output_length": 0,
  "deployment_region": "otc-germany",
  "location": "otc-germany",
  "license": "https://www.llama.com/llama3_3/license/",
  "display_name": "Meta LLama 3.3 70B",
  "deployment_country": "Germany, EU",
  "input_modalities": ["text"],
  "output_modalities": ["text"],
  "model_lifecycle_stage": "Stable",
  "is_externally_hosted": false
}

Key fields:

• model_type — LLM, EMBEDDING, STT (audio)
• max_sequence_length — Maximum input + output tokens
• hidden_size — Embedding vector dimensions (embedding models only)
• max_output_length — Maximum output tokens the model can generate
• deployment_region — Where the model is hosted (e.g., otc-germany for T-Cloud Germany)

---

Model Categories

Category	Examples	Use Case
LLM	Llama 3.3 70B, GPT 4.1, Claude Sonnet 4, Qwen 3	Text generation, chat, reasoning
Embedding	jina-embeddings-v2-base-de, text-embedding-bge-m3	Semantic search, RAG
Vision	Qwen3-VL-30B-A3B-Instruct-FP8, Gemini 2.5 Flash	Image analysis, multimodal chat
Audio/STT	whisper-large-v3, whisper-large-v3-turbo	Speech-to-text, translation
Image Generation	gpt-image-1	Image creation from text prompts

---

Hosting & Compliance

• Open-source models are hosted on the T-Cloud in Germany, fully GDPR-compliant.
• Proprietary models (GPT, Claude, Gemini) are hosted via MS Azure, AWS, or GCP in GDPR-compliant configurations.

All data processing stays within the EU.