Zum Inhalt springen

Quickstart

Starten Sie in wenigen Minuten mit den AI Foundation Services. Diese Anleitung führt Sie durch die Installation des SDK, die Einrichtung der Authentifizierung und Ihren ersten API-Aufruf.

AI Foundation Services verwendet eine OpenAI-kompatible API, sodass Sie die offiziellen OpenAI-SDKs nutzen können.

Terminal-Fenster
pip install openai

Starten Sie sofort mit einem kostenlosen Test-Schlüssel:

  1. Besuchen Sie das API-Schlüssel-Portal
  2. Erstellen Sie ein Konto und generieren Sie Ihren API-Schlüssel
  3. Ihr Test-Schlüssel gibt Ihnen Zugang zu allen verfügbaren Modellen

Für produktive Workloads kaufen Sie über den T-Cloud Marketplace.

Terminal-Fenster
export OPENAI_API_KEY="your_api_key_here"
export OPENAI_BASE_URL="https://llm-server.llmhub.t-systems.net/v2"
Terminal-Fenster
curl -X POST "$OPENAI_BASE_URL/chat/completions" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "Llama-3.3-70B-Instruct",
"messages": [
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "What is quantum computing in simple terms?"}
],
"temperature": 0.5,
"max_tokens": 150
}'
from openai import OpenAI
client = OpenAI()
texts = ["The quick brown fox jumps over the lazy dog", "Data science is fun!"]
result = client.embeddings.create(input=texts, model="jina-embeddings-v2-base-de")
print(f"Embedding dimension: {len(result.data[0].embedding)}")
print(f"Token usage: {result.usage}")
from openai import OpenAI
client = OpenAI()
response = client.chat.completions.create(
model="Qwen3-VL-30B-A3B-Instruct-FP8",
messages=[
{
"role": "user",
"content": [
{"type": "text", "text": "What's in this image?"},
{
"type": "image_url",
"image_url": {
"url": "https://images.unsplash.com/photo-1546069901-ba9599a7e63c?w=400"
},
},
],
}
],
max_tokens=300,
)
print(response.choices[0].message.content)