FAQ

Was sind die AI Foundation Services?

Die AI Foundation Services von T-Systems bieten Unternehmen eine sichere, DSGVO-konforme Plattform für die Entwicklung und Skalierung von KI-Lösungen mit LLMs. Sie ermöglichen die Nutzung von über 15 Sprachmodellen — darunter Open-Source-Modelle wie Llama oder Mistral — sowie fertige Dienste für RAG und Fine-Tuning. Betrieben auf der T-Cloud in Deutschland, erfüllen sie höchste Anforderungen an Datenschutz und Datensouveränität.

Welche LLMs sind verfügbar?

Die Auswahl wird kontinuierlich mit Open- und Closed-Source-Modellen aktualisiert, darunter Meta Llama, Mistral, DeepSeek, Qwen, OpenAI GPT und Claude Sonnet. T-Systems bietet unimodale und multimodale Modelle, die Text, Bild und Audio verarbeiten können. Siehe Verfügbare Modelle für die aktuelle Liste.

Auf welcher Cloud-Plattform wird das Hosting bereitgestellt?

Open-Source-Modelle werden auf der DSGVO-konformen T-Cloud gehostet. Closed-Source-Modelle werden DSGVO-konform auf MS Azure, AWS oder Google Cloud gehostet.

Kann ich die AI Foundation Services kostenlos testen?

Ja! Holen Sie sich einen kostenlosen Test-Schlüssel unter: API-Schlüssel-Portal

Wie ist die Preisstruktur aufgebaut?

Es gibt Komponenten für LLM, RAG und Fine-Tuning. Die LLM-Komponente bietet verschiedene Tarife mit nutzungsbasierter Abrechnung der verbrauchten Tokens. Für RAG (SmartChat) wird eine monatliche Flatrate basierend auf Nutzern und Speicher vereinbart. Siehe die Seite Tarife & Preise für Details.

Was sind die Rate Limits?

Rate Limits (TPM und RPM) hängen vom gewählten Tarif ab. Beispielsweise bietet der Basic-Tarif 18.750 Input-TPM und 20 RPM, während Standard4000 bis zu 150.000 Input-TPM und 600 RPM bietet. Siehe Rate Limits für Details.

Können zusätzliche LLMs bereitgestellt werden?

Ja, auf Anfrage können zusätzliche Modelle auf dedizierten GPU-Ressourcen gehostet werden. In diesem Fall erfolgt die Abrechnung auf Basis der benötigten GPU-Ressourcen statt nutzungsbasiert. Kontaktieren Sie das AIFS-Team für Details.

Wie bestelle ich LLM-Serving?

Der Basic-Tarif kann über den T-Cloud Marketplace bestellt werden. Für höhere Tarife kontaktieren Sie uns für ein individuelles Angebot.

Wie bestelle ich SmartChat?

Kontaktieren Sie uns für ein Angebot. Zukünftig wird die Bestellung auch über den T-Cloud Marketplace möglich sein.

Kann SmartChat in bestehende Anwendungen integriert werden?

Ja, SmartChat kann über die SmartChat-API in bestehende Prozesse oder Anwendungen integriert werden. Verbinden Sie Datenbanken oder Systeme sicher für maximale Effizienz.