SmartChat Benutzerhandbuch

Einführung & Allgemeine Informationen

Der T-Systems SmartChat ist eine KI-Chatbot-Anwendung. Der SmartChat ermöglicht die sichere Interaktion mit eigenen Datenquellen anhand von natürlicher Sprache. Auf diese Weise kann in Dokumenten nach Informationen gesucht, deren Inhalte zusammengefasst und auf deren Basis neue Inhalte oder spezifische Output-Formate generiert werden.

Die technische Grundlage bildet eine Retrieval Augmented Generation (RAG) Architektur. RAG sorgt dafür, dass Informationen aus Dateien oder Datenbanken abgerufen und dem Sprachmodell (Large Language Model, LLM) als Kontext bereitgestellt werden. So stützen sich die Antworten im Chat auf die gefundenen Inhalte. Der SmartChat zeigt den Namen der genutzten Quelle an.

Die im SmartChat verwendeten Sprachmodelle werden nicht durch die Eingaben der Nutzenden trainiert. Die Verarbeitung der Daten erfolgt in einer sicheren Cloud-Umgebung innerhalb der EU, welche von der Telekom betrieben wird. Es steht eine Auswahl verschiedener LLMs zur Verfügung, die stets aktualisiert und nach neuesten Verfügbarkeiten angepasst werden.