Chat AI

Chat AI ist ein Webdienst, der über eine funktionenreiche, benutzerfreundliche Oberfläche Zugriff auf eine große Auswahl an großen Sprachmodellen (LLMs) bietet.
Er bietet eine sorgfältig ausgewählte Auswahl beliebter Open-Weight-Modelle, die in unserem eigenen Rechenzentrum laufen, sowie anonymen Zugriff auf externe Modelle von kommerziellen Anbietern.

Die Web-Oberfläche wird auf der Cloud-Infrastruktur von GWDG gehostet und leitet Ihre Anfragen sicher über unseren skalierbaren SAIA-Backend-Service an das ausgewählte Modell weiter, wobei entweder auf lokale HPC-Hardware oder, bei Modellen, die als extern gekennzeichnet sind, auf den Service-Endpunkt des kommerziellen Anbieters umgeleitet wird.
Unser KI-Team aktualisiert die Liste der unterstützten Modelle regelmäßig und entwickelt kontinuierlich neue Funktionen.

Chat AI ist unsere datenschutzfreundliche, sichere Alternative zu kommerziellen LLM-Diensten: Wir garantieren, dass Ihre Chatverläufe und andere Nutzerdaten nicht auf unseren Systemen gespeichert werden.¹

Der Dienst ist über seine Web-Oberfläche erreichbar.
Um die Modelle über die API zu nutzen, verweisen wir auf API-Antrag, und um die Modelle über Visual Studio Code zu nutzen, verweisen wir auf CoCo AI.

Wenn Sie lediglich eine schnelle Änderung Ihrer Persönlichkeit (Persona) benötigen, ist dieser der richtige Ort für Sie.

Aktuelle Modelle

Chat AI hostet derzeit eine große Auswahl hochwertiger, quelloffener Modelle. Alle Modelle außer ChatGPT werden selbst gehostet und garantieren die höchsten Standards im Bereich Datenschutz. Diese Modelle laufen vollständig auf unserer Hardware und speichern keine Nutzerdaten.

Für detaillierte Informationen zu allen unseren Modellen verweisen wir auf verfügbare Modelle.

Web-Oberfläche und Nutzung

Wenn Sie ein Academic Cloud-Konto besitzen, können Sie die Web-Oberfläche auch einfach über chat-ai.academiccloud.de erreichen.
Alle Modelle von Chat AI sind für alle Nutzer kostenlos nutzbar, mit Ausnahme der Modelle von OpenAI und Anthropic.
Diese sind in der Modellauswahl der Web-Oberfläche als „(Extern)“ gekennzeichnet.

Wählen Sie aus den verfügbaren Modellen ein Modell aus, das Ihren Bedürfnissen entspricht.
Nachdem Sie die Grundlagen der Nutzung erlernt haben, erfahren Sie mehr über die erweiterten Funktionen von ChatAI hier.

Aus der Web-Oberfläche heraus gibt es integrierte Aktionen, die Ihre Prompts erleichtern oder verbessern können. Dazu gehören:

• Anhängen (+-Button): Fügen Sie Dateien hinzu, die das Modell als Kontext für Ihre Prompts verwenden kann.
• Hören (Mikrofon-Button): Sprechen Sie dem Modell stattdessen zu, anstatt zu tippen.
• Importieren/Exportieren (Upload/Download-Button): Wenn Sie Gespräche aus einer vorherigen ChatAI-Sitzung oder einem anderen Dienst heruntergeladen haben, können Sie diese Sitzung importieren und fortsetzen.
• Fußzeile (Pfeil unten): Wechseln Sie zur Ansicht mit Fußzeile, die „Nutzungsbedingungen“, „FAQ“ usw. enthält und die Möglichkeit bietet, zwischen Deutsch und Englisch zu wechseln.
• Hell/Dunkelmodus (Sonne/Mond-Button): Wechseln Sie zwischen hellen und dunklen Modus.
• Optionen: Weitere Konfigurationsoptionen zur Feinabstimmung Ihrer Prompts und Modelle. Dazu gehören:
  • Systemprompt, der die Rolle definiert, die das Modell für Ihre Prompts übernehmen soll. Das Beispiel mit dem Vorstellungsgespräch oben ist ein solches Beispiel.
  • Vervollständigungsoptionen, wie temperature und top_p-Sampling.
  • Teilen-Button, der eine freigabefähige URL für Chat AI generiert, die Ihr aktuelles Modell, Ihren Systemprompt und andere Einstellungen lädt. Beachten Sie, dass dies Ihren Gesprächsverlauf nicht enthält.
  • Löschen-Button, der alle Daten löscht, die im Browser gespeichert sind, wodurch Ihre Gespräche und Einstellungen entfernt werden.
  • Speicher-Einstellungen: Das System unterstützt drei Speichermodi zur Steuerung des Gesprächs-Kontexts:
    • Kein Speicher: Deaktiviert den Speicher – jedes Gespräch wird unabhängig behandelt.
    • Erinnern: Fügt vorherige Nachrichten zum Systemprompt hinzu, um einen kontinuierlichen Kontext zu gewährleisten.
    • Lernen: Erweitert „Erinnern“ durch Aktualisierung des Speichers mit relevanten Teilen des aktuellen Gesprächs, was einen natürlicheren Dialogfluss ermöglicht.

Hinweis: Der Speicher wird lokal im Browser gespeichert und beeinflusst externe (OpenAI) Modelle nicht.

Wir empfehlen, vor Beginn Ihrer Sitzung einen Systemprompt festzulegen, um die Rolle zu definieren, die das Modell übernehmen soll. Ein detaillierterer Systemprompt ist in der Regel besser. Beispiele:

• „Ich werde Fragen zum Data Science stellen, zu denen ich detaillierte Antworten mit Beispielcode, falls relevant, und Zitaten zu mindestens drei Forschungsarbeiten zum jeweiligen Thema in jeder Frage möchte.“
• „Ich möchte den folgenden Text mit 40 % Kompression zusammenfassen. Geben Sie eine englische und eine deutsche Übersetzung an.“
• „Sie sind ein schwieriger Vorstellungsgesprächs-Interviewer bei der Deutschen Bahn und ich bewerbe mich um eine Stelle als Schaffner.“

Vervollständigungsoptionen

Zwei wichtige Konzepte unter den Vervollständigungsoptionen sind Temperature und top_p Sampling.

• temperature ist ein Schieberegler von 0 bis 2, der die Kreativität anpasst, wobei Werte nahe 0 vorhersehbarer und Werte nahe 2 kreativer sind. Dies geschieht, indem die Wahrscheinlichkeiten für das nächste Token (Baustein der Antwort) erweitert oder abgeflacht werden.
• top_p ist ein Schieberegler von 0 bis 1, der die Gesamtmenge der Wahrscheinlichkeiten anpasst, die für das nächste Token berücksichtigt werden. Ein top_p von 0,1 bedeutet, dass nur die oberen 10 % der kumulativen Wahrscheinlichkeiten berücksichtigt werden. Die Variation von top_p hat einen ähnlichen Effekt auf Vorhersehbarkeit und Kreativität wie temperature, wobei größere Werte als kreativer gelten.

Für vorhersehbare Ergebnisse, z. B. bei Programmieraufgaben, sind niedrige Werte für beide Parameter erforderlich, während kreative Ergebnisse, z. B. bei Brainstorming, hohe Werte erfordern. Weitere Empfehlungen finden Sie in der Tabelle im Abschnitt verfügbare Modelle.

Funktionen

Ausführlichere Dokumentation zu allen Funktionen finden Sie hier.

• Arcana / RAG
• Tools
• Speicher
• Personas
• Modell-Kontext-Protokoll (MCP)

Chat AI Tools

Im Einstellungsfenster finden Sie die Möglichkeit, Tools zu aktivieren.
Sobald aktiviert, sind diese Tools verfügbar:

• Web-Suche
• Bildgenerierung
• Bildbearbeitung
• Text-zu-Sprache (TTS)

Außerdem müssen Sie die Tools in den Einstellungen aktivieren, wenn Sie Toolbox nutzen möchten, also die Bild-, Video- und Audio-Funktionen der Modelle nutzen möchten.

Web-Suche

Dieses Tool erstellt eine Suchanfrage, die mit Suchmaschinen verwendet werden kann.
Der gesamte Chatverlauf wird verwendet und verarbeitet, um eine kurze Suchanfrage zu erstellen, die eine verarbeitbare Antwort generiert.
Sobald die Antwort von der Suchmaschine abgerufen ist, wird sie zusammen mit dem Modell verwendet, um eine Antwort auf die Eingabe zu verfassen.

Wichtigster Vorteil: Die Antwort kann aktuelle Informationen enthalten, anstatt die veralteten Informationen zu verwenden, die im ausgewählten Modell enthalten sind.

Weitere Informationen finden Sie in der Dokumentation zu den Tools.

Anerkennung

Wir danken Priyeshkumar Chikhaliya für die Gestaltung und Implementierung der Web-Oberfläche.

Wir danken allen Kollegen und Partnern, die an diesem Projekt beteiligt sind.

Zitierweise

Wenn Sie Chat AI in Ihrer Forschung, Dienstleistungen oder Publikationen verwenden, zitieren Sie uns bitte wie folgt:

@article{doosthosseini_saia_2026,
    title = {{SAIA}: a seamless {Slurm}-native solution for {HPC}-based services},
    volume = {82},
    issn = {1573-0484},
    url = {https://doi.org/10.1007/s11227-026-08508-3},
    doi = {10.1007/s11227-026-08508-3},
    number = {7},
    journal = {The Journal of Supercomputing},
    author = {Doosthosseini, Ali and Decker, Jonathan and Nolte, Hendrik and Kunkel, Julian},
    month = may,
    year = {2026},
    pages = {403},
}

Weitere Dienste

Falls Sie Fragen haben, lesen Sie zunächst die FAQ.
Für detailliertere Informationen zur Funktionsweise des Dienstes können Sie unseren Forschungsartikel hier lesen.
Falls Sie spezifischere Fragen haben, kontaktieren Sie uns gerne unter kisski-support@gwdg.de.