So verwenden Sie Arcana

Warnung

Dieser Dienst befindet sich derzeit in der Beta-Phase und wird regelmäßig aktualisiert.
Das gilt auch für die Dokumentation.

Warnung

Bisher funktionierte RAG/Arcana nur mit bestimmten Modellen. Dies ist nicht mehr der Fall – Arcana funktionieren nun mit jedem Modell.
Die bisherige Methode, Arcana mit Modellen zu verwenden, die im Namen „RAG“ enthalten (oder das kleine Buch-Symbol haben), wird in Zukunft nicht mehr unterstützt. Bitte verwenden Sie die GWDG-Werkzeuge gemäß der untenstehenden Anleitung!

Diese Anleitung führt Sie durch zwei Hauptmethoden, um auf eine Arcana zuzugreifen:

  1. Schnellstart: Verwenden eines Zugangslinks (empfohlen für Anfänger)
  2. Erweitert: Manueller Zugriff über die Arcana-ID (für Fortgeschrittene und Integration)

Um eine Arcana zu nutzen, müssen Sie zunächst eine einrichten oder eine öffentlich verfügbare Arcana verwenden.

Wenn Ihnen ein Zugangslink zu einer Arcana zur Verfügung gestellt wurde (z. B. für eine Forschungsarbeit, Lehrmaterial oder eine institutionelle Dokumentation) oder wenn Sie Ihren eigenen nach der Anleitung zum Starten erstellt haben, ist dies die schnellste und einfachste Möglichkeit, zu beginnen.

Schritte

  1. Klicken Sie auf den Zugangslink, den der Arcana-Besitzer oder Sie selbst geteilt haben.
  2. Dies öffnet eine vorkonfigurierte Chat-AI-Oberfläche, die automatisch für diese Arcana konfiguriert ist.
  3. Beginnen Sie mit Fragen stellen – das System sucht relevante Inhalte aus dem indizierten Material heraus und generiert Antworten, die auf der Quelle basieren.

Manueller Zugriff: Verwenden der Arcana-ID

Für mehr Kontrolle können Sie eine Arcana auch manuell über ihre eindeutige Arcana-ID verbinden. Die Arcana-ID ist auch erforderlich, wenn Sie mit einer Arcana über die Chat-Vervollständigungs-API interagieren.

Schritte

  1. Navigieren Sie zu Chat-AI.

  2. Aktivieren Sie im Einstellungsmenü (rechte Seite) die Option GWDG-Werkzeuge.

  3. Geben Sie in das Feld Arcana die Arcana-ID ein (z. B. user1/arcana-123456).

  4. Wählen Sie das empfohlene Modell: Qwen 3 30B A3B Instruct 2507

    Info

    Wenn Sie die Meldung „Tools konnten nicht verwendet werden: Werkzeuge möglicherweise nicht unterstützt“ erhalten, während Sie mit RAG interagieren, wechseln Sie zu diesem Modell – es ist für werkzeugbasierte Abfragen optimiert.

  5. Passen Sie temperature und top_p auf den niedrigsten möglichen Wert an.

  6. Beginnen Sie mit der Interaktion mit der Arcana über die Chat-Oberfläche.

    Info

    Obwohl Arcana und GWDG-Werkzeuge mit anderen Modellen funktionieren können, liefert Qwen 3 30B A3B Instruct 2507 die konsistenteste Leistung mit der RAG-Funktion.

Um einen Zugangslink für Ihre Arcana zu generieren, folgen Sie dem Abschnitt Anzeigen Ihres Zugangslinks in der Anleitung zum Starten.

Best Practices für eine effektive Nutzung

Um qualitativ hochwertige, genaue Antworten zu erhalten, beachten Sie diese Empfehlungen:

1. Anpassen von „temperature“ und „top_p“

Für Arcana empfehlen wir, „temperature“ auf 0,0 und „top_p“ auf 0,05 zu setzen, um optimale Ergebnisse zu erzielen. Weitere Informationen zur Wirkung von „temperature“ und „top_p“ finden Sie im Abschnitt Vervollständigungsoptionen der Chat-AI-Dokumentation.

2. Verwenden Sie spezifische Stichwörter aus der Quelle

Unser RAG-System verarbeitet Dokumente, indem es PDFs in strukturierte Markdown konvertiert. Die LLM-Antwort wird dann verbessert, indem relevante Informationen aus diesen Dokumenten für Ihren Prompt extrahiert werden.
Weitere Informationen finden Sie im Docling-Prozess.

Fügen Sie Begriffe, Phrasen oder Konzepte aus dem Originaldokument in Ihren Prompt ein:

  • Vage: „Erzählen Sie mir etwas über dieses Datenset.“
  • Spezifisch: „Welche Bewertungsmetriken wurden im ImageNet-Test verwendet?“

3. Anpassen des Systemprompts

Für wichtige Arcana (z. B. Lernhilfen, Laborprotokolle oder wissenschaftliche Arbeiten) passen Sie den Systemprompt an, um den gewünschten Ton, das Format und die Antwortart zu definieren.

Beispiel

Sie sind eine hilfreiche Assistentin namens Sandra, die bereits viele Jahre bei der GWDG arbeitet. Beantworten Sie präzise die gestellte Frage.
Sie erhalten am Anfang Referenzen, die hilfreich sein könnten.
Wenn Sie die Antwort nicht kennen, geben Sie ehrlich an, dass Sie die Details nicht kennen.
Verweisen Sie bei Ihrer Antwort auf die verwendeten Quellen mit der [REF-Nummer]-Syntax, so nah wie möglich an der Verwendung.
Wenn die bereitgestellten Referenzen verwirrend sind, können Sie den Benutzer bitten, die notwendigen Details bereitzustellen, um zu identifizieren, welche zu verwenden sind.

4. Überprüfen der Referenzen in der Antwort

Nach jeder Abfrage liefert das System:

  • Die Antwort, angereichert mit Kontext aus dem indizierten Material.
  • Referenzen unter der Antwort, darunter:
    • Name der Quelldatei (z. B. imagenet.pdf)
    • Seitenangabe

Referenzen werden in Markdown gerendert, sodass Sie jeden Anspruch auf seine ursprüngliche Quelle zurückverfolgen können. Ursprünglich könnte die Information in einer PDF-Datei enthalten gewesen sein, die in eine annotierte Markdown-Datei konvertiert wurde, wie Sie im Docling-Prozess nachlesen können.

Beispiel

  • Prompt: Was ist ImageNet?
  • Beispielantwort: ImageNet ist eine große Ontologie von Bildern, die auf der Struktur von WordNet basiert. Sie soll die Mehrheit der 80.000 Synsets von WordNet mit durchschnittlich 500 bis 1000 sauberen und hochauflösenden Bildern füllen, was zu Millionen von annotierten Bildern führt, die nach der semantischen Hierarchie von WordNet organisiert sind.
Das Screenshot zeigt die ImageNet-Datensatz-Oberfläche. Es zeigt ein Chatbot-Fenster, angetrieben von Meta Llama 3.1 8B RAG, mit Optionen für Temperatur- und top_p-Einstellungen. Darunter sind Referenzen zu ImageNet-PDFs mit ihren Dateinamen und Prozentwerten aufgelistet. Unten befindet sich ein Texteingabefeld mit der Bezeichnung „Fragen Sie mich“ und Icons für das Importieren von Personas, Hochladen von Bildern und anderen Funktionen. Die Gesamtanordnung deutet auf ein Werkzeug hin, um mit dem ImageNet-Datensatz über ein großes Sprachmodell zu interagieren.

Arcana-Beispiel

Die Antwort enthält Quellenreferenzen aus der ursprünglichen ImageNet-PDF.