Community-Beiträge
Vielen Dank an alle, die dazu beitragen, diese Community durch Code-Beiträge, Tipps oder Unterstützung im KI-Community-Chat zu verbessern.
Die folgende Sammlung enthält Lernmaterialien und Werkzeuge, die von Mitgliedern der Community freundlicherweise zur Verfügung gestellt wurden, damit alle sie nutzen können.
Anmerkung
Bitte beachten Sie, dass wir aufgrund der Vielzahl der Beiträge nicht alle detailliert überprüfen können. Daher können wir weder die Funktionalität garantieren noch sicherstellen, dass sie aktuell gehalten werden.
Verfügbare Beiträge
Unten finden Sie eine umfassende Tabelle mit den Community-Beiträgen, die jeweils wichtige Informationen zu jedem Projekt enthalten. Eine detaillierte Beschreibung finden Sie weiter unten:
| Projekt | Autor | Typ | Wichtige Funktionen | Anwendungsfall | Links |
|---|---|---|---|---|---|
| SAIA-Python | Friedrich Schwarz (Uni Göttingen) | Python-Wrapperalib für SAIA | Objektorientierter SAIAClient sowie funktionale Einzelmethoden; umfasst Chat-Vervollständigungen (mit Streaming und Werkzeugaufruf), Spracherkennung/Übersetzung (Whisper), Dokumentenkonvertierung (Docling/PDF), RAG über ARCANA, Modellauflistung, Token-Tools (Token-Zählen, Subwort-Fruchtbarkeit) und Rate-Limit-Überprüfung; | Python-Entwickler, die SAIA-Dienste in Skripte, Notebooks oder Anwendungen integrieren möchten. Installieren mit pip install saia-python | GitHub / Dokumentation |
| SAIA CLI | Egor Kotov (MPI für demografische Forschung) | Bash-CLI-Schnittstelle für SAIA API | Einzelnes Skript (saia.sh); umfasst Modelle, Rate-Limits, Docling-Dokumentenkonvertierung, Embeddings, Audioverarbeitung, Einzelschritt-Chat-Vervollständigungen, Text-/Bildgenerierung und ARCANA RAG-Abfragen; liest Prompts von stdin für Pipeline-Nutzung; erfordert nur curl, jq und base64; keine Installation nötig, herunterladen und ausführen | Schnelle Terminal-Tests, Shell-Pipelines und lightweight-Automatisierung ohne Python-Umgebung | GitHub |
| Docling GWDG Proxy | Marc Schütze | Proxy-Dienst | Leichtgewichtiger FastAPI-Dienst (Docker Compose bereit); übersetzt das docling-serve-Multipart-API-Format von Open WebUI in die GWDG-Docling-API; gibt Markdown, JSON, HTML, Klartext und Doctags-Ausgabe zurück; konfigurierbar über Umgebungsvariablen (GWDG_API_KEY, GWDG_API_URL); enthält Health-Check-Endpunkt; | Open WebUI-Nutzer, die die GWDG-Dokumentenkonvertierungs-Backend-Infrastruktur anstelle einer lokalen docling-serve-Instanz nutzen möchten | GitHub |
| ChatAI RAG-Tutorial | Luca Tielke (Universität Hamburg) | Trainingsanleitung | Schritt-für-Schritt-Blog-Beitrag (auf Deutsch), der den kompletten Workflow zur Erstellung eines Chatbots mit benutzerdefinierten Dokumentenquellen mithilfe des GWDG-ARCANA-Dienstes in Chat AI abdeckt; behandelt Arcana-Konfiguration, Dokumenten-Indexierung und Abfragen, gerichtet an Nutzer ohne vorherige RAG-Erfahrung | Lernen, kostenfreie, datenschutzfreundliche Chatbots mit eigenen Quellen über Chat AI zu erstellen | Tutorial |
| SAIA OpenCode-Plugin | Tobias Weiß (graphwiz-ai) | OpenCode-Plugin | Bash-Skript, das die aktuellste SAIA-Modellliste von der API abruft und eine opencode.json mit allen Modellen korrekt kategorisiert (Schlussfolgerung, Code, Vision, Medizin, Forschung, agente, großes Kontextfenster, allgemein) generiert; unterstützt LiteLLM-Proxy-Integration; erfordert nur curl und jq | Entwickler, die SAIA-Modelle direkt in ihren Code-Assistenten verwenden möchten | Codeberg / GitLab |
Projektbeschreibungen
SAIA-Python
SAIA bietet selbst gehostete, OpenAI-kompatible KI-Dienste bei GWDG, einschließlich Chat-Vervollständigungen, Spracherkennung/Übersetzung, Dokumentenkonvertierung und RAG (ARCANA).
Diese Python-Wrapperalib für die GWDG-SAIA REST-API wurde von Friedrich Schwarz von der Uni Göttingen entwickelt, um eine saubere, wartbare Verbindung zwischen Python-Workflows und diesen Diensten herzustellen.
Friedrich hat das Projekt GWDG zur Verfügung gestellt, um eine mögliche Zusammenarbeit zu ermöglichen, und hat seine Bereitschaft zur Pflege des Pakets für andere Nutzer angekündigt, abhängig von seiner zukünftigen Position.
Die Bibliothek bietet sowohl einen objektorientierten SAIAClient als auch gleichwertige funktionale Einzelmethoden für Nutzer, die einen funktionalen Stil bevorzugen.
Streaming-Antworten und OpenAI SDK-Kompatibilität sind unterstützt.
API-Zugangsdaten werden automatisch aus der SAIA-Umgebungsvariable, einer .saia_api-Datei oder einer .env-Datei erkannt.
Vollständige Sphinx-Dokumentation ist online verfügbar; ein interaktives Demo-Notebook ist im Repository enthalten.
SAIA CLI
Ein einfacher, minimaler Abhängigkeits-Bash-CLI-Client für die SAIA-API.
Dieser Client bietet eine minimalistische Möglichkeit, direkt über Ihre Terminal-Sitzung mit allen SAIA-Diensten und Inferenz-Endpunkten zu interagieren, was ihn ideal für schnelle Tests, Shell-Pipelines und lightweight-Automatisierung macht.
Beigetragen von Egor Kotov vom Max-Planck-Institut für demografische Forschung, als leichtgewichtige Alternative für Nutzer, die keine vollständige Python-Umgebung benötigen.
Das Projekt wurde GWDG zur Verfügung gestellt.
Der Client ist ein einzelnes Bash-Skript, das keine Installation außer curl, jq und base64 erfordert.
Laden Sie das Skript direkt in das Verzeichnis ~/.local/bin herunter und es ist sofort verwendbar.
Unterstützt alle wichtigen SAIA-Endpunkte: Modellauflistung, Rate-Limit-Überprüfungen, Docling-PDF-zu-Markdown-Konvertierung, Embeddings, Audio-Transkription/Übersetzung, Chat-Vervollständigungen mit benutzerdefinierten Systemprompts, Textgenerierung, Bildgenerierung und ARCANA RAG-Abfragen.
Akzeptiert Prompts über stdin, was die Integration in Shell-Pipelines erleichtert.
Docling GWDG Proxy
Ein FastAPI-basierter Proxy-Dienst, der mit Docker Compose bereitgestellt werden kann.
Open WebUI erwartet ein docling-serve-kompatibles API, während GWDG seine eigene Docling-API mit einem anderen Anfrage-/Antwort-Format bereitstellt.
Dieser Proxy schließt die Lücke, indem er die Multipart-Datei-Uploads von Open WebUI empfängt, sie an die GWDG-Docling-API mit Bearer-Authentifizierung weiterleitet und die Antwort in das docling-serve-Format transformiert, das Open WebUI erwartet (Rückgabe von Markdown, JSON, HTML, Klartext und Doctags).
Konfigurieren Sie über eine .env-Datei mit Ihrem GWDG_API_KEY (SAIA-API-Schlüssel).
ChatAI RAG-Tutorial
Ein Blogbeitrag auf Deutsch von der Universität Hamburg, der den gesamten Prozess der Einrichtung eines retrieval-augmentierten Chatbots mithilfe des GWDG-ARCANA-Dienstes innerhalb von Chat AI beschreibt.
Bedeckt alles von der ersten Arcana-Konfiguration und dem Hochladen eigener Dokumente bis hin zur Abfrage des resultierenden Chatbots, mit Fokus auf Kostenminimierung und datenschutzfreundliche Datenverarbeitung.
Geeignet für Nutzer ohne vorherige RAG-Erfahrung.
OpenCode SAIA-Plugin
Ein OpenCode-Plugin, entwickelt von Tobias Weiß (graphwiz-ai), basierend auf einem ursprünglichen Nebenprojekt von Jaison Lewis bei GWDG.
Es integriert alle SAIA-(GWDG-Chat AI)-Modelle direkt in OpenCode-Konfigurationen.
Das Plugin ruft die aktuellste SAIA-Modellliste von der API ab und generiert automatisch eine korrekt kategorisierte opencode.json-Konfigurationsdatei mit Modellen, die nach Anwendungsfall organisiert sind: Schlussfolgerung, Code, Vision, Medizin, Forschung, agente, großes Kontextfenster und allgemein.
Die Modelle werden mit reichhaltigen Metadaten angereichert, einschließlich Kontextfenstergrößen, Ausgabegrenzen, Schlussfolgerungsflags und Vision-Fähigkeiten.
Das Plugin generiert bequeme Aliase (z. B. saia/best-for-coding, saia/best-for-reasoning) und unterstützt die LiteLLM-Proxy-Integration für Caching und Rate-Limiting.
Die Installation ist plattformübergreifend (Linux/macOS/Windows) und erfordert nur curl und jq.
Das Plugin wird auf Codeberg gepflegt, mit einem Mirror auf GitLab, und enthält JSON-Schema-Validierung, umfassende Dokumentation und Fehlerbehebungsanleitungen.