MUCGPT
MUCGPT ist das KI-Werkzeug für die Stadtverwaltung München, das Mitarbeiter*innen sicher und konform die Arbeit mit generativen KI-Modellen ermöglicht.
Diese Dokumentation fasst die wichtigsten Funktionen und Limitierungen von MUCGPT zusammen. MUCGPT ist Open Source, kann als Container betrieben werden und lässt sich an beliebige OpenAI‑kompatible KI-Modellanbieter anbinden.
Einführung und Kontext
MUCGPT ist eine Assistenz‑zuerst‑Plattform für die Arbeit mit großen Sprachmodellen. Chats sind der Ort, an dem gearbeitet wird; Assistenten bringen Struktur, damit wiederkehrende Aufgaben schneller und zuverlässiger erledigt werden können. Die Historie bleibt lokal im Browser (IndexedDB), vergangene Gespräche können fortgesetzt und favorisiert werden.
Funktionen
MUCGPT unterstützt eine Vielzahl von Anwendungsfällen rund um Textbearbeitung, Ideation und Zusammenarbeit. Die wichtigsten Bereiche im Überblick:
Chat
Der Chat bietet einen klaren Arbeitsbereich zur Interaktion mit dem Sprachmodell.
- System‑Anweisung und Temperatur lassen sich konfigurieren, um Tonalität und Kreativität zu steuern.
- Mehrstufige Konversationen werden unterstützt; der Verlauf bleibt lokal im Browser.
Assistenten erstellen
Assistenten kodifizieren wiederkehrende Arbeitsweisen: Instruktionen, Ton, Randbedingungen und Modelleinstellungen. Optional können Startprompts, Folgeaktionen und Tools hinterlegt werden. Private Assistenten bleiben privat; Sie entscheiden, wann Sie teilen.
Assistenten teilen
Assistenten können mit ausgewählten Teams oder breiter veröffentlicht werden. Eigentümerschaft, Gültigkeitsbereich und Konfiguration sind transparent, damit Kolleg*innen verstehen, was ein Assistent leistet.
Erweiterbare Tools
Assistenten können eingebaute und erweiterbare Tools nutzen, zum Beispiel:
- Zusammenfassen: Lange Texte kondensieren.
- Brainstorming: Mindmaps generieren und exportieren.
- Leichte Sprache: Komplexe Texte vereinfachen.
Die Plattform ist so ausgelegt, dass weitere Tools je nach Bedarf ergänzt werden können.
Startseite
Die neue Startseite fokussiert sich auf Assistenten und bietet einen schnellen Einstieg in den Chat.
Modellauswahl
Verfügbare Modelle können ausgewählt und die Kreativität passend zur Aufgabe eingestellt werden. Die Auswahl ist für Nutzer*innen transparent.
Tutorials
Geführte Beispiele und Tipps helfen beim schnellen Einstieg und fördern gute Nutzungsmuster.
Dark Mode und Internationalisierung
Barrierearme Oberfläche mit Dark Mode und Unterstützung für mehrere Sprachen.
Allgemeine Ausgabeformate
Generierte Inhalte werden korrekt dargestellt, unter anderem:
- Markdown
- PLAIN HTML
- Mermaid‑Diagramme in Markdown‑Codeblöcken
- Mathematische Formeln (LaTeX,
$$ ... $$)
KI-Modelle
MUCGPT greift auf große Sprachmodelle zu. Diese wurden nicht mit städtischen Daten trainiert und besitzen daher nur öffentliches/allgemeines Wissen. Welche Modelle zur Auswahl stehen, wird zentral konfiguriert; grundsätzlich können beliebige OpenAI‑kompatible Modelle angebunden werden.
Aktuelle Modelle umfassen u.a.:
- die GPT-4.1 Modellfamilie von OpenAI
- Mistral-Large-3 von Mistral AI
Risiken und Limitierungen
Obwohl die MUCGPT viele Vorteile bietet, gibt es auch einige Risiken und Limitierungen:
- Bias in den Daten: Die KI-Modelle können Vorurteile aus den Trainingsdaten übernehmen.
- Sprachliche Beschränkungen: Die Qualität der Antworten kann je nach Sprache, ausgewähltem Sprachmodell und Formulierung der Anfrage variieren.
- Datenschutz: Es dürfen keine personenbezogenen Daten eingegeben werden, solange Cloud‑Modelle eingesetzt werden. Interne Daten sind erlaubt.
- Entscheidungsfindung: MUCGPT darf nicht für abschließende Entscheidungen verwendet werden, die gegenüber Personen rechtliche Wirkung entfalten oder sie in ähnlicher Weise erheblich beeinträchtigen (Art. 22 Abs. 1 DSGVO). Derartige Entscheidungen müssen stets von Menschen getroffen werden.
Technische Architektur
MUCGPT folgt einer schlanken Microservices‑Architektur:
- Frontend (React) als Benutzeroberfläche
- API‑Gateway als Eintrittspunkt mit Authentifizierung (SSO via Keycloak)
- Core‑Service (FastAPI + LangGraph) für LLM‑Orchestrierung und Tools
- Assistant‑Service (FastAPI + PostgreSQL) für Assistenten‑Konfiguration und Freigaben
- Optional: Langfuse für Observability, Kreuzberg als Parser für Dokumente
Weiterführende Details: Architekturüberblick im MUCGPT‑Repository https://github.com/it-at-m/mucgpt#architecture-overview