KI-Einstellungen¶
KI ist bei locali optional. Der Hub funktioniert vollständig ohne sie — Keyword-Tags und Routing-Regeln laufen unabhängig von jeder KI. Wer KI aktiviert, erweitert locali um semantische Suche, den Assistenten „Frag locali" und einige Komfortfunktionen.
Die Konfiguration liegt unter Governance → KI und ist in zwei Hubs geteilt, die unabhängig voneinander und in beliebiger Reihenfolge eingerichtet werden können:
- Semantische Suche & Empfehlungen — alles rund um Embeddings (Bedeutungssuche, Empfehlungen, semantisches Routing).
- Frag locali & Texthilfe — alles rund um das Sprachmodell (LLM) (der Assistent und Schreibhilfen).
Dazu kommt ein dritter Bereich, Wissenslücken, der zeigt, wo dem Hub Inhalte fehlen.
Der KI-Hauptschalter¶
Über beiden Hubs sitzt ein einziger Hauptschalter (Globale KI). Er ist der Not-Aus:
- Aus → sämtliche KI-Funktionen sind deaktiviert, egal was einzeln eingestellt ist.
- Ein → die einzelnen Funktionen greifen, sofern ihre Voraussetzungen erfüllt sind.
Beim Ausschalten bleiben alle gespeicherten Einstellungen erhalten — du kannst jederzeit ohne Neukonfiguration wieder einschalten.
Schalter sind nie ausgegraut
Kein Schalter ist „gesperrt", nur weil eine Voraussetzung fehlt. Du darfst deine Absicht immer setzen; locali zeigt daneben den einen wichtigsten offenen Punkt an (z. B. „Es fehlt ein Embedding-Anbieter"). Ob eine Funktion tatsächlich wirkt, entscheidet der Hub anhand der erfüllten Voraussetzungen — nicht die Reihenfolge deiner Klicks.
Hub: Semantische Suche & Empfehlungen¶
Dieser Hub konfiguriert das Einbettungsmodell (Embeddings) — ein Modell, das Texte in Zahlenvektoren umwandelt, damit inhaltliche Ähnlichkeiten zwischen Fragen und Inhalten erkannt werden.
Anbieter & Modell¶
Embedding-Anbieter, Modell, Dimension und API-Schlüssel legt der Betreiber beim Deployment über die Umgebung (Umgebungsvariablen des Hubs) fest — sie sind hier nur als Anzeige sichtbar, nicht editierbar. Das ist Absicht: Ein Wechsel des Embedding-Modells bettet den gesamten Bestand neu ein (andere Modelle erzeugen nicht vergleichbare Vektoren) — das ist eine Migration, keine Einstellung. Ein Modellwechsel läuft daher über die Umgebung + Deploy, nicht über ein Auswahlfeld im Hub.
| Feld | Beschreibung |
|---|---|
| Anbieter | Vom Betreiber gesetzt (z. B. OpenAI oder Ollama) — nur Anzeige |
| Modell | Vom Betreiber gesetzt, z. B. text-embedding-3-small (OpenAI) oder nomic-embed-text (Ollama) — nur Anzeige |
| Dimension | Vom Betreiber gesetzt (z. B. 1536) — nur Anzeige |
Funktionen¶
| Funktion | Wirkung |
|---|---|
| Indizierung | Baut/aktualisiert den semantischen Index über alle Inhalte (Voraussetzung für alles Weitere). |
| Hub-weite semantische Suche | Bedeutungssuche über den ganzen Hub. |
| Raumbezogene semantische Suche | Bedeutungssuche innerhalb eines Raums. |
| Personalisierung | Empfehlungs-Reihung im Feed. |
| Semantisches Routing | Ordnet neue Inhalte nach Bedeutung passenden Räumen/Gebieten zu — zusätzlich zu manuellen Regeln. |
Für semantisches Routing gibt es einen Schwellenwert-Regler (minimale Ähnlichkeit; Standard 0,72). Höher = strenger (weniger, treffsicherere Zuordnungen), niedriger = großzügiger.
Die Indizierungs-Werkzeuge (Abdeckung prüfen, Nachindizieren, Neu verarbeiten) erscheinen erst, wenn ein Embedding-Anbieter eingerichtet und die Indizierung eingeschaltet ist.
Technische Voraussetzung: pgvector
Einbettungen werden in der Datenbank gespeichert. Dafür muss die PostgreSQL-Erweiterung pgvector aktiv sein — sie ist in der Standard-Docker-Compose-Konfiguration bereits enthalten.
Retrieval-Feinabstimmung¶
Legt fest, wie genau Inhalte zu einer Frage passen müssen, bevor Frag locali und die intelligente Suche sie als Quelle verwenden. Diese Schwellen gelten Hub-weit und sind nur für Hub-Admins sichtbar. Drei Regler steuern je eine Mindestähnlichkeit:
| Regler | Wirkung |
|---|---|
| Beiträge | Wie ähnlich ein Beitrag mindestens sein muss, um noch als Quelle zu dienen. Höher = strenger. |
| Organisationen | Mindestähnlichkeit, ab der eine Organisation als Quelle vorgeschlagen wird. |
| Orte | Mindestähnlichkeit, ab der ein Ort als Quelle vorgeschlagen wird. |
Die Standardwerte sind pro Embedding-Anbieter abgestimmt: OpenAI trennt verwandte von unverwandten Inhalten klar (niedrigere Schwellen genügen), lokale Modelle wie Ollama drängen den gesamten Bestand in ein enges hohes Ähnlichkeitsband und brauchen deshalb höhere Startwerte. Der aktive Anbieter wird oben in der Sektion angezeigt.
Kalibrieren misst mit einem festen Prüfset, wie gut der aktuelle Anbieter on-topic von off-topic trennt (die Trennschärfe), und schlägt passende Schwellen vor. Ein hoher Wert bedeutet klare Trennung; nahe null trennt der Anbieter kaum und die Ergebnisse sind unzuverlässig. Mit Vorschlag übernehmen werden die vorgeschlagenen Werte in die Regler geladen — wirksam werden sie erst nach Speichern, das die Einstellung für alle Nutzer übernimmt. Auf Standard zurücksetzen verwirft alle Anpassungen und stellt die Anbieter-Standards wieder her.
Erst ausprobieren, dann festlegen
Zum risikofreien Experimentieren dient der Feinabstimmungsbereich unter „Frag locali“ (Ähnlichkeit/Anzahl Treffer): Er wirkt nur auf die eigene Anfrage, nicht Hub-weit. Ist ein guter Wert gefunden, lässt er sich hier als Hub-Standard hinterlegen und speichern.
Klärt die beste gefundene Quelle die Schwelle nur knapp, versieht Frag locali die Antwort mit einem dezenten Hinweis auf geringe Konfidenz — für alle Nutzer sichtbar.
Hub: Frag locali & Texthilfe¶
Dieser Hub konfiguriert das Sprachmodell (LLM) und die darauf aufbauenden Funktionen.
Anbieter, API-Endpunkt und API-Schlüssel des Sprachmodells legt der Betreiber beim Deployment über die Umgebung fest — im Hub sind sie nur als Anzeige sichtbar. Das Modell ist die einzige zur Laufzeit umschaltbare Einstellung: Du wählst es aus der vom Betreiber hinterlegten Auswahlliste (Standardmodell plus optionale weitere). Ein freies Modell-Textfeld gibt es bewusst nicht.
| Feld | Beschreibung |
|---|---|
| Anbieter | Vom Betreiber gesetzt (z. B. OpenAI oder Ollama) — nur Anzeige |
| API-Endpunkt | Vom Betreiber gesetzt (bei Ollama lokal, z. B. http://localhost:11434) — nur Anzeige |
| API-Schlüssel | Vom Betreiber über die Umgebung gesetzt — im Hub nicht sichtbar/editierbar |
| Modell | Zur Laufzeit wählbar aus der hinterlegten Auswahlliste, z. B. gpt-4o-mini, qwen2.5:3b |
Modell-Parameter¶
| Feld | Beschreibung |
|---|---|
| Temperatur | Kreativität/Zufälligkeit (0 = deterministisch; Standard 0,3) |
| Max. Ausgabe-Tokens | Maximale Antwortlänge (Standard 4096) |
| Reasoning / Thinking | Erweiterte Denkschritte bei unterstützten Modellen |
| Ollama Context Length | Kontextfenster für Ollama (nur bei Ollama) |
Funktionen¶
| Funktion | Wirkung |
|---|---|
| Frag locali (Assistent) | Die Q&A-Funktion für Mitglieder — Fragen in normaler Sprache, Antworten mit Quellen. |
| Hub-weit / raumbezogen | Eigene Schalter, ob der Assistent hub-weit und/oder innerhalb von Räumen verfügbar ist. |
| Fragen automatisch übersetzen | Übersetzt Fragen in anderen Sprachen vor der Suche ins Deutsche, damit „Frag locali" auch bei fremdsprachigen Fragen die deutschsprachigen Inhalte findet. Kostet einen zusätzlichen Modell-Aufruf pro Frage; standardmäßig aktiviert. |
| Entitätenerkennung | Erkennt Namen und Bezüge im Text zur besseren Erschließung. |
| Schreibhilfen | Formulierungshilfen — je Bereich (Verwaltung, Raum, Organisation) einzeln schaltbar. |
„Frag locali" braucht beides: LLM und Embeddings
Der Assistent beantwortet Fragen aus echten Quellen (Verfahren „RAG"). Dafür müssen beide Familien aktiv sein — Sprachmodell und Embeddings. Fehlen die Embeddings, schaltet locali den Assistenten bewusst auf „nicht verfügbar", statt eine quellenlose Antwort zu erfinden. Wenn der Assistent an ist, aber die semantische Suche noch nicht, zeigt der Hub genau diesen Hinweis — ohne dich zu blockieren.
Verbindung testen¶
Beide Hubs bieten einen Test-Knopf. Er führt einen echten Testlauf gegen den konfigurierten Anbieter aus (Embedding bzw. Chat) und zeigt Erfolg oder Fehler, die Antwortzeit, den tatsächlich verwendeten Anbieter/Modell und die Rohantwort — oder die ehrliche Fehlermeldung des Anbieters (ein Rate-Limit bekommt einen eigenen Hinweis). Dabei wird nichts gespeichert; der Test dient nur der Prüfung.
Anbieter-Übersicht¶
Welchen Anbieter (und welche Schlüssel) der Hub nutzt, entscheidet der Betreiber beim Deployment über die Umgebung — nicht zur Laufzeit im Hub. Diese Übersicht dient als Orientierung für diese Entscheidung.
| Anbieter | Anforderung | Geeignet für |
|---|---|---|
| Ollama | Lokal laufende Ollama-Instanz, kein Schlüssel | Datensouveräner Betrieb ohne externen KI-Dienst (Standard) |
| OpenAI | API-Schlüssel von openai.com | Einfache Cloud-Integration |
| Azure OpenAI | Azure-Ressource + API-Schlüssel | Azure-Umfeld mit Vorgaben zur Datenresidenz |
| Google Gemini | API-Schlüssel von Google AI Studio | Flexibler Cloud-Einsatz im Google-Ökosystem |
| Cohere | API-Schlüssel von cohere.com | NLP-Spezialmodelle & Embeddings |
| Mistral AI | API-Schlüssel von mistral.ai | Europäischer Anbieter, je nach Setup EU-Datenverarbeitung |
Wissenslücken¶
Fragen, auf die „Frag locali" keine belastbare Antwort geben konnte (weil passende Inhalte fehlten), werden unter Governance → KI → Wissenslücken gesammelt. Das ist kein Fehlerprotokoll, sondern eine Landkarte fehlender Inhalte: Sie zeigt dir, welche Quellen du ergänzen oder welche Themen du besser abdecken solltest.
Häufige Fragen¶
| Frage | Antwort |
|---|---|
| Muss ich beide Hubs einrichten? | Nein. Beide sind unabhängig und in beliebiger Reihenfolge einrichtbar. Nur „Frag locali" braucht beide Familien (LLM und Embeddings). |
| Gehen Einstellungen verloren, wenn ich den Hauptschalter ausschalte? | Nein — alle gespeicherten Einstellungen bleiben erhalten; du kannst jederzeit ohne Neukonfiguration wieder einschalten. |
| Warum ist ein Schalter an, aber die Funktion wirkt nicht? | Eine Voraussetzung fehlt noch — etwa weil der Betreiber den zugehörigen Anbieter/Schlüssel noch nicht per Umgebung gesetzt hat. locali zeigt neben dem Schalter den wichtigsten offenen Punkt an. |
| Warum kann ich Anbieter und Schlüssel hier nicht ändern? | Anbieter, API-Schlüssel und das Embedding-Modell/-Dimension setzt der Betreiber beim Deployment über die Umgebung (12-Factor-Secrets). Zur Laufzeit wählbar ist nur das LLM-Modell aus der hinterlegten Auswahlliste. |
| Speichert der Test-Knopf etwas? | Nein — der Test führt nur einen Probelauf gegen den Anbieter aus und zeigt das Ergebnis an. |
Kosten beachten
Cloud-KI erzeugt API-Kosten je nach Anbieter und Nutzungsvolumen. Bei vielen Inhalten oder häufigen Abfragen lohnt ein Blick in die Provider-Abrechnung.
Datenschutz und Verträge prüfen
Sobald externe KI-Anbieter verwendet werden, können Inhalte oder Fragen die eigene Infrastruktur verlassen. Betreiber müssen Anbieter, Region, Verträge und Rechtsgrundlagen selbst prüfen und verantworten. Für datensouveränen Betrieb: Ollama lokal einsetzen.
Fallback ohne KI
Ohne konfigurierten KI-Anbieter werden Inhalte ganz normal importiert — nur ohne KI-Anreicherung. Keyword-Tags und Routing-Regeln funktionieren vollständig unabhängig.