KI-Einstellungen¶
Die KI-Einstellungen steuern, welcher KI-Anbieter für die automatische Anreicherung von Inhalten verwendet wird. Die Konfiguration ist in zwei Abschnitte aufgeteilt, die jeweils unabhängig bearbeitet werden können.
locali kann importierte Inhalte automatisch anreichern:
- Tagging: Automatisches Vergeben von Tags basierend auf dem Inhalt
- Gebiets-Erkennung: Erkennen von Ortsnamen im Text
- Zusammenfassungen: Kurze Inhalts-Zusammenfassungen generieren (optional)
Abschnitt 1: Anbieter & Modell¶
Klicke auf „Bearbeiten" neben Anbieter & Modell, um den Dialog zu öffnen.
| Feld | Beschreibung |
|---|---|
| Anbieter | KI-Dienst: OpenAI, AzureOpenAI, GoogleAI, Cohere, Mistral, Ollama (self-hosted), … (Konfigurationsschlüssel) |
| Modell | Das zu verwendende Sprachmodell (z. B. gpt-4o-mini, llama3) |
| API-Endpunkt | Basis-URL des Dienstes (bei Ollama: lokale Adresse, z. B. http://localhost:11434) |
| API-Schlüssel | Authentifizierungsschlüssel — wird verschlüsselt gespeichert |
Wenn ein API-Schlüssel hinterlegt ist, wird in der Übersicht „API-Schlüssel ist gespeichert" angezeigt (niemals der tatsächliche Wert).
Abschnitt 2: Parameter¶
Klicke auf „Bearbeiten" neben Parameter, um die Modellparameter anzupassen.
| Feld | Beschreibung |
|---|---|
| Temperatur | Kreativität / Zufälligkeit (0 = deterministisch, 1 = kreativ; Standard: 0.3) |
| Max. Ausgabe-Tokens | Maximale Länge der KI-Antwort (Standard: 4096) |
| Reasoning / Thinking | Aktiviert erweiterte Denkfähigkeiten bei unterstützten Modellen |
| Ollama Context Length | Kontextfenster für Ollama-Modelle (optional, nur bei Ollama-Anbieter) |
Anbieter-Übersicht¶
| Anbieter | Anforderung | Geeignet für |
|---|---|---|
| OpenAI | API-Schlüssel von openai.com | Einfache Cloud-Integration |
| Azure OpenAI | Azure-Ressource + API-Schlüssel | Organisationen mit Azure-Umfeld und klaren Vorgaben zur Datenresidenz |
| Google Gemini | API-Schlüssel von Google AI Studio | Flexibler Cloud-Einsatz im Google-Ökosystem |
| Cohere | API-Schlüssel von cohere.com | NLP-Spezialmodelle & Embeddings |
| Mistral AI | API-Schlüssel von mistral.ai | Europäischer Anbieter mit EU-Datenverarbeitung je nach Setup |
| Ollama | Lokal laufende Ollama-Instanz | Datensouveräner Betrieb ohne externen KI-Dienst |
Kosten beachten
KI-Anreicherung erzeugt API-Kosten je nach Anbieter und Nutzungsvolumen. Bei großen Quellen mit häufiger Abfrage empfiehlt sich eine Überprüfung der Provider-Abrechnungen.
Datenschutz und Verträge prüfen
Wenn externe KI-Anbieter verwendet werden, können Inhalte oder Fragen die eigene Infrastruktur verlassen. Betreiber müssen Anbieter, Region, Verträge und Rechtsgrundlagen selbst prüfen.
Fallback ohne KI
Wenn kein KI-Provider konfiguriert ist, werden Inhalte ohne KI-Tags importiert. Keyword-Tag-Regeln und Routing-Regeln funktionieren vollständig unabhängig von KI.
Einbettungsmodell (Embeddings)¶
Für semantische Suche und „locali fragen" benötigt locali zusätzlich ein Einbettungsmodell — ein Modell, das Texte in Zahlenvektoren umwandelt, damit inhaltliche Ähnlichkeiten zwischen Fragen und importierten Inhalten erkannt werden können.
Die Konfiguration erfolgt unabhängig vom Sprachmodell.
| Feld | Beschreibung |
|---|---|
| Anbieter | Derselbe Anbieter wie das Sprachmodell oder ein eigener Embedding-Dienst |
| Modell | Empfohlen: text-embedding-3-small (OpenAI) oder nomic-embed-text (Ollama) |
| Dimensionen | Anzahl der Vektordimensionen — abhängig vom gewählten Modell |
Technische Voraussetzung
Einbettungen werden in der Datenbank gespeichert. Dafür muss die PostgreSQL-Erweiterung pgvector aktiv sein. Sie ist in der Standard-Docker-Compose-Konfiguration bereits enthalten.
„locali fragen" aktivieren¶
„locali fragen" ist die Q&A-Funktion für Mitglieder: Sie können Fragen in normaler Sprache stellen und erhalten Antworten mit Quellenangaben aus den importierten Inhalten des Hubs.
Die Funktion baut auf dem Sprachmodell und dem Einbettungsmodell auf — beide müssen konfiguriert und aktiv sein.
| Einstellung | Beschreibung |
|---|---|
| Funktion aktivieren | Schaltet die Q&A-Funktion für Mitglieder ein oder aus |
Antworten sollen sich auf gefundene Quellen stützen und diese sichtbar machen. Wenn keine ausreichende Grundlage gefunden wird, sollte der Hub keine sichere Antwort behaupten.
Voraussetzung: Einbettungsmodell
„locali fragen“ funktioniert nur, wenn ein Einbettungsmodell konfiguriert ist und alle importierten Inhalte indexiert wurden. Die Indexierung läuft automatisch im Hintergrund — bei einem neu eingerichteten Hub kann sie einige Zeit in Anspruch nehmen.