Zum Inhalt springen
Wissensmanagement

Second Brain oder RAG: Welches Wissen braucht Ihre Unternehmens-KI?

Dokumente durchsuchen und laufendes Arbeitswissen erhalten sind unterschiedliche Aufgaben. So wählen Sie den passenden Einstieg und verbinden beide Ansätze.

Merlin Hemmerich5 Min. Lesezeit
Links ein Dokumentenindex mit Registern und Lupe über einer markierten Fundstelle; rechts miteinander verbundene Notizen, eine Entscheidungsraute und eine Aufgabenliste.
Redaktionelle Illustration, keine Produktansicht. · Illustration: Hemmerich Consulting

Zwei Aufgaben, die im KI-Alltag oft vermischt werden

Ihr Team möchte im Handbuch eine Regel finden. Gleichzeitig soll die KI wissen, was im Projekt gestern entschieden wurde. Beide Wünsche betreffen Unternehmenswissen, brauchen aber unterschiedliche Vorarbeit.

RAG steht für Retrieval-Augmented Generation: Passende Inhalte werden aus einer Wissensquelle gesucht und dem Modell für seine Antwort bereitgestellt. Mit „Second Brain“ bezeichnen wir bei Hemmerich Consulting eine gepflegte Arbeits- und Wissensstruktur außerhalb einzelner Chats. Darin liegen unter anderem Projekte, Quellen, Entscheidungen und Arbeitsprotokolle. Der Begriff bezeichnet hier unsere Arbeitsweise, kein einheitlich genormtes Softwareprodukt.

RAG hilft beim Finden vorhandener Informationen

Ein typischer Einstieg ist eine Frage zu freigegebenen Handbüchern oder Richtlinien. Die Suche soll passende Abschnitte liefern, aus denen die KI eine Antwort mit nachvollziehbaren Fundstellen vorbereitet.

Die Open-WebUI-Dokumentation zu RAG beschreibt, wie Dokumente in Antworten einbezogen und Quellen angezeigt werden können. Für den praktischen Einsatz ist entscheidend, ob die richtigen Unterlagen zugänglich sind und ob die Suche tatsächlich die passende Passage bereitstellt.

RAG erzeugt nicht von selbst eine aktuelle Projektdokumentation. Wenn eine wichtige Entscheidung nur in einem Gespräch gefallen ist, muss sie zunächst verlässlich festgehalten und für den jeweiligen Zugriff bereitgestellt werden.

Ein Second Brain erhält den laufenden Arbeitsstand

Ein Second Brain soll den Zusammenhang zwischen Aufgabe, Quellen, Entscheidungen und nächsten Schritten bewahren. Statt ausschließlich alte Chats zu durchsuchen, liest die KI vor einer Aufgabe die passenden Projektakten und Arbeitsregeln ein. Nach einem Arbeitsblock werden relevante Ergebnisse und offene Punkte am vereinbarten Ort ergänzt.

Das kann beispielsweise so aussehen:

  • Eine Projektakte hält Ziel, aktuellen Stand und offene Entscheidungen fest.
  • Quellen sind mit Datum und Bezug zur jeweiligen Aussage verknüpft.
  • Arbeitsprotokolle dokumentieren relevante ausgeführte Schritte und Änderungen.
  • Dauerhaft nützliches Wissen bekommt einen eigenen, auffindbaren Platz.

Eine solche Struktur muss gepflegt werden. Wenn falsche Ergebnisse ungeprüft zurückgeschrieben werden, bleiben sie ebenfalls erhalten. Deshalb gehören fachliche Prüfung und klare Regeln für Änderungen zur Einrichtung.

Welcher Einstieg passt zu welcher Aufgabe?

Ihre FrageSinnvoller erster Schwerpunkt
Wo steht die gültige Regel in unserem Handbuch?Dokumentenbestand, Zugriffsrechte und Suche mit Fundstellen
Was wurde in diesem Projekt entschieden?Aktuelle Projektakte mit Entscheidungen und Quellen
Wie arbeitet die KI im nächsten Chat am gleichen Stand weiter?Gespeicherter Kontext und klarer Startablauf
Wie machen wir viele freigegebene Unterlagen für das Team nutzbar?Gemeinsame Wissensquellen, Rollen und passende Suchanbindung

Die Auswahl ist keine Entweder-oder-Entscheidung. Eine gepflegte Projektakte kann selbst Teil einer durchsuchbaren Wissensbasis sein. Umgekehrt kann eine Dokumentensuche Quellen für die laufende Projektarbeit liefern.

So können beide Ansätze zusammenarbeiten

Ein vereinfachtes Beispiel: Eine Mitarbeiterin bereitet eine Kundenanfrage vor. Die Projektakte enthält den aktuellen Auftrag und offene Fragen. Eine Suchanbindung liefert die relevanten freigegebenen Produktinformationen. Die KI erstellt daraus einen Entwurf und verweist auf die verwendeten Grundlagen. Nach fachlicher Prüfung wird der neue Arbeitsstand dokumentiert.

Das ist ein erklärendes Beispiel, kein gemessenes Kundenergebnis. Welche Schritte automatisch laufen dürfen und welche Freigaben nötig sind, wird für den konkreten Ablauf festgelegt.

Kann das Wissen beim Wechsel des KI-Anbieters bleiben?

Lesbare Dateien und eigene Sicherungen erleichtern es, dokumentiertes Wissen weiterzuverwenden. Sie ersetzen aber nicht die Einrichtung des neuen Werkzeugs. Dateizugriff, Arbeitsregeln, Modellanbindung und externe Verbindungen müssen erneut passen.

Eine vorhandene Suchanbindung kann außerdem eigene Indizes, Dokumentformate und Berechtigungen verwenden. Beim Wechsel sollten Sie deshalb Quellen und Zugriffsregeln prüfen und die Suche an denselben Aufgaben testen. „Wir haben die Dateien noch“ und „die neue KI findet den richtigen Kontext“ sind zwei unterschiedliche Zustände.

Welche Rolle spielt lokale KI?

Ein Second Brain legt zunächst fest, wie Wissen organisiert und genutzt wird. Eine lokale KI-Umgebung betrifft dagegen den Verarbeitungsort und die technische Bereitstellung der Modelle. Beides kann zusammenpassen, muss aber gezielt eingerichtet werden.

Auch bei einer lokalen Oberfläche sind die Datenwege zu prüfen. Für Dokumentenerkennung, Suchmodelle oder weitere Werkzeuge können externe Dienste angebunden sein. Eine hybride Lösung braucht klare Regeln, welche Informationen die eigene Umgebung verlassen dürfen.

Einen ersten Wiederfinde-Test durchführen

Beginnen Sie mit einem abgegrenzten Projekt und einem überschaubaren Dokumentensatz. Halten Sie eine echte Entscheidung samt Quelle und offenen Punkten fest. Starten Sie anschließend einen neuen Chat und prüfen Sie, ob der gespeicherte Stand richtig eingeordnet wird.

Stellen Sie außerdem eine Frage zu einer bekannten Dokumentenpassage und eine Frage, die sich aus den freigegebenen Unterlagen nicht beantworten lässt. Ein brauchbarer Ablauf muss nicht nur etwas finden, sondern auch fehlende Grundlagen erkennbar machen. Das sind vorgeschlagene Prüfschritte, keine Zusage eines bestimmten Ergebnisses.

Unterstützung bei Struktur und Einrichtung

Wir haben Dutzende Second Brains für Kunden eingerichtet und passen Struktur, Arbeitsregeln und Dokumentation an die Aufgaben an. Auf unserer Second-Brain-Seite finden Sie den Einrichtungsumfang und ein kostenloses Starterpaket. Der Paket-Zugang gegen E-Mail führt nicht automatisch zu einer Newsletter-Anmeldung.

Wenn Sie zunächst klären möchten, welche Wissensquellen und Abläufe zusammengehören, ist eine Prozessanalyse ein möglicher Einstieg. Bei einem klaren Anwendungsfall können wir direkt über die Umsetzung sprechen.

Quellen und Einordnung

Technische Grundlage, geprüft am 09.11.2026: Open WebUI: Retrieval Augmented Generation und Knowledge Bases and Document Chat. Die Second-Brain-Struktur und der vorgeschlagene Wiederfinde-Test beschreiben unsere Arbeitsweise. Die Eignung für Ihren Betrieb wird an den konkreten Aufgaben geprüft.

Mit KI-Unterstützung erstellt. Die Quellen sind im Beitrag verlinkt.

Blog abonnieren

Neue Blogartikel erscheinen im RSS-Feed, sobald sie veröffentlicht sind. Unser separater KI-Newsletter bündelt ausgewählte KI-Neuigkeiten und Praxiswissen für Unternehmen, ohne festen Versandrhythmus. Die freiwillige Anmeldung erfolgt mit Bestätigung und ist jederzeit widerrufbar. Sie löst keinen E-Mail-Versand jedes Blogartikels aus.

Was bedeutet das für Ihren Betrieb?

Wir besprechen Ihre Aufgabe und ordnen gemeinsam ein, welcher nächste Schritt sinnvoll ist.

Vorhaben besprechen