Internes Wissen mit KI durchsuchbar machen

Jeder Betrieb kennt die Situation. Eine Kundin stellt eine Frage, die schon einmal beantwortet wurde, doch niemand weiss mehr, wo. Die Information steckt irgendwo: in einer alten Mail, einem Handbuch, einer Offerte oder im Kopf eines Kollegen, der gerade in den Ferien ist. Das Wissen ist da, aber es ist nicht greifbar.

Genau hier eröffnet KI einen neuen Weg. Statt Dokumente mühsam nach Stichworten zu durchforsten, lässt sich das gesammelte Wissen eines Betriebs in natürlicher Sprache befragen. Dieser Artikel zeigt, wie das funktioniert, worauf es ankommt und wie ein solches System auch in einem KMU realistisch entsteht.

Warum die klassische Suche scheitert

Die gewöhnliche Stichwortsuche hat einen grundlegenden Schwachpunkt: Sie findet nur, was wörtlich übereinstimmt. Wer nach «Rückgabefrist» sucht, findet ein Dokument nicht, in dem von «Widerrufsrecht» oder «Rücksendung innert 14 Tagen» die Rede ist. Die Bedeutung ist dieselbe, die Worte sind es nicht, und die Suche bleibt erfolglos.

Dazu kommt die Zersplitterung. Wissen liegt in Mail-Postfächern, auf geteilten Laufwerken, in einem CRM, in PDF-Handbüchern und in unzähligen Notizen. Jedes System hat seine eigene Suche, keines kennt die anderen. Wer eine Antwort sucht, muss wissen, wo er suchen muss, und genau dieses Wissen fehlt oft.

Das Ergebnis ist teuer, auch wenn es auf keiner Rechnung steht. Mitarbeitende verbringen einen erheblichen Teil ihrer Zeit mit dem Suchen von Informationen, die eigentlich vorhanden sind. Diese Zeit fehlt für die eigentliche Arbeit, und die Frustration wächst mit jeder erfolglosen Suche.

Wie KI Wissen versteht statt nur findet

Der entscheidende Unterschied liegt darin, dass moderne KI Bedeutung erfasst. Sie wandelt Texte in eine mathematische Darstellung um, in der ähnliche Inhalte nahe beieinanderliegen, unabhängig von den genauen Worten. «Rückgabefrist» und «Widerrufsrecht» landen dadurch dicht beisammen, weil sie inhaltlich zusammengehören.

Auf dieser Grundlage funktioniert die Suche völlig anders. Mitarbeitende stellen eine Frage in ganz normaler Sprache, so wie sie eine Kollegin fragen würden. Das System findet die inhaltlich passenden Stellen in den hinterlegten Dokumenten und die KI formuliert daraus eine verständliche Antwort. Der Verweis auf die Quelle bleibt dabei erhalten, sodass sich jede Aussage nachprüfen lässt.

RAG: das Prinzip dahinter

Das Verfahren, das dies möglich macht, trägt den Namen retrieval-augmented generation, kurz RAG. Der Ablauf ist in zwei Schritte geteilt, und diese Trennung ist der Grund für seine Verlässlichkeit. Zuerst durchsucht das System Ihre eigenen Dokumente und holt die passenden Textstellen hervor. Dann erhält die KI genau diese Stellen als Grundlage und formuliert ihre Antwort ausschliesslich daraus.

Dieser Ansatz löst ein zentrales Problem. Eine KI, die frei aus ihrem allgemeinen Trainingswissen antwortet, kann Dinge erfinden, die plausibel klingen, aber falsch sind. Bei RAG ist die KI an Ihre Quellen gebunden. Sie erfindet nicht, sondern fasst zusammen, was tatsächlich in Ihren Dokumenten steht. Das macht die Antworten belegbar.

Damit die Suche funktioniert, werden die Textstellen und ihre Fingerabdrücke in einer spezialisierten Datenbank abgelegt, einer Vektordatenbank. Sie ist darauf ausgelegt, blitzschnell die inhaltlich ähnlichsten Stellen zu einer Frage zu finden, selbst bei sehr grossen Beständen.

Pinecone ist ein Beispiel für eine solche Vektordatenbank und übernimmt genau diesen Kern: Sie speichert die Fingerabdrücke Ihrer Dokumente und liefert zu jeder Frage in Sekundenbruchteilen die passendsten Stellen zurück. Sie ist nicht das sichtbare Gesicht des Systems, sondern das Fundament, auf dem die eigentliche Wissenssuche aufbaut. Ohne diese schnelle, bedeutungsbasierte Suche bliebe die beste KI-Antwort ein Ratespiel.

Von der Quelle zur Antwort

Hat das System die passenden Stellen gefunden, kommt die eigentliche Sprachintelligenz ins Spiel. Sie muss aus mehreren Fundstellen eine klare, zusammenhängende Antwort formen und dabei nah an den Quellen bleiben. Für diesen Schritt zählt vor allem, dass die KI längere Zusammenhänge sauber verarbeitet und Anweisungen genau befolgt.

Ein Modell wie Claude eignet sich für diese Aufgabe gut, weil es umfangreiche Textpassagen zuverlässig überblickt und darauf achtet, nur das wiederzugeben, was in den Quellen steht. So entstehen Antworten, die sich an Ihre Dokumente halten, statt eigenständig zu spekulieren. Gerade bei internem Wissen, wo Genauigkeit wichtiger ist als eloquente Formulierung, ist diese Sorgfalt entscheidend.

Wichtig ist die richtige Erwartung. Das System ist kein Orakel, sondern ein Werkzeug, das vorhandenes Wissen zugänglich macht. Was nicht in den Quellen steht, kann es auch nicht liefern. Die Qualität der Antworten hängt darum unmittelbar von der Qualität und Aktualität der hinterlegten Dokumente ab.

Klein anfangen, sauber wachsen

Der Gedanke, das gesamte Firmenwissen auf einmal zu erschliessen, wirkt erdrückend. Er ist auch nicht nötig. Ein sinnvoller Start beschränkt sich auf einen klar abgegrenzten Bereich, in dem der Nutzen sofort sichtbar wird. Häufige Kundenfragen, interne Handbücher oder Produktunterlagen sind gute Kandidaten, weil sie oft gebraucht werden und überschaubar sind.

Aus diesem ersten Bereich lernen alle Beteiligten, wie gut die Suche funktioniert und wo sie nachgeschärft werden muss. Vielleicht sind manche Dokumente veraltet, vielleicht fehlt Struktur. Diese Erkenntnisse sind wertvoll und lassen sich im kleinen Rahmen leicht umsetzen. Erst wenn dieser Kern überzeugt, kommen weitere Wissensbereiche dazu.

Von Beginn an gehört der Datenschutz mitgedacht. Nicht jedes Wissen darf jeder sehen, und Zugriffsrechte müssen sich im System abbilden. Ein Personaldokument gehört nicht in die allgemeine Suche. Wer diese Grenzen früh zieht, vermeidet spätere Probleme und schafft Vertrauen in das System.

Wo die Grenzen liegen

So nützlich eine KI-Wissenssuche ist, sie ersetzt weder Ordnung noch Pflege. Ein Betrieb mit chaotischer, veralteter Ablage bekommt durch KI keine bessere Datenlage, sondern nur einen schnelleren Zugriff auf das vorhandene Chaos. Die Technik verstärkt, was da ist, im Guten wie im Schlechten.

Auch die menschliche Prüfung bleibt wichtig. Bei einfachen Auskünften genügt die KI-Antwort, doch bei wichtigen Entscheidungen lohnt der Blick in die verlinkte Quelle. Genau deshalb ist der Quellenverweis kein Beiwerk, sondern ein Kernbestandteil. Er verwandelt die KI von einer Blackbox in einen nachvollziehbaren Assistenten, dem man begründet vertrauen kann.

Internes Wissen mit KI durchsuchbar zu machen, ist einer der greifbarsten Nutzen von KI für KMU. Es holt verstreutes Wissen aus Dokumenten und Köpfen an die Oberfläche und macht es im entscheidenden Moment verfügbar. Wer klein beginnt, saubere Quellen wählt und Zugriffsrechte von Anfang an mitdenkt, verwandelt ein diffuses Wissensproblem in einen konkreten Wettbewerbsvorteil.