Wer im Intranet nach „Urlaub beantragen“ sucht, findet mit einer klassischen Suche nur Seiten, auf denen diese Wörter stehen. Die Seite „Abwesenheiten im Personalportal eintragen“ bleibt unentdeckt, obwohl sie genau die Antwort enthält. Die klassische Suche vergleicht Zeichenketten. Sie weiß nicht, dass Urlaub eine Abwesenheit ist.
Semantische Suche setzt eine Ebene tiefer an. Sie vergleicht nicht Wörter, sondern Bedeutungen. Dazu werden sowohl die Dokumente als auch die Anfrage von einem Sprachmodell in ein Embedding übersetzt, eine lange Zahlenreihe, die den Inhalt abbildet. Texte über dasselbe Thema landen dabei an ähnlichen Stellen, auch wenn sie andere Wörter verwenden oder in einer anderen Sprache geschrieben sind. Gesucht wird dann nach den Dokumenten, deren Zahlenreihe der Anfrage am nächsten liegt.
Wie die Suche nach Bedeutung praktisch wurde
Sprachmodelle konnten schon länger beurteilen, ob zwei Sätze dasselbe meinen. Für eine Suche war das aber zu langsam, wenn jedes Satzpaar einzeln durch das Modell musste. Reimers und Gurevych haben 2019 mit Sentence-BERT gezeigt, wie man jeden Satz einmal vorab in einen Vektor übersetzt und danach nur noch Vektoren vergleicht. Ihr Zahlenbeispiel: Das ähnlichste Satzpaar unter 10.000 Sätzen zu finden, dauerte mit dem bis dahin üblichen Verfahren rund 65 Stunden, mit ihrem Ansatz etwa 5 Sekunden, bei vergleichbarer Genauigkeit.
Ein Jahr später haben Karpukhin und Kollegen mit Dense Passage Retrieval gezeigt, dass eine solche Vektorsuche bei der Beantwortung offener Fragen die klassische Stichwortsuche deutlich übertreffen kann. Auf ihren Testreihen lag die Trefferquote unter den ersten 20 Ergebnissen um 9 bis 19 Prozentpunkte über einem starken klassischen Verfahren namens BM25. Seitdem ist die Vektorsuche Standard in Systemen nach dem Muster Retrieval Augmented Generation.
Technisch braucht man dafür ein Embedding-Modell und einen Speicher, der schnell die nächsten Nachbarn eines Vektors findet, meist eine Vektordatenbank oder eine klassische Datenbank mit Vektorerweiterung.
Wo die Stichwortsuche besser bleibt
Die Vektorsuche ist nicht einfach die bessere Suche. Sie ist eine andere, mit eigenen Schwächen.
Exakte Begriffe. Microsoft nennt in seiner Dokumentation zur hybriden Suche ausdrücklich Produktcodes, Fachjargon, Datumsangaben und Personennamen als Fälle, in denen die Stichwortsuche besser abschneidet, weil sie exakte Übereinstimmungen erkennt. Wer nach Artikelnummer „DV-4410-B“ sucht, will genau diesen Artikel und nicht einen, dessen Nummer „ähnlich“ aussieht.
Fremdes Fachgebiet. Thakur und Kollegen haben 2021 mit der Testsammlung BEIR untersucht, wie gut Suchverfahren auf Themengebieten abschneiden, für die sie nicht trainiert wurden. Ihr Befund: Das klassische BM25 erwies sich als robuste Vergleichsgröße, und viele Vektorverfahren schnitten außerhalb ihres Trainingsgebiets schwächer ab. Für ein Unternehmen mit eigener Fachsprache ist das eine Warnung. Ein Modell, das auf allgemeinen Texten gut sucht, muss mit Normbezeichnungen, Werkstoffkürzeln oder internen Abkürzungen nicht zurechtkommen.
Nachvollziehbarkeit. Bei einer Stichwortsuche sieht man, warum ein Dokument gefunden wurde: Das Wort steht darin. Bei der Vektorsuche ist das Ergebnis eine Zahl für die Ähnlichkeit, deren Zustandekommen sich nicht erklären lässt.
| Stichwortsuche | Semantische Suche | |
|---|---|---|
| Vergleicht | Wörter und Wortformen | Bedeutungen als Vektoren |
| Findet Umschreibungen und Synonyme | kaum | gut |
| Findet exakte Codes und Namen | gut | unzuverlässig |
| Über Sprachgrenzen hinweg | nein | mit mehrsprachigem Modell ja |
| Warum ein Treffer kommt | sichtbar | nicht erklärbar |
Warum man in der Praxis beides kombiniert
Weil die Stärken der beiden Verfahren sich ergänzen, setzen die meisten ernsthaften Systeme auf hybride Suche. Beide Suchen laufen parallel, und ihre Ergebnislisten werden zusammengeführt. Microsoft beschreibt dafür ein Verfahren namens Reciprocal Rank Fusion: Es verrechnet nicht die schwer vergleichbaren Punktwerte, sondern die Platzierungen in beiden Listen. Ein Dokument, das in beiden Listen weit oben steht, landet auch im Gesamtergebnis weit oben.
Häufig folgt ein zweiter Schritt, die Neusortierung. Ein eigenes Modell liest die besten Treffer noch einmal zusammen mit der Frage und ordnet sie nach tatsächlicher Relevanz. Die BEIR-Autoren stellten fest, dass solche Verfahren im Durchschnitt die besten Ergebnisse liefern, allerdings zu hohen Rechenkosten. Deshalb wendet man sie nur auf eine kleine Vorauswahl an.
Abgrenzung zu ähnlich klingenden Begriffen
„Semantisch“ wird in der IT für mehrere Dinge verwendet. Das Semantic Web meint maschinenlesbare Verknüpfungen von Daten über festgelegte Begriffssysteme und hat mit Vektoren nichts zu tun. Manche Suchprodukte bezeichnen außerdem ihre Neusortierung als „semantisches Ranking“, auch wenn die eigentliche Suche nach Stichworten erfolgt. Wer ein Produkt mit semantischer Suche angeboten bekommt, sollte nachfragen, welche Technik genau gemeint ist.
Worauf man bei der Einführung achten sollte
Ein mehrsprachiges oder deutschsprachig starkes Modell wählen. Viele Embedding-Modelle sind vor allem mit englischen Texten trainiert. Ob ein Modell deutsche Fachtexte gut abbildet, zeigt nur ein Test mit eigenem Material.
Die Zerlegung der Dokumente mitdenken. Gesucht wird nicht in ganzen Dokumenten, sondern in Abschnitten. Wie sie geschnitten sind, beschreibt der Eintrag zum Chunking, und es beeinflusst die Trefferqualität stark.
Mit echten Fragen messen. Eine Sammlung von einigen Dutzend realen Suchanfragen mit bekannter richtiger Antwort zeigt schnell, ob Stichwortsuche, Vektorsuche oder die Kombination für den eigenen Bestand am besten funktioniert. Das ist der Kern jeder Evaluation eines Suchsystems.
Zugriffsrechte nicht vergessen. Die semantische Suche findet auch Dokumente, die ein Nutzer gar nicht sehen dürfte, wenn die Rechte nicht bei jeder Suche als Filter mitgegeben werden.
Quellen
- Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks, Reimers und Gurevych, arXiv (EMNLP 2019), 2019
- Dense Passage Retrieval for Open-Domain Question Answering, Karpukhin et al., arXiv (EMNLP 2020), 2020
- BEIR: A Heterogenous Benchmark for Zero-shot Evaluation of Information Retrieval Models, Thakur et al., arXiv, 2021
- Hybrid search overview, Microsoft Learn, Azure AI Search
Inhaltlich geprüft im Oktober 2026. Der Eintrag erklärt einen Begriff und ersetzt keine Rechts- oder Steuerberatung.

