Große Sprachmodelle schreiben hervorragende Texte, wissen aber nichts über Ihr Unternehmen: Preise, Bedingungen, interne Abläufe. Bindet man ein Modell direkt an einen Chat, antwortet es selbstbewusst – und manchmal falsch. RAG (Retrieval-Augmented Generation) löst das: Der Assistent findet zuerst passende Passagen in Ihren Dokumenten und antwortet nur auf deren Grundlage. Das ist ein Kernszenario unserer Leistung KI-Plattformen.
Kurz gesagt: Rund 80 % der Qualität eines RAG-Assistenten hängen von Wissensbasis und Testfragen ab. Der Assistent sollte Quellen nennen, ehrlich „weiß ich nicht“ sagen und komplexe Fälle an Menschen übergeben.
So funktioniert RAG
- Aufbereitung: Dokumente werden in Abschnitte zerlegt und für die semantische Suche indexiert.
- Suche: Zu jeder Frage findet das System die relevantesten Abschnitte.
- Antwort: Das Modell antwortet nur auf Basis der gefundenen Abschnitte und nennt die Quelle.
- Kontrolle: Gibt es keine passenden Abschnitte, sagt der Assistent das und bietet Kontakt zu Mitarbeitenden an.
Wo ein RAG-Assistent Nutzen bringt
| Szenario | Beispiel |
|---|---|
| Kundensupport | Antworten zu Bedingungen, Tarifen, Fristen, Unterlagen |
| Vertrieb | Passende Leistung zur Kundenaufgabe, Terminbuchung |
| Interne Wissensbasis | Antworten für Mitarbeitende zu Abläufen und Anleitungen |
| Onboarding | Assistent für neue Mitarbeitende |
| Compliance | Suche in Richtlinien mit Verweis auf den Abschnitt |
Was vorzubereiten ist
- Aktuelle Dokumente: FAQ, Preise, Bedingungen, Abläufe – ohne Widersprüche zwischen Versionen.
- Ein Testset aus 50–200 echten Fragen mit Referenzantworten.
- Regeln: worüber der Assistent nicht spricht, wann er übergibt, welcher Ton gilt.
- Zugriffsrechte: welche Dokumente Kunden sehen und welche nur Mitarbeitende.
Qualität steuern
- Testset nach jeder Änderung an Wissensbasis oder Modell erneut durchlaufen.
- Dialogprotokolle mit Bewertung der Antworten und Fehleranalyse.
- Kennzahlen: Anteil der Antworten mit Quelle, Anteil der Übergaben, Nutzerzufriedenheit.
Häufige Fragen
Ist es sicher, Unternehmensdokumente hochzuladen?
Bei richtiger Architektur ja: Zugriffssteuerung, Speicherung in kontrollierter Infrastruktur und Vereinbarungen mit dem Modellanbieter, Ihre Daten nicht zum Training zu nutzen.
Kann der Assistent auf Website, Telegram und Telefon arbeiten?
Ja. Ein Assistent kann im Website-Chat, in einem Telegram-Bot und per Sprache arbeiten und Anfragen im CRM erfassen.
Was kostet die Entwicklung?
Unsere KI-Projekte beginnen bei 1.500 $. Der Gesamtpreis hängt von Umfang der Wissensbasis, Kanälen, Integrationen und Sicherheitsanforderungen ab.
Sie möchten einen Assistenten, der aus Ihren Dokumenten antwortet und nichts erfindet? Senden Sie eine Anfrage auf der Seite KI-Plattformen – wir bewerten Aufgabe und Daten, erstellen ein Testset und starten einen Pilot.