CustomGPTs mit RAGs für wissensspezifische Beratung

4. Apr.

🧠 Herausforderung

Viele Unternehmen verfügen über umfangreiches Wissen, das in unstrukturierten Quellen wie PDFs, Intranets oder Websites versteckt ist. Der klassische Zugriff über Menüs, Suchfelder oder Dokumente ist ineffizient, insbesondere für neue Mitarbeitende, Bewerbende oder externe Stakeholder.

Zusätzlich steigt die Erwartung an 24/7-Erreichbarkeit – gerade im Kundenservice, HR, Sales, Mitglieder- oder Partnermanagement.

🚀 Lösung

Ein CustomGPT mit Retrieval-Augmented Generation (RAG) greift gezielt auf eigene Datenquellen zu (z. B. PDFs, Websites, interne FAQs) und liefert kontextgenaue Antworten – ohne auf externes Wissen zuzugreifen. Die Antworten können im Gegensatz zu klassischen Chatbots/LLMs sehr genau kontrolliert werden und es wird ausschliesslich, dass zur Verfügung gestellt wissen genutzt.

Einsatzszenarien:

HR-Bot: erklärt Arbeitszeitregelungen, Benefits oder Prozesse – z. B. in mehreren Sprachen.
Kund:innen-Bot: beantwortet Produkt- und Servicefragen auf Basis eigener Inhalte.
Bewerber:innen-Bot: informiert über Ablauf, Anforderungen und Kultur.
Mitglieder-Bot (z. B. Verband): unterstützt bei Kursen, Events oder Richtlinien.
Sales-Bot: hilft intern bei Argumentarien, Preisen oder Specs.

🧩 Benötigte Daten & Inhalte

Das Tolle: unstrukturiertes Wissen kann sehr einfach erlernt und den Usern zugänglich gemacht werden.

Website-Inhalte, PDFs, Handbücher, interne FAQs
Daten aus Intranet, CRM, ERP via API oder direkt via Google Drives, Sharepoint Dokumenten oder Sites, Confluence, Notion

🔐 Datenschutz & Sicherheit

Keine Datenweitergabe an andere Systeme
SOC 2 Type II-konform
DSGVO-ready (Hosting-Standort prüfen)
Nur autorisierte Zugriffe (z. B. über Intranet oder Login)
Verschlüsselung in Ruhe und während der Übertragung

🧪 Beispiele aus der Praxis

Lehigh University: Das studentische Campus-Magazin stellt mit einem GPT-basierten Bot über 100 Jahre Artikel-Archiv als interaktives Wissenssystem bereit – ideal für Studierende, Forschende und Medieninteressierte.
Ontop: Ein CustomGPT unterstützt das Sales-Team mit sofortigen, AI-generierten Antworten auf Kundenfragen – was die Antwortzeiten halbierte und die Konversionsraten im Vertrieb deutlich steigerte.
Overture Partners: Ein interner GPT-Coach reduzierte die Einarbeitungszeit neuer Recruiter:innen von 13 auf 2 Wochen – durch AI-gestützte Antworten auf Prozess-, Tool- und Marktfragen.

💬 Demnächst hier: Eigener Cased aus dem Bereich Banken, MedTech und Politik

💡 Businessnutzen

Reduktion von repetitiven Anfragen um bis zu 90 %
Höhere Zufriedenheit bei Mitarbeitenden und Kund:innen
Multilinguale Verfügbarkeit
Zugriff auf internes Wissen ohne Silos
Entlastung für Teams in HR, Support, Sales, Administration

⚠️ Risiken & Limitationen

Qualität hängt stark von der Datenstruktur ab
Daten müssen aktuell gehalten werden und sollten sich nicht widersprechen
Prompt-Testing, Finetuning und Monitoring nötig (z. B. zur Vermeidung von Halluzinationen)
Schnittstellen zu internen Systemen müssen technisch sichergestellt werden
Legal Review empfohlen, v. a. bei HR- und Kundendaten, rechtsverbindliche Aussagen im Verkauf