Custom GPTs & Chatbots – KI mit eigenem Unternehmenswissen

LLMs wissen vieles – nur nicht was in deinem Unternehmen gilt.

ChatGPT, Claude und Co. haben ein riesiges Allgemeinwissen – aber kein Wissen über deine Produkte, Preise, Prozesse oder Kundendaten. Und je nach Modell ist ihr Wissensstand ein Jahr alt. Wer das ändern will, muss das Modell mit eigenem Wissen erweitern.

Die gute Nachricht: das ist möglich. Die schlechte: es gibt viele Wege – und die meisten führen in die falsche Richtung.

Kostenloses Erstgespräch buchen

Online Audit starten →

Das Problem mit den Chatbot-Tools

Ja, es gibt viele schnelle Tools um eigene Inhalte zu verbinden oder ein paar PDFs hochzuladen. Geht schnell, wirkt beeindruckend – und beim ernsthaften Testen merkt man, wie ungenau diese Systeme sind.

Kann man sich leisten, dass ein Bot einem Mitarbeitenden falsch erklärt wie viele Ferientage er noch hat? Oder einem Kunden falsche Preise nennt? Nein.

Der Grund: einfache RAG-Systeme sind im Kern eine primitive Datenbank aus Textfetzen. Der Bot sucht nach dem nächstähnlichen Text und gibt ihn zurück – ohne zu verstehen ob die Information korrekt, aktuell oder im richtigen Kontext steht.

Wie wir es richtig machen

Der häufigste Fehler: man wartet auf das grosse System. Das Team lernt nie, die Lösung deckt nur einen Teil der Use Cases ab, und wenn sie endlich fertig ist, hat sich die Technologie schon zweimal verändert.

Der richtige Weg geht von unten nach oben:

Konzept zuerst
Was soll der Bot können – und was nicht? Welche Fragen soll er beantworten, welche weiterleiten? Ein klares Konzept verhindert, dass das System später in alle Richtungen erweitert wird bis es unbrauchbar wird.

Dazu gehört auch: wie oft werden Inhalte aktualisiert, wer ist verantwortlich dafür – und wie bleiben Training, Deployment und Testing im Rahmen ohne bei jeder Änderung alles neu aufzusetzen?

Content sauber abgrenzen
Nicht zu viel, nicht zu wenig. Nur Inhalte die wirklich relevant sind, sauber strukturiert und indexierbar – keine wirren PDFs, keine widersprüchlichen Dokumente.

Saubere Pipeline statt simples RAG
Inhalte werden in Beziehung zueinander gesetzt und in Kontext gebracht. Dafür braucht es eine klare Pipeline:

Was sind Basisdokumente – die Grundlage die immer gilt?
Was sind ergänzende Dokumente – aktuell, aber nicht immer relevant?
Und wie funktionieren Kontrollmechanismen für Korrekturen
Wer darf was ändern, wie wird sichergestellt, dass veraltete oder widersprüchliche Inhalte erkannt und bereinigt werden?

Diese Struktur ist der Unterschied zwischen einem Bot der halluziniert und einem der verlässlich antwortet.

Strukturierte Daten einbinden
Preisdatenbanken, Kurszeiten, Lagerbestände, Mitarbeiterdaten – strukturierte Daten werden direkt und präzise abgerufen, nicht interpretiert. So nennt der Bot die richtige Zahl – nicht eine halluzinierte.

Wahl des richtigen Modells
Je nach Anforderungen, Datensicherheit, digitaler Souveränität, Kosten und Performance gibt es verschiedene Optionen:

Cloud-APIs von OpenAI, Claude oder Gemini für die meisten Anwendungen.
Europäische Alternativen wie Mistral für datenschutzsensible Branchen.
Oder lokale, on-premise Open-Source-LLMs die komplett auf eigener Infrastruktur laufen. So verlassen keine Daten das Unternehmen.

Wir helfen dabei, die richtige Architektur zu wählen – nicht die teuerste, sondern die passendste.

Finetuning und Testen
Ein System ist erst fertig wenn es mit echten Fragen, echten Daten und echten Fehlern konfrontiert wurde. Das dauert – aber nur so entsteht etwas das wirklich funktioniert.

Zugang wo er gebraucht wird
Möglichst dort, wo die Mitarbeitenden schon arbeiten – nicht in einem neuen Tool das zuerst gelernt werden muss. Chat auf der Website, direkt in Teams, Slack, Outlook oder Word. Oder als eigener GPT im ChatGPT Store, direkt als Claude-Konnektor oder per API in bestehende Systeme eingebunden. Wir schauen was am meisten Sinn macht – für interne wie externe Anwendungen.

Intern oder extern

Interne Anwendungen HR-FAQs, Onboarding, Wissensmanagement, interne Richtlinien, Produktwissen für den Verkauf, Content Creation mit Fact Checks – überall wo Mitarbeitende immer wieder dieselben Fragen stellen.

Externe Anwendungen Kundenservice, Produktberatung, Support – mit klaren Grenzen, menschlichem Übergabepunkt und transparenter Kennzeichnung als Bot.