Die teuersten ChatGPT-Fehler im Unternehmenseinsatz

ChatGPT gibt es seit Ende 2022. Inzwischen nutzen viele Mittelständler es regelmäßig. Trotzdem beobachte ich in Beratungsprojekten immer wieder dieselben Muster, die dazu führen, dass das Tool deutlich weniger leistet als es könnte.

Hier sind die Fehler, die ich am häufigsten sehe, und was man stattdessen tun sollte.

Jeden Prompt bei Null anfangen

Der häufigste Fehler ist, ChatGPT wie eine Suchmaschine zu nutzen: Fenster öffnen, Frage eingeben, Antwort lesen, Fenster schließen.

ChatGPT erinnert sich an nichts außerhalb des aktuellen Gesprächs. Wer immer wieder mit einem leeren Fenster anfängt, gibt dem System keinen Kontext. Das Ergebnis ist vorhersehbar generisch.

Was stattdessen funktioniert: einen langen, einmaligen Kontext-Prompt schreiben, der beschreibt, wer man ist, für welches Unternehmen man arbeitet, was die wichtigsten Produkte sind, wie die Zielgruppe aussieht und welchen Ton man bevorzugt. Diesen Prompt zu Beginn jeder Sitzung einmalig einfügen. Manche Teams speichern ihn als Textschnipsel und fügen ihn per Tastenkürzel ein. Andere nutzen Custom Instructions oder System-Prompts in der API.

Der Unterschied im Output ist erheblich. Probieren Sie es aus.

Halluzinationen unkritisch übernehmen

ChatGPT erfindet. Das ist keine Fehlfunktion, es ist eine technische Eigenschaft großer Sprachmodelle. Das System erzeugt die wahrscheinlichste Fortsetzung eines Textes, und manchmal ist die wahrscheinlichste Fortsetzung eine faktisch falsche Angabe.

Das Problem: Die Angabe klingt genauso überzeugend wie eine korrekte. Zahlen, Jahreszahlen, Gesetzestexte, Firmennamen, technische Details. Wenn jemand keine Ahnung hat, ob eine Information stimmt, und ChatGPT sie selbstsicher nennt, ist die Versuchung groß, sie ungeprüft zu übernehmen.

In Bereichen, wo Faktentreue wichtig ist, also in allem, was Kunden, Behörden, Verträge oder Finanzen betrifft, sollte ChatGPT-Output immer gegengeprüft werden. Das bedeutet nicht, alles zu misstrauen, sondern zu wissen, für welche Aufgaben das System zuverlässig ist, nämlich Texte formulieren, Strukturen vorschlagen, Ideen entwickeln, und für welche nicht, nämlich spezifische Fakten liefern.

Sensible Daten eingeben ohne nachzudenken

Ich sehe regelmäßig, wie Mitarbeitende Kundendata, interne Finanzinformationen oder persönliche Mitarbeiterdaten in ChatGPT eingeben, weil sie schnell eine Antwort brauchen.

Das DSGVO-Problem dabei ist real. Die Eingaben in ChatGPT können standardmäßig zur Modellverbesserung genutzt werden (das lässt sich abschalten, aber nicht jeder macht das). Und auch wenn OpenAI Datenschutzrichtlinien hat: Personenbezogene Daten von Kunden oder Mitarbeitenden sollten nicht in ein amerikanisches Cloud-System eingegeben werden, ohne dass das rechtlich und organisatorisch abgeklärt ist.

Die Lösung ist einfach: Daten vor der Eingabe anonymisieren oder pseudonymisieren. Statt "Kunde Müller mit Kundennummer 12345 hat folgendes Problem" schreibt man "Ein Kunde in der Maschinenbaubranche hat folgendes Problem". Das Modell braucht die Namen nicht, um nützlich zu sein.

Kein System Prompt bei der API-Nutzung

Unternehmen, die ChatGPT über die API in eigene Systeme integrieren, vernachlässigen häufig den System Prompt. Der System Prompt ist die unsichtbare Anweisung, die das Verhalten des Modells für alle Anfragen in diesem System steuert.

Ohne System Prompt verhält sich das Modell wie ein allgemeiner Assistent. Mit einem guten System Prompt kann man festlegen: Welche Rolle nimmt das System ein? Welche Informationen hat es über das Unternehmen? Wie soll es auf bestimmte Anfragen reagieren? Was soll es nie tun?

Das ist besonders wichtig für Kundenservice-Bots oder interne Assistenten. Ein System ohne System Prompt ist wie ein neuer Mitarbeiter, dem man sagt "du weißt schon" und der dann rät.

Das Tool nicht weiterentwickeln

Viele Unternehmen setzen ChatGPT ein, haben einen Prompt, der halbwegs funktioniert, und lassen alles so. Dabei verändert sich das Tool selbst, und die Anforderungen im Unternehmen verändern sich.

Prompts, die gut funktionieren, sollten dokumentiert und geteilt werden. Was hat Team A gelernt, das für Team B nützlich wäre? Gibt es Formulierungen, die immer besser funktionieren als andere?

Ich empfehle, einmal im Quartal einen kurzen internen Austausch zu machen: Was nutzen wir wie? Was funktioniert gut? Wo stoßen wir an Grenzen? Das braucht keine große Struktur, eine Stunde reicht. Aber dieser Austausch verhindert, dass jedes Team das Rad neu erfindet.

Was funktioniert, wenn man es richtig macht

ChatGPT kann im Unternehmensalltag erheblich Zeit sparen. Für das Überarbeiten von Texten, das Zusammenfassen langer Dokumente, das Formulieren von Entwürfen, das Strukturieren von Ideen. Diese Aufgaben nimmt das System sehr gut ab, wenn man ihm guten Kontext gibt.

Was es nicht kann: faktenbasierte Recherche zuverlässig erledigen, komplexe juristische oder steuerliche Sachverhalte beurteilen, und eigenverantwortlich handeln. Wer das weiß und die Grenzen respektiert, bekommt ein nützliches Werkzeug. Wer das ignoriert, bekommt ein teures Problem.