KI-Chatbots und LLMs schreiben Angebote, helfen bei E-Mails und beantworten Fachfragen – viele Handwerksbetriebe testen sie bereits im Büroalltag. Was oft fehlt: ein klarer Blick auf die Risiken und ein Plan, wie man sie im Betrieb im Griff behält.
Als Chef bist du verantwortlich für Datenschutz, Informationssicherheit und Qualität – auch dann, wenn ein KI-Tool im Hintergrund mitarbeitet. Hier kommen die 10 größten Risiken beim Einsatz von LLMs im Handwerk – jeweils mit einer praktischen „Was du tun kannst“-Idee für deinen Alltag.
1. Vertrauliche Daten landen im Chat
LLMs „merken“ sich Eingaben technisch oder organisatorisch oft über Protokolle und Logs, und personenbezogene oder vertrauliche Geschäftsdaten können so in fremden Händen landen. Besonders kritisch sind Kundendaten, Mitarbeiterdaten, Baupläne oder Angebote, die in frei zugängliche KI-Dienste eingegeben werden.
Was du tun kannst:
- Klare Regel: Keine personenbezogenen Daten, kein Volltext von Verträgen, keine sensiblen Pläne in öffentliche LLMs tippen.
- Interne Richtlinie schreiben, kurze Schulung im Team, Beispiele zeigen („das hier NIE in KI eingeben“).
2. Prompt Injection – wenn die KI umprogrammiert wird
LLMs lassen sich durch geschickte Eingaben manipulieren, sodass sie Sicherheitsvorgaben ignorieren oder falsche Anweisungen befolgen (Prompt Injection). Besonders gefährlich wird es, wenn LLMs mit anderen Systemen wie E-Mail, Dokumenten oder Tickets gekoppelt werden.
Was du tun kannst:
- Kritische Aktionen (z.B. Bestellungen, Zahlungen, Vertragsänderungen) nie vollständig automatisiert durch KI ausführen lassen.
- Sicherheitsrelevante Outputs immer von Menschen gegenchecken lassen (Vier-Augen-Prinzip).
3. Falsche oder erfundene Antworten (Halluzinationen)
LLMs klingen oft souverän, auch wenn sie inhaltlich danebenliegen oder Quellen erfinden. Im Handwerk kann das zu falschen Normzitaten, fehlerhaften Berechnungen oder rechtlich riskanten Formulierungen führen.
Was du tun kannst:
- KI-Antworten als Entwurf nutzen, nicht als Freifahrtschein – Fachinhalte immer mit deiner Erfahrung oder verbindlichen Quellen abgleichen.
- Bei Normen, Rechtsfragen und Sicherheit: immer auf offizielle Dokumente oder Fachberatung zurückgreifen.
4. Bias und Diskriminierung
LLMs wurden mit großen Datenmengen trainiert, in denen Vorurteile und Schieflagen stecken. Das kann sich z.B. bei Formulierungen zu Bewerbungen, Kundenkommunikation oder Personalentscheidungen niederschlagen.
Was du tun kannst:
- KI-Texte für Stellenausschreibungen und Personalthemen bewusst gegenlesen und auf neutrale Sprache achten.
- In deiner Führungskräfte-Runde kurz besprechen, wie ihr mit Diversity und fairer Sprache umgehen wollt.
5. Sicherheitslücken in der LLM-„Lieferkette“
Neben dem eigentlichen Modell sind auch Schnittstellen, Plug-ins, externe Tools und die Infrastruktur angreifbar (Supply-Chain-Risiken). Fehlerhafte Konfigurationen oder unsichere Add-ons können Angriffe auf deine Systeme ermöglichen.
Was du tun kannst:
- Nur etablierte Anbieter und Integrationen nutzen, keine „Bastel-Tools“ ohne Impressum und Datenschutzinformationen.
- Zuständigkeit festlegen: Wer aus IT oder externer Betreuung prüft neue Tools, bevor sie im Betrieb eingesetzt werden?
6. Fehlende Nachvollziehbarkeit und Dokumentation
LLMs gelten als „Black Box“, Entscheidungen sind oft schwer nachvollziehbar. Für ISO-Managementsysteme oder den EU AI Act werden aber zunehmend Dokumentation, Nachweise und Risikoanalysen verlangt.
Was du tun kannst:
- Für wichtige KI-Anwendungen festhalten: Wofür nutzen wir das Tool, welche Daten fließen hinein, wer ist verantwortlich, wie wird kontrolliert?
- Entscheidungen mit hohem Risiko (z.B. Ablehnung von Bewerbern, große Angebotskalkulationen) nie allein auf KI stützen.
7. Abhängigkeit von einem Anbieter
Wer Angebote, Texte oder Abläufe komplett auf ein bestimmtes LLM ausrichtet, macht sich abhängig von Preisen, Verfügbarkeit und Änderungen des Dienstes. Fällt der Dienst aus oder ändert seine Nutzungsbedingungen, kann das deinen Betrieb direkt treffen.
Was du tun kannst:
- Kritische Prozesse nicht nur in einem Tool abbilden, sondern alternative Wege kennen.
- Wichtige Vorlagen, Texte und Abläufe lokal oder im eigenen DMS sichern, nicht nur im KI-Tool.
8. Reputationsschäden durch KI-Inhalte
Schlecht geprüfte KI-Texte, fehlerhafte Bilder oder unpassende Formulierungen können Vertrauen bei Kunden und Mitarbeitenden beschädigen. Gerade öffentliche Posts oder E-Mails, die „nach KI klingen“, wirken schnell beliebig und unpersönlich.
Was du tun kannst:
- KI nur als Assistenz nutzen – Stimme, Beispiele und Haltung stammen weiterhin von dir.
- Bei sensiblen Themen (Reklamationen, Rechtsstreit, Mitarbeitergespräche) grundsätzlich selbst formulieren.
9. Regulierung und Haftungsfragen
Mit dem EU AI Act kommen Pflichten zu Transparenz, Risikomanagement und Dokumentation für bestimmte KI-Anwendungen. Auch heute schon bleibst du als Verantwortlicher haftbar, wenn durch KI-gestützte Entscheidungen Schäden entstehen oder Gesetze verletzt werden.
Was du tun kannst:
- KI-Nutzung in dein bestehendes Risiko- und Compliance-Management aufnehmen (z.B. in ISO 9001, ISO 27001, Datenschutz).
- Mit deinem Datenschutzbeauftragten oder Berater klären, welche KI-Szenarien in deinem Betrieb relevant sind.
10. Überschätzte Automatisierung – zu viel Vertrauen, zu wenig Kontrolle
Viele Studien zeigen: Komplexe KI-Projekte scheitern oft an überzogenen Erwartungen und fehlender Governance. Wer „alles“ automatisiert, ohne Prozesse sauber zu definieren, produziert eher Chaos als Entlastung.
Was du tun kannst:
- Klein starten: einzelne, klar abgegrenzte Anwendungsfälle (z.B. Textentwürfe, Checklisten) testen und Erfahrungen sammeln.
- Verantwortlichkeiten klären: Wer prüft, wer gibt frei, wer entscheidet bei Konflikten zwischen KI-Empfehlung und Erfahrung?
Fazit für Handwerkschefs
LLMs sind weder Teufelszeug noch Zauberstab – sie sind mächtige Werkzeuge mit klaren Risiken, die du aktiv managen musst. Wenn du Datenschutz, Sicherheit, Qualität und Mensch-im-Loop kombinierst, kannst du KI im Handwerk nutzen, ohne dass sie dir den Betrieb aus der Hand nimmt.
