Künstliche Intelligenz ist im Mittelstand angekommen: Laut Bitkom setzen inzwischen 41 Prozent der deutschen Unternehmen KI ein, 2024 waren es noch 17 Prozent. Die Möglichkeiten sind enorm – die Risiken aber auch, vor allem wenn KI unkontrolliert oder missbräuchlich genutzt wird. Unsere Haltung: Wir sind überzeugt vom Nutzen und empfehlen den Einsatz – mit klaren Regeln und wirksamen Kontrollmechanismen.
Wo KI heute echten Mehrwert bringt
Texte und Kommunikation: Angebote, E-Mails, Protokolle und Dokumentationen in einem Bruchteil der Zeit vorbereiten.
Wissen schneller finden: Handbücher, Verträge oder interne Richtlinien durchsuchen und zusammenfassen lassen.
Support und Service: Anfragen vorsortieren, Antworten vorschlagen, Tickets schneller bearbeiten.
Routineaufgaben automatisieren: KI-Agenten übernehmen zunehmend mehrstufige Aufgaben – vom Auswerten von Daten bis zum Anlegen von Vorgängen.
Die Kehrseite: Risiken bei Fehlgebrauch und Missbrauch
Schatten-KI. Wo Unternehmen keine geprüften Werkzeuge bereitstellen, greifen Mitarbeitende zu privaten Konten. In einer Bitkom-Umfrage gaben 8 Prozent der Unternehmen an, dass private KI-Tools bei ihnen weit verbreitet sind, weitere 17 Prozent kennen Einzelfälle – und 41 Prozent wissen es schlicht nicht. Nur knapp ein Viertel hatte zu diesem Zeitpunkt überhaupt Regeln für den KI-Einsatz.
Datenabfluss. Kundendaten, Vertragsentwürfe oder Quellcode landen schnell in einem öffentlichen KI-Dienst – ohne Auftragsverarbeitungsvertrag, ohne Kontrolle darüber, wo die Daten gespeichert und ob sie zum Training verwendet werden.
Falsche Ergebnisse. KI formuliert überzeugend – auch dann, wenn der Inhalt nicht stimmt. Wer Ergebnisse ungeprüft übernimmt, riskiert Fehler in Angeboten, Berechnungen oder rechtlichen Aussagen.
KI als Werkzeug für Angreifer. Phishing-Mails ohne Rechtschreibfehler, gefälschte Stimmen des Chefs am Telefon, täuschend echte Videos: Kriminelle nutzen dieselben Werkzeuge. Und KI-Agenten mit weitreichenden Rechten können durch manipulierte Inhalte (sogenannte Prompt Injection) zu ungewollten Aktionen verleitet werden.
Unsere Empfehlung: Einsatz ja – aber kontrolliert
Ein Verbot hilft nicht – es verlagert die Nutzung nur in die Schatten-KI. Wirksamer ist ein klarer Rahmen. Diese sieben Kontrollmechanismen empfehlen wir unseren Kunden:
Eine KI-Richtlinie: Welche Tools sind erlaubt, für welche Zwecke, und welche Daten dürfen niemals eingegeben werden? Kurz, verständlich und für alle verbindlich.
Freigegebene Werkzeuge statt Privatkonten: Business-Versionen mit Auftragsverarbeitungsvertrag, Datenhaltung in der EU und ohne Nutzung Ihrer Daten zum Training.
Daten klassifizieren: Öffentlich, intern, vertraulich – und klare Regeln, was davon in welches System darf.
Mensch vor Maschine: KI-Ergebnisse werden vor der Verwendung geprüft. Bei Entscheidungen mit Folgen für Kunden oder Mitarbeitende gilt das Vier-Augen-Prinzip.
Minimale Rechte für KI-Agenten: Agenten erhalten nur die Zugriffe, die sie wirklich brauchen. Kritische Aktionen wie Zahlungen, Löschungen oder der Versand nach außen erfordern eine Freigabe, und alle Aktionen werden protokolliert.
Schulung: Mitarbeitende müssen wissen, was KI kann, wo ihre Grenzen liegen und wie KI-gestützte Angriffe aussehen. Die EU-KI-Verordnung verlangt ohnehin Maßnahmen zur Förderung der KI-Kompetenz.
Technische Absicherung: Web-Filter und Data-Loss-Prevention machen die Nutzung nicht freigegebener KI-Dienste sichtbar, und moderne Sicherheitslösungen erkennen verdächtige Aktivitäten, bevor Schaden entsteht.
Der rechtliche Rahmen in Kürze
Die EU-KI-Verordnung (AI Act) gilt schrittweise. Für Unternehmen, die KI einsetzen, sind derzeit vor allem drei Punkte relevant: Seit Februar 2025 besteht die Pflicht, die KI-Kompetenz der Beschäftigten zu fördern – durch die Änderungsverordnung (EU) 2026/1744 wurde sie im Juli 2026 abgeschwächt, aber nicht abgeschafft. Seit dem 2. August 2026 gelten Transparenzpflichten, etwa wenn Menschen mit einem KI-System interagieren oder bei sogenannten Deepfakes. Die strengen Pflichten für Hochrisiko-KI wurden auf Dezember 2027 verschoben. Daneben gilt selbstverständlich weiterhin die DSGVO für alle personenbezogenen Daten. Dieser Überblick ersetzt keine Rechtsberatung.
Wir unterstützen Sie
Von der KI-Richtlinie über die Auswahl datenschutzkonformer Werkzeuge bis zur technischen Absicherung: Wir helfen Ihnen, KI sicher und gewinnbringend einzusetzen. Sprechen Sie uns an oder rufen Sie uns an unter 030 200054-0.
