KI & Digitalisierung
verstehen

KI-Systeme sind datenhungrig. Ohne große Trainingsmengen funktionieren sie nicht – doch genau diese Daten sind oft personenbezogen und damit DSGVO-relevant. Problematisch: Viele Anbieter speichern Eingaben zur Modellverbesserung. Wer sensible Kunden- oder Mitarbeiterdaten in ChatGPT eingibt, übermittelt diese an Server in den USA – ohne ausreichende Rechtsgrundlage nach DSGVO. Unternehmen sollten klare interne KI-Nutzungsrichtlinien einführen und auf DSGVO-konforme Alternativen oder selbst gehostete Modelle setzen.

Sprachmodelle „erfinden" manchmal Fakten – überzeugend formuliert, faktisch falsch. Diese sogenannten Halluzinationen entstehen, weil Modelle auf Basis von Wahrscheinlichkeiten antworten, nicht auf Basis von echtem Wissen. Ein US-Anwalt reichte 2023 Schriftsätze mit sechs von ChatGPT erfundenen Gerichtsurteilen ein – das Gericht verhängte eine Strafe von 5.000 Dollar. Für Unternehmen gilt: KI-Ausgaben müssen immer durch menschliche Kontrolle verifiziert werden, besonders in rechtlichen, medizinischen oder technischen Kontexten.

KI-Modelle lernen aus historischen Daten – und reproduzieren dabei gesellschaftliche Ungleichheiten. Amazon musste 2018 ein internes Bewerbungs-KI-System einstellen, das Frauen systematisch schlechter bewertete, weil die Trainingsdaten von Jahren männerdominierter Einstellungen geprägt waren. Ähnliches wurde bei Gesichtserkennung beobachtet: Dunkelhäutige Gesichter werden laut MIT-Studie mit bis zu 35 % höherer Fehlerquote erkannt. Diese Verzerrungen sind oft unsichtbar, aber ihre Auswirkungen real – besonders bei Entscheidungen über Kredite, Jobs oder Sozialleistungen.

Die leistungsstärksten KI-Modelle sind sogenannte „Black Boxes": Sie liefern Ergebnisse, aber niemand kann vollständig erklären wie. Das ist bei vielen Anwendungen vertretbar – bei Entscheidungen über Personen jedoch gefährlich. Wenn ein KI-System einen Kredit ablehnt oder eine Sozialleistung verweigert, hat die betroffene Person das Recht zu erfahren warum (DSGVO Art. 22). Das Forschungsfeld „Explainable AI" (XAI) arbeitet an Lösungen, ist aber noch weit von flächendeckender Praxistauglichkeit entfernt.

McKinsey schätzt, dass bis 2030 weltweit bis zu 375 Millionen Arbeitnehmer ihre Berufsfelder wechseln müssen. KI ersetzt dabei selten ganze Jobs, häufig aber Tätigkeiten innerhalb eines Jobs: Routineaufgaben, Dateneingabe, Standardkommunikation. Gleichzeitig entstehen neue Rollen: Prompt Engineers, KI-Auditoren, Datenethiker. In Deutschland verschärft der Fachkräftemangel diesen Druck: Unternehmen, die nicht in KI-Kompetenz investieren, werden mittelfristig abgehängt. Weiterbildung ist keine Option mehr – sie ist strategische Notwendigkeit.

OpenAI, Google, Microsoft, Meta und Anthropic – alle US-amerikanisch, alle mit enormem Markteinfluss. Wer seine Kernprozesse auf deren Dienste aufbaut, gibt strategische Kontrolle ab: über Preisgestaltung, Verfügbarkeit, Datenzugriff und Weiterentwicklung. US-Behörden können Anbieter per CLOUD Act zur Herausgabe von Daten verpflichten, unabhängig vom Standort. Europäische Alternativen wie Mistral AI (Frankreich) oder Aleph Alpha (Deutschland, Heidelberg) bieten mehr Datensouveränität – auch wenn sie noch nicht das gleiche Leistungsniveau erreichen.

Phishing ist laut Verizon Data Breach Report für über 36 % aller Datenpannen verantwortlich – und ist damit der häufigste Einstiegsweg für Cyberkriminelle. Angreifer versenden gefälschte E-Mails, die täuschend echt wirken: angeblich von der Sparkasse, von Microsoft oder von der Geschäftsführung. Ziel ist es, Passwörter oder Zugangsdaten zu stehlen. Modernes Spear-Phishing ist auf Einzelpersonen zugeschnitten – mit persönlichen Details aus LinkedIn oder Facebook. Schutz: E-Mail-Filter, Mitarbeiterschulungen, Zwei-Faktor-Authentifizierung.

Ransomware verschlüsselt alle Dateien auf einem Computer oder Netzwerk und fordert Lösegeld – meist in Kryptowährung. Der durchschnittliche Schaden durch Ransomware für ein KMU beträgt laut Sophos-Report 2023 rund 1,4 Millionen Euro (inkl. Ausfallzeit, Wiederherstellung, Rufschaden). Bekannte Attacken: Landkreis Anhalt-Bitterfeld 2021 (erster Katastrophenfall durch Cyberangriff in Deutschland), Uniklinik Düsseldorf 2020. Schutz: regelmäßige Offline-Backups (3-2-1-Regel), aktuelle Patches, Netzwerksegmentierung.

Beim Social Engineering wird nicht die Technik, sondern der Mensch angegriffen. Angreifer geben sich als IT-Support, Vorgesetzter oder Lieferant aus und manipulieren Mitarbeiter dazu, Zugangsdaten preiszugeben oder Überweisungen zu tätigen (CEO-Fraud). Der Schaden durch CEO-Fraud liegt allein in Deutschland im dreistelligen Millionenbereich jährlich. Technische Schutzmaßnahmen helfen hier wenig – Schulungen, klare Prozesse (z. B. Rückrufpflicht vor Überweisungen) und eine offene Sicherheitskultur sind entscheidend.

„123456", „Passwort1" und der Firmenname mit Jahreszahl sind nach wie vor unter den häufigsten Passwörtern weltweit. Credential-Stuffing-Angriffe probieren automatisiert Milliarden gestohlener Passwörter aus (über 15 Milliarden kompromittierte Zugangsdaten kursieren im Darknet). Laut Microsoft blockiert Zwei-Faktor-Authentifizierung (2FA) 99,9 % aller automatisierten Kontoübernahmen. Empfehlung: Passwortmanager (Bitwarden, KeePass), einzigartige Passwörter pro Dienst, 2FA überall aktivieren.

60 % aller erfolgreichen Cyberangriffe nutzen bekannte Sicherheitslücken aus, für die bereits Patches verfügbar waren – aber nicht eingespielt wurden. Das Log4Shell-Beispiel (2021) zeigt wie kritisch das ist: Eine Sicherheitslücke in einer weit verbreiteten Java-Bibliothek betraf Millionen von Servern weltweit. Viele KMU verzögern Updates aus Angst vor Kompatibilitätsproblemen. Das ist verständlich, aber gefährlich. Patch-Management und automatische Updates sind keine Optionen, sondern Grundschutz.

Das BSI (Bundesamt für Sicherheit in der Informationstechnik) empfiehlt für KMU fünf sofort umsetzbare Maßnahmen: (1) Regelmäßige Backups nach der 3-2-1-Regel (3 Kopien, 2 verschiedene Medien, 1 extern/offline). (2) Zwei-Faktor-Authentifizierung für alle wichtigen Konten aktivieren. (3) Automatische Updates aktivieren für Betriebssystem und Anwendungen. (4) Mitarbeiter sensibilisieren – mindestens einmal jährlich Schulung zu Phishing und Social Engineering. (5) Notfallplan erstellen: Was tun wenn es passiert? Ansprechpartner, Meldepflichten, Wiederherstellungsprozess.