Künstliche Intelligenz (KI) wird in Unternehmen zunehmend eingesetzt – etwa in der Personalgewinnung, im Kundenservice, in der Produktionssteuerung oder bei Entscheidungsunterstützungssystemen. Was viele Geschäftsleitungen dabei unterschätzen: Der Einsatz von KI ist keine rein technische Frage, sondern berührt unmittelbar die gesetzlichen Pflichten von Geschäftsführern und Vorständen.
Mit dem Inkrafttreten der EU-Verordnung über Künstliche Intelligenz (KI-VO / AI Act) sind die rechtlichen Anforderungen deutlich konkreter und strenger geworden. Für Unternehmensleiter ergeben sich daraus neue Organisations-, Kontroll- und Schulungspflichten.
KI-Einsatz ist eine Leitungsentscheidung
Die Entscheidung, ob und wie KI im Unternehmen eingesetzt wird, gehört zum Kernbereich der Unternehmensleitung. Geschäftsführer müssen diese Entscheidung selbst treffen und verantworten. Sie können sich dabei zwar fachlich beraten lassen, dürfen die Verantwortung aber nicht vollständig delegieren.
Besonders wichtig: Auch eine bloße Duldung der KI-Nutzung durch Mitarbeitende – etwa durch frei verfügbare Tools wie Chatbots oder Übersetzungsprogramme – kann rechtlich relevant sein. Geschäftsleiter müssen wissen, wo, wofür und mit welchen Risiken KI eingesetzt wird.
Die EU-KI-Verordnung: Was Unternehmen jetzt beachten müssen
Die KI-Verordnung gilt seit August 2024 und wird schrittweise anwendbar. Seit dem 2. Februar 2025 gelten bereits zentrale Pflichten, insbesondere im Bereich verbotener KI-Systeme und der sogenannten KI-Kompetenz.
Die Verordnung verfolgt einen risikobasierten Ansatz. Je nach Einsatzgebiet wird KI unterschiedlichen Risikoklassen zugeordnet, z.B.:
- verbotene KI-Systeme mit unannehmbarem Risiko (z.B. bestimmte manipulative oder überwachende Systeme),
- Hochrisiko-KI (u.a. viele Anwendungen im HR-Bereich),
- KI-Systeme mit geringem oder minimalem Risiko.
Verstöße können mit erheblichen Bußgeldern sanktioniert werden – bis zu 35 Mio. € oder bis zu 7 % des weltweiten Jahresumsatzes.
Pflicht zur Sicherstellung ausreichender KI-Kompetenz
Eine der wichtigsten und häufig übersehenen Neuerungen ist Art. 4 KI-VO. Danach müssen Unternehmen sicherstellen, dass alle Personen, die KI-Systeme betreiben oder beruflich nutzen, über ein ausreichendes Maß an KI-Kompetenz verfügen.
Diese Pflicht gilt:
- unabhängig von der Unternehmensgröße,
- für alle KI-Systeme, nicht nur für Hochrisiko-KI,
- seit dem 2. Februar 2025 unmittelbar.
KI-Kompetenz bedeutet dabei nicht nur technisches Wissen. Mitarbeitende müssen insbesondere verstehen:
- wie KI-Systeme funktionieren,
- welche Chancen und Risiken mit ihrem Einsatz verbunden sind,
- wie Ergebnisse kritisch zu bewerten sind (z.B. Vermeidung von Fehlentscheidungen),
- welche rechtlichen Grenzen gelten (Datenschutz, Diskriminierung, Geheimnisschutz).
Wen betrifft die Schulungspflicht?
Zu schulen sind grundsätzlich alle Personen, die im Unternehmen KI einsetzen oder deren Einsatz verantworten, insbesondere:
- Arbeitnehmer und Führungskräfte,
- externe Dienstleister, soweit sie KI im Auftrag nutzen,
- Mitglieder der Geschäftsleitung selbst.
In der Praxis empfiehlt sich häufig eine Basisschulung für alle Mitarbeitenden, ergänzt durch vertiefende Schulungen für bestimmte Funktionen, etwa im HR-Bereich, in der IT, im Management oder in der Rechtsabteilung.
Inhalte einer rechtssicheren KI-Schulung
Eine wirksame Schulung sollte unter anderem folgende Themen abdecken:
- Erkennen und Einordnen von KI-Systemen,
- Grundlagen der Funktionsweise von KI,
- rechtliche Rahmenbedingungen (KI-VO, DSGVO, Arbeitsrecht),
- Umgang mit Risiken wie Bias, Diskriminierung und „Halluzinationen“,
- Anforderungen an Transparenz, menschliche Kontrolle und Dokumentation,
- unternehmensinterne Regeln und Best Practices zur KI-Nutzung.
Ziel ist es, Mitarbeitende zu befähigen, KI sachkundig, verantwortungsvoll und rechtskonform einzusetzen.
Haftungsrisiken für Geschäftsführer
Die Pflicht zur Sicherstellung ausreichender KI-Kompetenz ist Teil der allgemeinen Legalitäts- und Organisationspflicht der Geschäftsleitung. Wird sie verletzt, drohen:
- persönliche Haftung des Geschäftsführers wegen Organisationsverschuldens,
- behördliche Sanktionen und Bußgelder,
- datenschutzrechtliche und arbeitsrechtliche Folgeprobleme,
- erhebliche Reputationsschäden.
KI ohne klare Regeln, Schulungen und Kontrolle einzusetzen, ist daher rechtlich hochriskant.
Fazit: KI braucht klare Strukturen und rechtliche Begleitung
Unternehmen sollten den Einsatz von KI strategisch und rechtssicher angehen. Dazu gehören insbesondere:
- eine Bestandsaufnahme aller eingesetzten KI-Systeme,
- eine rechtliche Risikobewertung,
- die Einführung von Schulungs- und Governance-Strukturen,
- klare interne Vorgaben zur KI-Nutzung.
Geschäftsführer, die jetzt handeln, schaffen nicht nur Rechtssicherheit, sondern legen auch die Grundlage für einen verantwortungsvollen und erfolgreichen Einsatz von KI im Unternehmen.
Hinweis: Dieser Beitrag erhebt keinen Anspruch auf Vollständigkeit und stellt keine individuelle Rechtsberatung dar, sondern dient ausschließlich der allgemeinen Information. Bei konkreten Anliegen sollten Sie anwaltlichen Rat einholen.
Wenn Sie rechtliche Beratung benötigen, nehmen Sie gerne Kontakt mit Ihrer Hamburger Anwaltskanzlei BALIN LEGAL unter info@balin-legal.de auf.
