contatto
Il vostro studio legale Alexis Brudermann.
indirizzo
Obere Langgasse 9
67346 Speyer
67346 Speyer
Orari di apertura
Dal lunedì al venerdì: dalle 8:30 alle 17:30.
Alexis Brudermann – Italia e Germania – Due giurisdizioni. Un unico studio legale. Il vostro vantaggio.
Intelligenza artificiale nella gestione della conformità: integrazione IT-legale dei sistemi di IA nella governance esistente
Fachbeitrag im IT-Recht: rechtssichere Beratung für digitale Geschäftsmodelle
Künstliche Intelligenz im Compliance-Management: Die IT-rechtliche Integration von KI-Systemen in bestehende Governance- und Kontrollstrukturen.
Der Einsatz von künstlicher Intelligenz in Unternehmensprozessen bringt erhebliche rechtliche, organisatorische und haftungsrelevante Herausforderungen mit sich. Gesetzesverstöße oder die Missachtung anerkannter ethischer Standards können zu erheblichen wirtschaftlichen Nachteilen, persönlicher Haftung der Geschäftsleitung sowie der Aufsichtsorgane führen und nachhaltige Reputationsschäden verursachen.
Ich bin daher verpflichtet, den Einsatz von KI-Systemen umfassend in mein Compliance-Management-System (CMS) einzubetten. Dabei genügt es nicht, lediglich die Anforderungen der EU-KI-Verordnung (AI Act) zu erfüllen. Vielmehr müssen ich auch weitere IT-, datenschutz-, arbeits- und haftungsrechtliche Risikobereiche systematisch identifizieren, bewerten und durch geeignete organisatorische, technische und rechtliche Maßnahmen steuern.
Im Folgenden gebe ich Ihnen einen Überblick über aktuelle Rechtsrisiken, die den Erfolg Ihres Unternehmens gefährden können.
Risiko der Offenlegung von Geschäftsgeheimnissen bei der Nutzung von KI
Die Nutzung von ChatGPT und ähnlichen KI-Systemen bringt erhebliche Risiken für den Schutz von Geschäftsgeheimnissen mit sich. Inhalte, die in offene oder externe KI-Anwendungen eingegeben werden, können – abhängig vom jeweiligen System und dessen Nutzungsbedingungen – verarbeitet, gespeichert oder zu Trainingszwecken verwendet werden. Dies birgt die Gefahr, dass vertrauliche Unternehmensinformationen unkontrolliert preisgegeben werden.
Unternehmen sind daher verpflichtet, sowohl organisatorische als auch technische Schutzmaßnahmen zu ergreifen, um die Vertraulichkeit sensibler Daten zu sichern.
Dazu zählen insbesondere eindeutige interne Vorgaben, welche Informationen in KI-Systeme eingegeben werden dürfen und welche ausdrücklich ausgeschlossen sind. Besonders bei der Verwendung öffentlicher KI-Tools ist strikt darauf zu achten, dass keine Geschäftsgeheimnisse, internen Strategien oder vertraulichen Vertragsinhalte in Prompts verwendet werden.
Ich als Rechtsanwalt unterstütze Unternehmen bei der rechtssicheren Gestaltung von KI-Richtlinien, der Bewertung von Geheimnisschutz- und Haftungsrisiken sowie bei der Implementierung geeigneter Compliance- und Kontrollmechanismen, um Rechtsverstöße und wirtschaftliche Schäden zu vermeiden.
Rechtliche Herausforderungen im Datenschutz bei der Verwendung von KI
Der Einsatz von künstlicher Intelligenz unterliegt uneingeschränkt den Vorgaben der Datenschutz-Grundverordnung (DSGVO). Verstöße können zu erheblichen Bußgeldern, Schadensersatzansprüchen und Reputationsschäden führen. Datenschutzrechtliche Pflichten treffen dabei sowohl Anbieter als auch Betreiber von KI-Systemen, wobei der Umfang und die Verantwortung von meiner jeweiligen Rolle bei der Verarbeitung personenbezogener Daten abhängt.
Anbieter von KI-Systemen müssen bereits bei der Entwicklung sicherstellen, dass ihre Systeme datenschutzkonform konzipiert sind. Neben den Pflichten aus dem EU AI Act – etwa Konformitätsbewertung und Dokumentation – sind insbesondere Anforderungen an Datensicherheit, Privacy by Design und Privacy by Default sowie gegebenenfalls die Durchführung einer Datenschutz-Folgenabschätzung zu erfüllen. Eine datenschutzgerechte Systemarchitektur erleichtert mir später die rechtmäßige Nutzung durch den Betreiber.
Als Betreiber von KI-Systemen trage ich regelmäßig die Hauptverantwortung nach der DSGVO, da ich die KI im konkreten Nutzungskontext einsetze. Ich muss sicherstellen, dass personenbezogene Daten nur rechtmäßig verarbeitet werden, primär bei der Eingabe von Daten in KI-Modelle (Prompts). Dabei sind Datensparsamkeit, Zugriffsbeschränkungen, technische Schutzmaßnahmen sowie die Kontrolle von Datenflüssen zwingend einzuhalten.
Ein bewährter Praxisansatz sind klare interne KI-Richtlinien, die den datenschutzkonformen Umgang mit KI-Tools verbindlich regeln. Sie schaffen Rechtssicherheit, entlasten mich und reduzieren wirksam das Risiko DSGVO-relevanter Verstöße und Bußgelder.
Risiken der Produkthaftung und Produktsicherheit bei der Verwendung von KI-Systemen
Der Einsatz von KI-Systemen kann für Hersteller und Entwickler erhebliche produkthaftungs- und produktsicherheitsrechtliche Risiken mit sich bringen – insbesondere wenn KI-Funktionen sicherheitsrelevante Entscheidungen treffen oder in physische Produkte integriert sind. Ob und in welchem Umfang solche Risiken bestehen, hängt entscheidend vom konkreten Einsatzzweck und der technischen Ausgestaltung des KI-Systems ab.
Zu prüfen sind insbesondere folgende Haftungskonstellationen:
-
Haftung wegen Produktmängeln: Verursacht ein fehlerhaftes KI-System Schäden an Personen oder Sachen, kann eine Haftung wegen Produktfehlern und Mangelfolgeschäden in Betracht kommen.
-
Produkthaftungsrecht:
-
Nach dem Produkthaftungsgesetz haftet der Hersteller verschuldensunabhängig für Schäden durch fehlerhafte Produkte.
-
Inwieweit Software und KI-Systeme als Produkte im haftungsrechtlichen Sinne gelten, ist derzeit rechtlich umstritten und mit Unsicherheiten behaftet.
-
Gefährdungshaftung: Bei besonders risikobehafteten Anwendungen kann eine verschuldensunabhängige Haftung des Herstellers eintreten, wenn durch den KI-Einsatz typische Gefahren realisiert werden.
-
Produktsicherheitsrecht: Hersteller sind verpflichtet, nur sichere Produkte in Verkehr zu bringen und potenzielle Risiken durch geeignete technische und organisatorische Maßnahmen zu minimieren.
Wenn entsprechende Risiken bestehen, ergeben sich erhöhte Anforderungen an Sicherheitskonzepte, Qualitätssicherung und Risikomanagement. Eine frühzeitige IT-rechtliche Prüfung hilft mir, Haftungsrisiken zu begrenzen und regulatorische Vorgaben rechtssicher umzusetzen.
Haftungsrisiken aufgrund von fehlerhaften KI-Ergebnissen
Zusätzlich zu produkthaftungsrechtlichen Fragestellungen für Hersteller existieren erhebliche zivilrechtliche Haftungsrisiken für Nutzer und Betreiber von KI-Systemen. Diese betreffen insbesondere Unternehmen, die KI gezielt in Entscheidungs-, Analyse- oder Bewertungsprozessen einsetzen.
Die EU-KI-Verordnung (AI Act) regelt die Haftung an sich nicht. Bis zum Inkrafttreten der geplanten EU-KI-Haftungsrichtlinie gelten daher die allgemeinen Haftungsgrundsätze des Bürgerlichen Gesetzbuchs (BGB).
Haftungsrelevante Risiken treten insbesondere dann auf, wenn KI-Systeme fehlerhafte oder inkorrekte Ergebnisse liefern, wie beispielsweise in Form von falschen Informationen, fehlerhaften Bewertungen, automatisierten Fehlentscheidungen oder – besonders kritisch – unzutreffenden medizinischen oder technischen Empfehlungen. Kommt es dadurch zu Vermögens-, Personen- oder Sachschäden, kann ich als Betreiber der KI in Anspruch genommen werden.
Besonders wichtig ist die Beweislastverteilung: Ich muss im Streitfall darlegen und nachweisen, dass das eingesetzte KI-System ordnungsgemäß ausgewählt, betrieben, überwacht und kontrolliert wurde. Ohne geeignete Dokumentations-, Kontroll- und Absicherungsmaßnahmen ist dieser Nachweis in der Regel kaum zu führen.
Ich sollte daher klare organisatorische und technische Vorkehrungen treffen, insbesondere zur menschlichen Kontrolle, Qualitätssicherung und Nachvollziehbarkeit von KI-Ergebnissen. Eine IT-rechtliche Beratung unterstützt mich dabei, Haftungsrisiken frühzeitig zu erkennen und rechtssicher zu begrenzen.
Rechtsanwaltliche Risiken im Urheber- und Patentrecht bei der Verwendung von KI-Systemen
Der Einsatz von künstlicher Intelligenz wirft komplexe urheber- und patentrechtliche Fragestellungen auf. Nach geltendem Recht genießen nur menschliche geistige Schöpfungen urheberrechtlichen Schutz. Rein KI-generierte Inhalte gelten daher grundsätzlich weder als urheberrechtlich geschützte Werke noch als patentfähige Erfindungen. Diese rechtliche Einordnung kann für Unternehmen erhebliche strategische und wirtschaftliche Risiken mit sich bringen.
Problematisch wird der KI-Einsatz insbesondere dann, wenn KI-Systeme mit urheberrechtlich geschützten Daten trainiert wurden oder wenn KI-Ausgaben bestehenden Werken inhaltlich oder gestalterisch zu nahekommen. In solchen Fällen drohen Urheberrechtsverletzungen, auch wenn der Verstoß nicht bewusst erfolgt. Nutze ich KI-Tools, kann ich hierfür im Außenverhältnis haften, etwa auf Unterlassung, Auskunft und Schadensersatz.
Zusätzlich besteht das Risiko, dass KI-generierte Inhalte ungewollt Plagiate darstellen oder fremde Schutzrechte berühren.
Ohne klare Vorgaben drohen rechtliche Auseinandersetzungen, die mit erheblichen Kosten verbunden sein können.
Zur Risikominimierung empfiehlt sich die Einführung verbindlicher interner KI-Richtlinien, die Nutzung zulässiger Datenquellen sowie eine rechtliche Prüfung und Freigabe KI-generierter Inhalte.
Arbeitsrechtliche Risiken beim Einsatz von KI in meinem Unternehmen
Die Verwendung von künstlicher Intelligenz im Arbeitsumfeld wirft zahlreiche arbeitsrechtliche Fragestellungen auf. Unternehmen, die KI-Systeme beispielsweise im Recruiting, in der Personalverwaltung oder bei Leistungsbewertungen einsetzen, müssen besondere rechtliche Anforderungen berücksichtigen, um Haftungsrisiken, Mitbestimmungskonflikte und Diskriminierungsvorwürfe zu vermeiden.
-
KI-Kompetenz und interne Nutzungsregeln
-
Mitarbeiter, die KI-Systeme nutzen, können – auch unabsichtlich – rechtliche Risiken hervorrufen.
-
Für daraus resultierende Schäden haftet in der Regel der Arbeitgeber.
-
Diese Risiken lassen sich erheblich reduzieren, wenn Unternehmen ausreichende KI-Kompetenz (AI Literacy) sicherstellen und verbindliche interne KI-Richtlinien erlassen, die Nutzung, Grenzen und Verantwortlichkeiten klar definieren.
-
Beteiligung des Betriebsrats
-
Existiert ein Betriebsrat, sollte dieser frühzeitig in den Einsatz von KI einbezogen werden.
-
Bereits die Planung von Arbeitsabläufen unter Verwendung von KI unterliegt den Informationspflichten gemäß § 90 BetrVG.
-
Darüber hinaus kann eine Mitbestimmung nach § 87 Abs. 1 Nr. 6 BetrVG erforderlich sein, insbesondere wenn KI-Systeme zur Leistungs- oder Verhaltenskontrolle eingesetzt oder verbindlich vorgegeben werden.
-
Auch KI-Richtlinien könnten mitbestimmungspflichtig sein.
-
Diskriminierungsrisiken nach AGG und DSGVO
-
Der Einsatz von KI darf nicht zu Ungleichbehandlung oder Diskriminierung führen.
-
Das Allgemeine Gleichbehandlungsgesetz (AGG) gilt uneingeschränkt auch für KI-gestützte Entscheidungen, insbesondere im Recruiting und Personalmanagement.
-
Neben direkten Benachteiligungen sind auch mittelbare Diskriminierungen von Bedeutung, etwa durch verzerrte Trainingsdaten.
-
Zusätzlich begrenzt Art. 22 DSGVO automatisierte Entscheidungen und verlangt menschliche Kontrolle.
-
Besonderes Risiko bei KI-Sprachmodellen
-
KI-Sprachmodelle bergen ein erhöhtes Risiko für Diskriminierung und Intransparenz.
-
Die Gründe hierfür sind insbesondere verzerrte Trainingsdaten, statistische Wahrscheinlichkeitsmodelle und die Tatsache, dass viele Systeme nicht an das deutsche Arbeitsrecht angepasst sind.
-
Aufgrund ihres Blackbox-Charakters ist vor dem Einsatz eine gründliche Risikoanalyse sowie begleitende technische und organisatorische Schutzmaßnahmen zu empfehlen.
Nationale und branchenspezifische Regelungen zur Künstlichen Intelligenz
Zusätzlich zur EU-KI-Verordnung (AI Act) können für den Einsatz von künstlicher Intelligenz weitere nationale und sektorspezifische Regelungen von Bedeutung sein. Je nach Branche, Anwendungsbereich und Standort können zusätzliche regulatorische Anforderungen relevant werden, beispielsweise im Medizinprodukterecht, im Finanzaufsichtsrecht oder in anderen stark regulierten Sektoren.
Ich muss daher überprüfen, ob neben den allgemeinen KI-Vorgaben auch spezielle gesetzliche Rahmenbedingungen bestehen, die strengere Anforderungen an Zulassung, Dokumentation, Überwachung oder Haftung stellen. Eine IT-rechtliche Einzelfallprüfung ist insbesondere bei sicherheitskritischen oder regulierten Anwendungen unerlässlich, um Verstöße, Abmahnungen und aufsichtsrechtliche Maßnahmen zu vermeiden.
Setzen Sie KI in einem regulierten Umfeld ein oder planen Sie entsprechende Anwendungen? Ich unterstütze Sie als Rechtsanwalt für IT-Recht bei der Einordnung nationaler und branchenspezifischer KI-Vorgaben, der Vermeidung von Abmahnungen sowie der rechtssicheren Umsetzung komplexer Regulierungsvorgaben.
Invia subito la tua richiesta
Saremo lieti di fornirvi una consulenza completa e personalizzata in merito alla vostra richiesta.