contatto
Il vostro studio legale Alexis Brudermann.
indirizzo
Obere Langgasse 9
67346 Speyer
67346 Speyer
Orari di apertura
Dal lunedì al venerdì: dalle 8:30 alle 17:30.
Alexis Brudermann – Italia e Germania – Due giurisdizioni. Un unico studio legale. Il vostro vantaggio.
Intelligenza artificiale nella gestione della conformità: integrazione IT-legale dei sistemi di IA nella governance esistente
Articolo tecnico di diritto informatico: consigli giuridicamente validi per i modelli di business digitali
Intelligenza artificiale nella gestione della conformità: l'integrazione IT-legale dei sistemi di IA nelle strutture di governance e controllo esistenti.
L'impiego dell'intelligenza artificiale nei processi aziendali presenta significative sfide di natura legale, organizzativa e in termini di responsabilità. Le violazioni di legge o il mancato rispetto degli standard etici riconosciuti possono comportare notevoli svantaggi economici, responsabilità personali per la dirigenza e gli organi di controllo, nonché danni reputazionali duraturi.
Sono pertanto tenuto a integrare pienamente l'uso dei sistemi di intelligenza artificiale nel mio sistema di gestione della conformità (CMS). Il semplice rispetto dei requisiti del Regolamento UE sull'IA (AI Act) non è sufficiente. Devo invece identificare e valutare sistematicamente ulteriori aree di rischio relative all'IT, alla protezione dei dati, al diritto del lavoro e alla responsabilità civile, e gestirle attraverso adeguate misure organizzative, tecniche e legali.
Di seguito fornirò una panoramica dei rischi legali attuali che potrebbero compromettere il successo della vostra azienda.
Rischio di divulgazione di segreti commerciali nell'utilizzo dell'intelligenza artificiale
L'utilizzo di ChatGPT e di sistemi di intelligenza artificiale simili comporta rischi significativi per la protezione dei segreti commerciali. I contenuti inseriti in applicazioni di intelligenza artificiale aperte o esterne possono essere elaborati, archiviati o utilizzati a fini di addestramento, a seconda del sistema specifico e dei suoi termini di servizio. Ciò crea il rischio che informazioni aziendali riservate vengano divulgate senza controllo.
Le aziende sono pertanto obbligate ad adottare misure di sicurezza sia organizzative che tecniche per garantire la riservatezza dei dati sensibili.
Ciò include, in particolare, chiare linee guida interne che specifichino quali informazioni possono essere inserite nei sistemi di intelligenza artificiale e quali sono esplicitamente escluse. Soprattutto quando si utilizzano strumenti di intelligenza artificiale disponibili pubblicamente, è fondamentale garantire che nei prompt non vengano utilizzati segreti commerciali, strategie interne o informazioni contrattuali riservate.
In qualità di avvocato, assisto le aziende nella progettazione di linee guida sull'intelligenza artificiale conformi alla legge, nella valutazione della protezione dei segreti commerciali e dei rischi di responsabilità, nonché nell'implementazione di meccanismi di conformità e controllo adeguati per evitare violazioni di legge e danni economici.
Sfide legali in materia di protezione dei dati nell'utilizzo dell'intelligenza artificiale
L'utilizzo dell'intelligenza artificiale è pienamente soggetto alle disposizioni del Regolamento generale sulla protezione dei dati (GDPR). Le violazioni possono comportare sanzioni pecuniarie ingenti, richieste di risarcimento danni e danni alla reputazione. Gli obblighi in materia di protezione dei dati si applicano sia ai fornitori che ai gestori di sistemi di intelligenza artificiale, con un ambito di applicazione e responsabilità che dipendono dal ruolo specifico svolto nel trattamento dei dati personali.
I fornitori di sistemi di intelligenza artificiale devono garantire, fin dalle prime fasi di sviluppo, che i loro sistemi siano progettati in conformità con le normative sulla protezione dei dati. Oltre agli obblighi previsti dalla legge europea sull'IA (EUIA Act), come la valutazione della conformità e la relativa documentazione, devono soddisfare requisiti specifici in materia di sicurezza dei dati, privacy by design e privacy by default, nonché, ove applicabile, effettuare una valutazione d'impatto sulla protezione dei dati. Un'architettura di sistema conforme alla normativa sulla protezione dei dati faciliterà in seguito l'utilizzo lecito da parte dell'operatore.
In qualità di gestore di sistemi di intelligenza artificiale, sono regolarmente responsabile in via primaria ai sensi del GDPR, poiché utilizzo l'IA in un contesto specifico. Devo garantire che i dati personali siano trattati in modo lecito, soprattutto quando i dati vengono inseriti nei modelli di IA (richieste). La minimizzazione dei dati, la limitazione dell'accesso, le garanzie tecniche e il controllo dei flussi di dati devono essere rigorosamente rispettati.
Una prassi consolidata e ottimale consiste nell'avere linee guida interne chiare sull'IA che regolamentino legalmente l'uso degli strumenti di IA in conformità con le normative sulla protezione dei dati. Queste linee guida creano certezza giuridica, mi sollevano dagli oneri amministrativi e riducono efficacemente il rischio di violazioni e sanzioni legate al GDPR.
Rischi di responsabilità del prodotto e di sicurezza del prodotto derivanti dall'utilizzo di sistemi di intelligenza artificiale
L'utilizzo di sistemi di intelligenza artificiale può comportare rischi significativi in termini di responsabilità del prodotto e sicurezza per produttori e sviluppatori, soprattutto quando le funzioni di IA prendono decisioni rilevanti per la sicurezza o sono integrate in prodotti fisici. L'esistenza e l'entità di tali rischi dipendono in modo cruciale dall'applicazione specifica e dalla progettazione tecnica del sistema di IA.
Occorre esaminare in particolare i seguenti scenari di responsabilità:
-
Responsabilità per difetti del prodotto: Se un sistema di intelligenza artificiale difettoso causa danni a persone o cose, potrebbe essere valutata la responsabilità per i difetti del prodotto e i danni consequenziali.
-
Diritto in materia di responsabilità del produttore:
-
Secondo la legge sulla responsabilità del produttore, quest'ultimo è responsabile dei danni causati da prodotti difettosi, indipendentemente dalla colpa.
-
La misura in cui i software e i sistemi di intelligenza artificiale possano essere considerati prodotti in senso giuridico è attualmente oggetto di controversie e numerose incertezze.
-
Responsabilità oggettiva: in applicazioni particolarmente ad alto rischio, il produttore può essere ritenuto responsabile a prescindere dalla colpa qualora si verifichino pericoli tipici derivanti dall'uso dell'IA.
-
Legge sulla sicurezza dei prodotti: i produttori sono obbligati a immettere sul mercato solo prodotti sicuri e a ridurre al minimo i potenziali rischi attraverso adeguate misure tecniche e organizzative.
In presenza di tali rischi, aumentano le esigenze in termini di concetti di sicurezza, garanzia di qualità e gestione del rischio. Una revisione preliminare della normativa informatica mi aiuta a limitare i rischi di responsabilità e ad implementare i requisiti normativi in modo conforme alla legge.
Rischi di responsabilità derivanti da risultati errati dell'IA
Oltre alle problematiche relative alla responsabilità del produttore, per i fabbricanti esistono significativi rischi di responsabilità civile per gli utenti e i gestori di sistemi di intelligenza artificiale. Questi rischi riguardano in particolare le aziende che utilizzano l'IA specificamente nei processi decisionali, di analisi o di valutazione.
Il Regolamento UE sull'intelligenza artificiale (AI Act) non disciplina la responsabilità in sé. Fino all'entrata in vigore della Direttiva UE sulla responsabilità in materia di intelligenza artificiale, si applicano i principi generali di responsabilità previsti dal Codice civile tedesco (BGB).
I rischi di responsabilità sorgono in particolare quando i sistemi di intelligenza artificiale forniscono risultati errati o scorretti, come informazioni false, valutazioni sbagliate, decisioni automatizzate scorrette o – aspetto particolarmente critico – raccomandazioni mediche o tecniche imprecise. Qualora ciò comporti danni finanziari, lesioni personali o danni materiali, io, in qualità di gestore del sistema di intelligenza artificiale, potrei essere ritenuto responsabile.
L'onere della prova è particolarmente importante: in caso di controversia, devo dimostrare che il sistema di intelligenza artificiale utilizzato è stato selezionato, gestito, monitorato e controllato correttamente. Senza un'adeguata documentazione, controlli e misure di sicurezza, questa prova è generalmente molto difficile da fornire.
Pertanto, dovrei adottare chiare precauzioni organizzative e tecniche, soprattutto per quanto riguarda la supervisione umana, la garanzia della qualità e la tracciabilità dei risultati dell'IA. Una consulenza legale in materia di diritto informatico mi aiuterà a identificare tempestivamente i rischi di responsabilità e a limitarli nel rispetto della legge.
Rischi legali in materia di diritto d'autore e brevettuale derivanti dall'utilizzo di sistemi di intelligenza artificiale
L'utilizzo dell'intelligenza artificiale solleva complesse questioni in materia di diritto d'autore e brevetti. Secondo la normativa vigente, solo le creazioni intellettuali umane godono della protezione del diritto d'autore. I contenuti generati esclusivamente dall'IA non sono quindi generalmente considerati né opere protette da copyright né invenzioni brevettabili. Questa classificazione giuridica può comportare rischi strategici ed economici significativi per le aziende.
L'utilizzo dell'intelligenza artificiale (IA) diventa particolarmente problematico quando i sistemi di IA sono stati addestrati con dati protetti da copyright o quando l'output dell'IA assomiglia molto a opere esistenti in termini di contenuto o design. In questi casi, sussiste il rischio di violazione del copyright, anche se involontaria. Se utilizzo strumenti di IA, potrei essere ritenuto responsabile nei confronti di terzi, ad esempio per provvedimenti ingiuntivi, divulgazione di informazioni e risarcimento danni.
Inoltre, esiste il rischio che i contenuti generati dall'IA possano inavvertitamente costituire plagio o violare i diritti di proprietà intellettuale di terzi.
In assenza di linee guida chiare, è probabile che sorgano controversie legali, che possono comportare costi considerevoli.
Per ridurre al minimo i rischi, si raccomanda di introdurre linee guida interne vincolanti sull'IA, utilizzare fonti di dati consentite e sottoporre i contenuti generati dall'IA a revisione e approvazione legale.
Rischi in materia di diritto del lavoro derivanti dall'utilizzo dell'IA nella mia azienda
L'impiego dell'intelligenza artificiale sul luogo di lavoro solleva numerose questioni in materia di diritto del lavoro. Le aziende che utilizzano sistemi di IA, ad esempio per il reclutamento, la gestione delle risorse umane o la valutazione delle prestazioni, devono tenere conto di specifici requisiti legali per evitare rischi di responsabilità, conflitti di cogestione e accuse di discriminazione.
-
Competenze in materia di intelligenza artificiale e norme di utilizzo interno
-
I dipendenti che utilizzano sistemi di intelligenza artificiale possono – anche involontariamente – creare rischi legali.
-
Di norma, il datore di lavoro è responsabile per eventuali danni conseguenti.
-
Questi rischi possono essere ridotti significativamente se le aziende garantiscono un'adeguata alfabetizzazione in materia di IA e emanano linee guida interne vincolanti che definiscano chiaramente l'utilizzo, i limiti e le responsabilità.
-
Partecipazione del consiglio di fabbrica
-
Se esiste un consiglio di fabbrica, questo dovrebbe essere coinvolto nell'utilizzo dell'IA fin dalle prime fasi.
-
Anche la pianificazione dei processi lavorativi tramite intelligenza artificiale è soggetta agli obblighi di informazione previsti dall'articolo 90 della legge costituzionale sul lavoro.
-
Inoltre, la cogestione può essere richiesta ai sensi dell'articolo 87, paragrafo 1, numero 6 della legge sulla costituzione aziendale, in particolare se i sistemi di intelligenza artificiale vengono utilizzati o resi obbligatori per il monitoraggio delle prestazioni o del comportamento.
-
Le linee guida sull'IA potrebbero anche essere soggette a una decisione condivisa.
-
Rischi di discriminazione ai sensi della legge tedesca sulla parità di trattamento (AGG) e del GDPR.
-
L'utilizzo dell'intelligenza artificiale non deve comportare trattamenti ineguali o discriminazioni.
-
La legge generale sulla parità di trattamento (AGG) si applica senza restrizioni alle decisioni supportate dall'intelligenza artificiale, in particolare nei settori del reclutamento e della gestione delle risorse umane.
-
Oltre agli svantaggi diretti, è importante anche la discriminazione indiretta, ad esempio attraverso dati di addestramento distorti.
-
Inoltre, l'articolo 22 del GDPR limita le decisioni automatizzate e richiede la supervisione umana.
-
Rischio specifico con i modelli linguistici di intelligenza artificiale
-
I modelli linguistici basati sull'intelligenza artificiale comportano un rischio maggiore di discriminazione e mancanza di trasparenza.
-
Le ragioni di ciò risiedono, in particolare, nei dati di addestramento distorti, nei modelli di probabilità statistica e nel fatto che molti sistemi non sono adattati alla legislazione sul lavoro tedesca.
-
Data la sua natura di "scatola nera", prima dell'utilizzo si raccomanda un'analisi approfondita dei rischi, nonché l'adozione di adeguate misure di protezione tecniche e organizzative.
Normative nazionali e settoriali sull'intelligenza artificiale
Oltre al Regolamento UE sull'IA (AI Act), per l'utilizzo dell'intelligenza artificiale potrebbero essere rilevanti ulteriori normative nazionali e settoriali. A seconda del settore, dell'ambito di applicazione e della localizzazione, potrebbero essere applicabili ulteriori requisiti normativi, ad esempio in materia di dispositivi medici, diritto della vigilanza finanziaria o altri settori altamente regolamentati.
Devo quindi verificare se, oltre alle normative generali sull'IA, esistano anche quadri giuridici specifici che impongano requisiti più stringenti in materia di approvazione, documentazione, monitoraggio o responsabilità. Un'analisi caso per caso della normativa informatica è essenziale, soprattutto per le applicazioni critiche per la sicurezza o soggette a regolamentazione, al fine di evitare violazioni, diffide e provvedimenti normativi.
Utilizzate l'intelligenza artificiale in un ambiente regolamentato o ne state pianificando l'implementazione? In qualità di avvocato specializzato in diritto informatico, vi assisto nella classificazione delle normative nazionali e di settore in materia di intelligenza artificiale, evitando di ricevere lettere di diffida e garantendo l'implementazione conforme alla legge di requisiti normativi complessi.
Invia subito la tua richiesta
Saremo lieti di fornirvi una consulenza completa e personalizzata in merito alla vostra richiesta.