- Intelligenza artificiale e responsabilità giuridica: l’uomo sbaglia, la macchina mai
“Intelligente”, “senziente” o “creativa”: è possibile riconoscere una soggettività giuridica all’intelligenza artificiale? Nonostante i modelli di IA generativa superino le attese con risposte complesse, queste derivano comunque da algoritmi di rielaborazione, privi di vera innovazione e creatività, almeno in
A proposito dei c.d. Large Language Models (LLM o IA generativa), quali chatGPT, Claude e Gemini per fare alcuni esempi, introduco il concetto di industrializzazione del pensiero al fine di dare atto di ciò che sono e per sottolineare la particolare importanza di questi tipi di IA.
Sotto il profilo tecnico gli LLM funzionano ricevendo in input una grande quantità di documenti, immagini ed altri contenuti prodotti dall’uomo, ovvero ricevono in input creatività umana quale materia prima.
Tale materia prima passa attraverso una serie di istruzioni finite, gli algoritmi, di natura matematica, statistica e probabilistica al fine di generare in output un testo, un’immagine o altri contenuti quali prodotti della combinazione della creatività umana in input.
Da ciò ne ho dedotto la sostanziale natura di catena di montaggio degli LLM e quindi la sostanziale industrializzazione del pensiero in connessione col fatto che gli LLM derivano dagli studi sul neurone umano e simulano reti neurali.
Sotto altro profilo questo concetto dà atto delle profonde implicazioni che derivano da questi tipi di IA e che investono tutta la nostra vita. Si tratta ad esempio di implicazioni politiche, economiche, sociali, etiche, religiose, giuridiche e filosofiche.
Gli LLM si contraddistinguono rispetto ad altri tipi di IA per il consumo di creatività umana ed il grado di interazione con l’umano.
La capacità di interazione con l’umano degli LLM è così alta che oggi siamo in grado di comunicare con una macchina attraverso le istruzioni che gli diamo (i prompt).
Questo particolare aspetto rende l’uso dell’IA facile ed a portata di chiunque, a differenza di altre IA che richiedono per il loro uso la programmazione.
Se l’uso dell’IA è diventato facile, non altrettanto lo è l’impiego.
L’impiego, soprattutto dell’IA generativa, richiede infatti di avere contezza che si tratta di un software dalle capacità limitate, per quanto sorprendenti, e che il cattivo impiego od un impiego non cosciente può creare problemi e danni.
Tra i problemi più rilevanti troviamo il rischio di manipolazione dell’opinione pubblica, l’amplificazione di pregiudizi nei dati, il rischio di perdita di posti di lavoro, i rischi per la sicurezza nazionale, per la privacy e la proprietà intellettuale, nonché l’impossibilità di avere un pieno controllo dell’IA.
La governance
Al momento la soluzione più utilizzata a livello giuridico per controllare l’impiego dell’IA e per indirizzare i problemi e le incertezze dell’IA a livello internazionale e statale è la governance.
Sono esempi di governance internazionale:
• la dichiarazione internazionale di Bletchley avvenuta durante the AI safety summit 2023;
• la convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto, già firmata dalla Commissione europea.
E’ un esempio di governance sovranazionale l’AI act.
Sono infine esempi di governance nazionale:
• l’Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence di Biden;
• il disegno di legge italiano sull’Intelligenza Artificiale presentato ad aprile 2024;
• il disegno di legge californiano sulla sicurezza dell’IA (AI safety bill).
L’Executive Order ed il disegno di legge californiano sono anche l’esempio di come i paesi anglosassoni a proposito dell’IA, consci delle implicazioni che comporta, abbiano abbandonato l’approccio tipico relativo alle nuove tecnologie generalmente fatto di codici di condotta ed etici e di linee guida per vere e proprie regolamentazioni del fenomeno.
La governance appare anche essenziale per affrontare le multi settoriali problematiche aziendali.
Per quello che qui interessa la governance giuridica ha l’importante funzione di stabilire regole comuni e pone, come nel caso dell’AI act, chiari limiti ed obblighi agli operatori economici creando responsabilità giuridiche a cui questi sono chiamati a rispondere.
Nondimeno la governance per sua stessa natura non è risolutiva, né tanto meno atta a indirizzare tutte le implicazioni.
La soggettività giuridica
Tra i problemi giuridici maggiormente associati all’IA vi sono quelli riconducibili al riconoscimento del suo essere “intelligente”, “senziente” o “creativa”.
Riconoscere la creatività dell’IA vuol dire riconoscere potenzialmente che l’IA possa essere titolare di diritti di proprietà intellettuale e che, quindi, possa gestire tale titolarità.
Se è intelligente e senziente allora l’IA potrebbe essere chiamata a rispondere autonomamente (ovvero a prescindere da chi l’ha creata o la gestisce) dei danni generati sia sotto il profilo civilistico che penalistico.
Di conseguenza si renderebbe necessario riflettere sulla capacità dell’IA di negoziare e contrarre, oltre che sulla possibilità di attribuirle una propria soggettività giuridica autonoma che porta a dissociare la responsabilità dell’IA da quella dei suoi programmatori e/o utenti.
Sotto altro profilo la tesi di dotare l’IA di soggettività giuridica poggerebbe sulla capacità dell’IA di prendere decisioni con un grado di autonomia tale da sfuggire, in tutto o in parte, al controllo e quindi alle responsabilità umane. Ciò comporterebbe la necessità di attribuire una responsabilità concorrente uomo-macchina, se non una responsabilità esclusiva dell’IA.
Il problema della soggettività giuridica sotto il profilo civilistico se lo era posto anche il Parlamento europeo che, nel 2017, aveva licenziato una risoluzione recante “raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica” con la quale, nell’intento di risolvere il problema dell’imputabilità dei danni e del risarcimento del danno derivante dai robot, aveva proposto di considerarli quali “persone elettroniche”.
Sebbene il Parlamento sia stato duramente criticato per la proposta, da un punto di vista giuridico la soluzione non sembra diversa da quella utilizzata, ad esempio, per le persone giuridiche che in forza del loro status possono essere titolari di diritti e di doveri, stare in giudizio, essere titolari di diritti di proprietà intellettuale, rispondere dei danni arrecati e che, in Italia, rispondono anche per responsabilità di natura amministrativa.
C’è però una differenza tra le persone giuridiche, le IA ed i robot.
A differenza dei primi, i secondi sono in grado di operare nel mondo reale senza l’intermediazione dell’uomo. Ad esempio se un termostato intelligente gestito da un’IA alzerà o diminuirà automaticamente la temperatura della stanza, una società per le stesse azioni dovrà ricorrere ad una persona fisica.
Differenza importante in tema di responsabilità.
Le soluzioni poste in questi termini non sembrano allo stato soddisfacenti, né conclusive nell’attribuire o non attribuire all’IA uno status giuridico e, come immaginabile, le questioni e le soluzioni qui richiamate non sono scevre da interessi economici piuttosto forti.
Invero queste questioni potrebbero essere considerate sotto un’altra prospettiva.
La comunità scientifica concorda sul fatto che l’intelligenza delle IA sia ancora così rudimentale da non poter essere equiparata nemmeno a quella di un animale domestico.
Nonostante i modelli di IA generativa superino le attese con risposte complesse, queste derivano comunque da algoritmi di rielaborazione, privi di vera innovazione e creatività, almeno in senso umano.
Per evitare fraintendimenti ed ambiguità si potrebbero allora evitare interpretazioni e suggestioni antropomorfiche e considerare che, nella loro essenza, tutti i tipi di IA siano software.
Questa è la chiave di lettura per evitare che l’IA sia scambiata per altro, ovvero per quello che “ti ruba il lavoro”, per l’indovino, per un amico e confidente, per la soluzione ad ogni bisogno, per ciò che ti fa aderire al cosiddetto lungotermismo o che spinge verso la necessità di avere un’IA responsabile o, peggio, che libera dalle proprie responsabilità programmatori e utenti.
L’IA, per quanto sbalorditiva è, in quanto software, il risultato della programmazione umana ed il suo uso ed impiego dipendono dall’uomo.
Anche lì dove l’IA opera con un elevato grado di autonomia e complessità, infatti, tale grado di autonomia e complessità è frutto di programmazione e non di intelligenza o creatività nel senso umano del termine o, se si preferisce, è frutto di programmazione anche a prescindere dalla “intelligenza” o “creatività” artificiale dell’IA.
In sostanza fin quando possiamo spegnere l’IA la responsabilità del suo funzionamento ed impiego dipende strettamente dall’uomo.
Tutto ciò non viene negato dal fatto che l’IA sia definita come una black-box. Seppure non sempre è chiaro come l’IA arrivi a certe risposte e funzioni in quanto opera attraverso miliardi di parametri e connessioni per cui è difficile tracciare ogni passaggio che porta ad una risposta finale, è pur vero che conosciamo gli algoritmi e l’architettura usati per costruire l’IA.
Ciò vuol dire che l’ignoranza sulle capacità dell’IA non può esimere l’uomo dal risponderne.
Neppure viene negato dalla capacità di auto addestramento od auto programmazione dell’IA in quanto queste capacità dipendendo da come l’IA è stata programmata fin dalla sua creazione.
Al contrario è intuibile quanto una dissociazione uomo-macchina possa essere pericolosa, anche alla luce dei problemi e delle implicazioni considerate sopra.
La responsabilità della macchina
In conclusione, se partiamo dalla considerazione che l’IA è un software programmato dall’uomo, non c’è ragione di riconoscere soggettività giuridica all’IA, né ha alcun fondamento fattuale e giuridico la dissociazione di responsabilità tra programmatore/utente ed IA, né infine ha senso considerare l’IA titolare di diritti, neppure di proprietà intellettuale.
Non è detto che con l’evoluzione tecnologica queste macchine non diventino sempre più capaci di prendere decisioni autonome in totale sostituzione dell’uomo o diventino creative in termini umani o che le definizioni di “intelligenza”, “creatività” e “capacità senziente” non assumano una valenza artificiale propria, svincolata da quelle classificate come umane.
Soprattutto non è detto che la complessità di queste macchine non diventi tale che l’intervento dell’uomo diventi marginale nella loro creazione o gestione.
Questo stato potrebbe portare razionalmente a risolvere il problema della responsabilità civile in termini, ad esempio, di responsabilità della macchina in aggiunta o in concorrenza con l’uomo o iure proprio.
Rimane però un altro problema. Le macchine non sbagliano.
Facciamo l’esempio di un autoveicolo a guida autonoma. L’IA non beve, non ha colpi di sonno, non si distrae e così via. Pertanto un incidente dovrà trovare la sua ragione o nell’uomo, ad esempio per una cattiva manutenzione o per errore di programmazione, o ricadere nell’ipotesi del caso fortuito.
Se così fosse da un punto di vista civilistico la responsabilità della macchina iure proprio non dovrebbe esistere o se esistesse sarebbe a titolo di responsabilità oggettiva. Non esisterebbe invece alcuna responsabilità penale, almeno nessuna responsabilità penale come oggi la intendiamo. A ben vedere anche queste sono argomentazioni che potremmo usare oggi per negare status giuridico alle IA, ma soprattutto per prenderci le nostre responsabilità verso le IA.
Più pragmaticamente la Commissione UE ha deciso di presentare nel settembre 2022 una proposta di direttiva relativa all’adeguamento delle norme in materia di responsabilità civile extra contrattuale all’intelligenza artificiale che, in base alla relazione complementare, sembrerebbe volere introdurre un regime misto, che combini elementi di responsabilità basata sulla colpa e responsabilità oggettiva, sì, ma dell’uomo
__________
*A cura di Claudio Palmieri, avvocato co-fondatore di theinnovationlawyers.eu, Partner 24 ORE
Il presente testo è un riadattamento ed un approfondimento finalizzato a evidenziare i profili di responsabilità giuridica legata all’IA dell’articolo “ Sull’ importanza dell’ intelligenza artificiale ed i ritardi delle imprese europee e italiane”. Tale esigenza ha comportato di dare per scontato concetti meglio spiegati o spiegati nel testo originario a cui si rinvia per approfondimenti.
Come ti dicevo stamattina Buon lavoro Ciao ciao Sauro
Inviato da Outlook per Android
Intelligenza artificiale e responsabilità giuridica: l’uomo sbaglia, la macchina mai
“Intelligente”, “senziente” o “creativa”: è possibile riconoscere una soggettività giuridica all’intelligenza artificiale? Nonostante i modelli di IA generativa superino le attese con risposte complesse, queste derivano comunque da algoritmi di rielaborazione, privi di vera innovazione e creatività, almeno in senso umano
Artificial intelligence concept with businessman
di Claudio Palmieri*
11 Novembre 2024
A proposito dei c.d. Large Language Models (LLM o IA generativa), quali chatGPT, Claude e Gemini per fare alcuni esempi, introduco il concetto di industrializzazione del pensiero al fine di dare atto di ciò che sono e per sottolineare la particolare importanza di questi tipi di IA.
Sotto il profilo tecnico gli LLM funzionano ricevendo in input una grande quantità di documenti, immagini ed altri contenuti prodotti dall’uomo, ovvero ricevono in input creatività umana quale materia prima.
Tale materia prima passa attraverso una serie di istruzioni finite, gli algoritmi, di natura matematica, statistica e probabilistica al fine di generare in output un testo, un’immagine o altri contenuti quali prodotti della combinazione della creatività umana in input.
Da ciò ne ho dedotto la sostanziale natura di catena di montaggio degli LLM e quindi la sostanziale industrializzazione del pensiero in connessione col fatto che gli LLM derivano dagli studi sul neurone umano e simulano reti neurali.
Sotto altro profilo questo concetto dà atto delle profonde implicazioni che derivano da questi tipi di IA e che investono tutta la nostra vita. Si tratta ad esempio di implicazioni politiche, economiche, sociali, etiche, religiose, giuridiche e filosofiche.
Gli LLM si contraddistinguono rispetto ad altri tipi di IA per il consumo di creatività umana ed il grado di interazione con l’umano.
La capacità di interazione con l’umano degli LLM è così alta che oggi siamo in grado di comunicare con una macchina attraverso le istruzioni che gli diamo (i prompt).
Questo particolare aspetto rende l’uso dell’IA facile ed a portata di chiunque, a differenza di altre IA che richiedono per il loro uso la programmazione.
Se l’uso dell’IA è diventato facile, non altrettanto lo è l’impiego.
L’impiego, soprattutto dell’IA generativa, richiede infatti di avere contezza che si tratta di un software dalle capacità limitate, per quanto sorprendenti, e che il cattivo impiego od un impiego non cosciente può creare problemi e danni.
Tra i problemi più rilevanti troviamo il rischio di manipolazione dell’opinione pubblica, l’amplificazione di pregiudizi nei dati, il rischio di perdita di posti di lavoro, i rischi per la sicurezza nazionale, per la privacy e la proprietà intellettuale, nonché l’impossibilità di avere un pieno controllo dell’IA.
La governance
Al momento la soluzione più utilizzata a livello giuridico per controllare l’impiego dell’IA e per indirizzare i problemi e le incertezze dell’IA a livello internazionale e statale è la governance.
Sono esempi di governance internazionale:
• la dichiarazione internazionale di Bletchley avvenuta durante the AI safety summit 2023;
• la convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto, già firmata dalla Commissione europea.
E’ un esempio di governance sovranazionale l’AI act.
Sono infine esempi di governance nazionale:
• l’Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence di Biden;
• il disegno di legge italiano sull’Intelligenza Artificiale presentato ad aprile 2024;
• il disegno di legge californiano sulla sicurezza dell’IA (AI safety bill).
L’Executive Order ed il disegno di legge californiano sono anche l’esempio di come i paesi anglosassoni a proposito dell’IA, consci delle implicazioni che comporta, abbiano abbandonato l’approccio tipico relativo alle nuove tecnologie generalmente fatto di codici di condotta ed etici e di linee guida per vere e proprie regolamentazioni del fenomeno.
La governance appare anche essenziale per affrontare le multi settoriali problematiche aziendali.
Per quello che qui interessa la governance giuridica ha l’importante funzione di stabilire regole comuni e pone, come nel caso dell’AI act, chiari limiti ed obblighi agli operatori economici creando responsabilità giuridiche a cui questi sono chiamati a rispondere.
Nondimeno la governance per sua stessa natura non è risolutiva, né tanto meno atta a indirizzare tutte le implicazioni.
La soggettività giuridica
Tra i problemi giuridici maggiormente associati all’IA vi sono quelli riconducibili al riconoscimento del suo essere “intelligente”, “senziente” o “creativa”.
Riconoscere la creatività dell’IA vuol dire riconoscere potenzialmente che l’IA possa essere titolare di diritti di proprietà intellettuale e che, quindi, possa gestire tale titolarità.
Se è intelligente e senziente allora l’IA potrebbe essere chiamata a rispondere autonomamente (ovvero a prescindere da chi l’ha creata o la gestisce) dei danni generati sia sotto il profilo civilistico che penalistico.
Di conseguenza si renderebbe necessario riflettere sulla capacità dell’IA di negoziare e contrarre, oltre che sulla possibilità di attribuirle una propria soggettività giuridica autonoma che porta a dissociare la responsabilità dell’IA da quella dei suoi programmatori e/o utenti.
Sotto altro profilo la tesi di dotare l’IA di soggettività giuridica poggerebbe sulla capacità dell’IA di prendere decisioni con un grado di autonomia tale da sfuggire, in tutto o in parte, al controllo e quindi alle responsabilità umane. Ciò comporterebbe la necessità di attribuire una responsabilità concorrente uomo-macchina, se non una responsabilità esclusiva dell’IA.
Il problema della soggettività giuridica sotto il profilo civilistico se lo era posto anche il Parlamento europeo che, nel 2017, aveva licenziato una risoluzione recante “raccomandazioni alla Commissione concernenti norme di diritto civile sulla robotica” con la quale, nell’intento di risolvere il problema dell’imputabilità dei danni e del risarcimento del danno derivante dai robot, aveva proposto di considerarli quali “persone elettroniche”.
Sebbene il Parlamento sia stato duramente criticato per la proposta, da un punto di vista giuridico la soluzione non sembra diversa da quella utilizzata, ad esempio, per le persone giuridiche che in forza del loro status possono essere titolari di diritti e di doveri, stare in giudizio, essere titolari di diritti di proprietà intellettuale, rispondere dei danni arrecati e che, in Italia, rispondono anche per responsabilità di natura amministrativa.
C’è però una differenza tra le persone giuridiche, le IA ed i robot.
A differenza dei primi, i secondi sono in grado di operare nel mondo reale senza l’intermediazione dell’uomo. Ad esempio se un termostato intelligente gestito da un’IA alzerà o diminuirà automaticamente la temperatura della stanza, una società per le stesse azioni dovrà ricorrere ad una persona fisica.
Differenza importante in tema di responsabilità.
Le soluzioni poste in questi termini non sembrano allo stato soddisfacenti, né conclusive nell’attribuire o non attribuire all’IA uno status giuridico e, come immaginabile, le questioni e le soluzioni qui richiamate non sono scevre da interessi economici piuttosto forti.
Invero queste questioni potrebbero essere considerate sotto un’altra prospettiva.
La comunità scientifica concorda sul fatto che l’intelligenza delle IA sia ancora così rudimentale da non poter essere equiparata nemmeno a quella di un animale domestico.
Nonostante i modelli di IA generativa superino le attese con risposte complesse, queste derivano comunque da algoritmi di rielaborazione, privi di vera innovazione e creatività, almeno in senso umano.
Per evitare fraintendimenti ed ambiguità si potrebbero allora evitare interpretazioni e suggestioni antropomorfiche e considerare che, nella loro essenza, tutti i tipi di IA siano software.
Questa è la chiave di lettura per evitare che l’IA sia scambiata per altro, ovvero per quello che “ti ruba il lavoro”, per l’indovino, per un amico e confidente, per la soluzione ad ogni bisogno, per ciò che ti fa aderire al cosiddetto lungotermismo o che spinge verso la necessità di avere un’IA responsabile o, peggio, che libera dalle proprie responsabilità programmatori e utenti.
L’IA, per quanto sbalorditiva è, in quanto software, il risultato della programmazione umana ed il suo uso ed impiego dipendono dall’uomo.
Anche lì dove l’IA opera con un elevato grado di autonomia e complessità, infatti, tale grado di autonomia e complessità è frutto di programmazione e non di intelligenza o creatività nel senso umano del termine o, se si preferisce, è frutto di programmazione anche a prescindere dalla “intelligenza” o “creatività” artificiale dell’IA.
In sostanza fin quando possiamo spegnere l’IA la responsabilità del suo funzionamento ed impiego dipende strettamente dall’uomo.
Tutto ciò non viene negato dal fatto che l’IA sia definita come una black-box. Seppure non sempre è chiaro come l’IA arrivi a certe risposte e funzioni in quanto opera attraverso miliardi di parametri e connessioni per cui è difficile tracciare ogni passaggio che porta ad una risposta finale, è pur vero che conosciamo gli algoritmi e l’architettura usati per costruire l’IA.
Ciò vuol dire che l’ignoranza sulle capacità dell’IA non può esimere l’uomo dal risponderne.
Neppure viene negato dalla capacità di auto addestramento od auto programmazione dell’IA in quanto queste capacità dipendendo da come l’IA è stata programmata fin dalla sua creazione.
Al contrario è intuibile quanto una dissociazione uomo-macchina possa essere pericolosa, anche alla luce dei problemi e delle implicazioni considerate sopra.
La responsabilità della macchina
In conclusione, se partiamo dalla considerazione che l’IA è un software programmato dall’uomo, non c’è ragione di riconoscere soggettività giuridica all’IA, né ha alcun fondamento fattuale e giuridico la dissociazione di responsabilità tra programmatore/utente ed IA, né infine ha senso considerare l’IA titolare di diritti, neppure di proprietà intellettuale.
Non è detto che con l’evoluzione tecnologica queste macchine non diventino sempre più capaci di prendere decisioni autonome in totale sostituzione dell’uomo o diventino creative in termini umani o che le definizioni di “intelligenza”, “creatività” e “capacità senziente” non assumano una valenza artificiale propria, svincolata da quelle classificate come umane.
Soprattutto non è detto che la complessità di queste macchine non diventi tale che l’intervento dell’uomo diventi marginale nella loro creazione o gestione.
Questo stato potrebbe portare razionalmente a risolvere il problema della responsabilità civile in termini, ad esempio, di responsabilità della macchina in aggiunta o in concorrenza con l’uomo o iure proprio.
Rimane però un altro problema. Le macchine non sbagliano.
Facciamo l’esempio di un autoveicolo a guida autonoma. L’IA non beve, non ha colpi di sonno, non si distrae e così via. Pertanto un incidente dovrà trovare la sua ragione o nell’uomo, ad esempio per una cattiva manutenzione o per errore di programmazione, o ricadere nell’ipotesi del caso fortuito.
Se così fosse da un punto di vista civilistico la responsabilità della macchina iure proprio non dovrebbe esistere o se esistesse sarebbe a titolo di responsabilità oggettiva. Non esisterebbe invece alcuna responsabilità penale, almeno nessuna responsabilità penale come oggi la intendiamo. A ben vedere anche queste sono argomentazioni che potremmo usare oggi per negare status giuridico alle IA, ma soprattutto per prenderci le nostre responsabilità verso le IA.
Più pragmaticamente la Commissione UE ha deciso di presentare nel settembre 2022 una proposta di direttiva relativa all’adeguamento delle norme in materia di responsabilità civile extra contrattuale all’intelligenza artificiale che, in base alla relazione complementare, sembrerebbe volere introdurre un regime misto, che combini elementi di responsabilità basata sulla colpa e responsabilità oggettiva, sì, ma dell’uomo
__________
*A cura di Claudio Palmieri, avvocato co-fondatore di theinnovationlawyers.eu, Partner 24 ORE
Il presente testo è un riadattamento ed un approfondimento finalizzato a evidenziare i profili di responsabilità giuridica legata all’IA dell’articolo “ Sull’ importanza dell’ intelligenza artificiale ed i ritardi delle imprese europee e italiane”. Tale esigenza ha comportato di dare per scontato concetti meglio spiegati o spiegati nel testo originario a cui si rinvia per approfondimenti.