La legge sull’IA (AI ACT)

La normativa dell’UE intende regolare l’uso dell’intelligenza artificiale attraverso un sistema denominato risk-based approach, ossia un sistema che distingue gli obblighi di conformità, più o meno stringenti, a seconda del rischio che software e IA possono causare a danno dei diritti fondamentali.

Sulla base di quanto sopra descritto, per una maggiore chiarezza e comprensione, ecco una panoramica – seppure sintetizzata – su alcune delle principali implicazioni.

Divieto di riconoscimento delle emozioni tramite IA. Il progetto di testo del Parlamento europeo vieta l’uso dell’IA che tenta di riconoscere le emozioni in alcuni ambienti, quali nella polizia, nelle scuole e nei luoghi di lavoro. 

L’uso dell’IA per condurre il rilevamento e l’analisi facciale è stato criticato in passato, per imprecisione e pregiudizi, ma non è stato vietato nella bozza del testo dalle altre due istituzioni.

Divieto di biometria in tempo reale e polizia predittiva negli spazi pubblici. Questa sarà una grande battaglia legislativa, perché i vari organi dell’UE dovranno decidere se, e come, il divieto sarà applicato nella legge. 

Divieto di social scoring (sistema di credito sociale). Il punteggio sociale da parte delle agenzie pubbliche, o la pratica di utilizzare i dati sul comportamento sociale delle persone per fare generalizzazioni e profili, non sarebbe legale. 

Detto questo, la prospettiva sul punteggio sociale, comunemente associata alla Cina e ad altri governi autoritari, non è così semplice come potrebbe sembrare, infatti, la pratica di utilizzare i dati sul comportamento sociale per valutare le persone è comune nella distribuzione di mutui e nella fissazione dei tassi di assicurazione, nonché nelle assunzioni e nella pubblicità.

Nuove restrizioni per l’IA generativa. Questa bozza è la prima a proporre modi per regolare l’IA generativa e vietare l’uso di qualsiasi materiale protetto da copyright nel set di addestramento di modelli linguistici di grandi dimensioni come GPT-4 di OpenAI. Infine, nel testo dell’AI actsono stati introdotti obblighi di documentare l’indicazione di contenuti protetti da copyright utilizzati per alimentare il modello, oltre all’obbligo di indicare se il contenuto è stato generato da un’intelligenza artificiale. Invece, con riferimento alla tutela in forza del diritto d’autore delle opere create da sistemi di IA, l’AI Act nulla dice, lasciando la relativa regolamentazione alle normative nazionali nonché all’opera della giurisprudenza. Al riguardo, la questione è accesa e, soprattutto, nel contesto italiano ed europeo, emergono i profili potenzialmente problematici con riferimento alla paternità della creazione dell’IA.

Nuove restrizioni sugli algoritmi di raccomandazione sui social media. Per il Parlamento europeo, dovranno essere classificati ad alto rischio anche i sistemi di IA che potrebbero influenzare gli elettori e l’esito delle elezioni, e quelli utilizzati dagli algoritmi di raccomandazione dei social media o altre piattaforme digitali.

La nuova bozza, inoltre, assegna i sistemi di raccomandazione a una categoria “ad alto rischio” e, ciò significherebbe che i sistemi di raccomandazione sulle piattaforme di social media saranno soggetti a un controllo molto maggiore e le aziende tecnologiche potrebbero essere più responsabili per l’impatto dei contenuti generati dagli utenti.

Ovviamente, sulla base di tutte queste informazioni, sono intuibili i rischi dell’IA; la stessa Margrethe Vestager, vicepresidente esecutivo della Commissione europea, ha sottolineato “le preoccupazioni per il futuro della fiducia nelle informazioni, la vulnerabilità alla manipolazione sociale da parte di cattivi attori e la sorveglianza di massa”.

I negoziati trilaterali sul testo finale sono in una fase di perfezionamento e si prevede che saranno completati entro la fine dell’anno, con l’obiettivo di approvare la legge prima delle elezioni del Parlamento europeo nel giugno 2024. 

Dato certo è che l’Unione europea è la prima al mondo ad aver approvato quasi in via definitiva una normativa per la regolamentazione dei sistemi di intelligenza artificiale, e ci si aspetta che altri legislatori, ad esempio statunitensi, seguano a ruota l’Europa nell’elaborare una propria normativa.