Sono state poste così le basi per un ventaglio di regole che mirano a garantire che i sistemi ad IA siano supervisionati dalle persone, sicuri, trasparenti, tracciabili, non discriminatori e rispettosi dell’ambiente. Le norme seguono un approccio basato su categorie di rischio e stabiliscono obblighi per i produttori a seconda del livello di pericolosità che l’IA può generare. Attenzione speciale viene rivolta a quelle tecnologie che verranno usate nell’ambito sociale, educativo o di amministrazione pubblica. Vietati invece i sistemi di punteggio sociale, ovvero la classificazione delle persone in base al loro comportamento sociale, religioso, sessuale e socio-economico. “L’Europa tutelerà i diritti senza fermare l’innovazione, stop alla video sorveglianza invasiva e stop all’uso della tecnologia senza regole.
Sconfitta la linea securitaria di Piantedosi”, ha esultato il capodelegazione del Pd e relatore del testo, Brando Benifei, alludendo alla proposta del ministro italiano di installare sistemi di videosorveglianza a IA. Stando al testo, infatti, il divieto si applicherà anche per le infrastrutture di difesa dei confini e per le tecnologie di sorveglianza e gestione della migrazione clandestina. “I confini nazionali sono luoghi pubblici e in quanto tali rientrano nel divieto previsto dal nuovo regolamento”, ha confermato in un punto stampa il correlatore del testo Dragos Tudorache. “Scettico sul risultato” è invece Axel Voss, negoziatore tedesco del Ppe che aveva chiesto un’esenzione al divieto dell’utilizzo delle tecnologie a riconoscimento biometrico “per la ricerca di persone scomparse, la prevenzione di minacce alla sicurezza e l’assistenza alle indagini penali”.
Un accordo trasversale è stato trovato su quello che sarà un pilastro della lotta alla disinformazione ed alla manipolazione, ovvero l’articolo 52 del testo, che chiede che ai sistemi ad IA che interagiscono con le persone, inclusi quelli generativi come ChatGpt, “di rivelare sempre la loro natura” e che “il materiale creativo generato da IA sia sempre contrassegnato come tale”. Tra i punti cardine anche la definizione dei cosiddetti foundation models dell’IA, blocchi di sapere primario alla base del funzionamento degli algoritmi che d’ora in avanti “dovranno garantire una solida protezione dei diritti fondamentali, della salute e della sicurezza e dell’ambiente, della democrazia e dello stato di diritto”. Il voto finale del Pe è previsto nella Plenaria di giugno, poi il testo dovrà affrontare il negoziato con le capitali dei 27, dove sono previste fortissime pressioni per rivedere la messa al bando totale delle tecnologie a riconoscimento facciale in tempo reale. Il testo elaborato dal Consiglio Ue infatti prevede eccezioni legate proprio alla sicurezza nazionale e alla difesa dei confini.
La partita è aperta anche perché cresce, in Europa e in Italia, l’influenza dell’IA sull’opinione pubblica. Il 62% degli italiani, secondo il Work Trend Index “Will AI fix work?” pubblicato da Microsoft, si dichiara disposto a delegare più compiti lavorativi all’Intelligenza Artificiale.