IA Act, un modello da seguire che dovrà restare al passo con i tempi. Intervista ad Antonino Caffo

Già il fatto che gli “standard” di una tecnologia provochino un tale interesse globale è, di per sé, sintomo di un’attenzione molto alta sui temi dell’intelligenza artificiale. Quando approvato, l’AI Act ha acceso nuovi riflettori sui diritti e doveri delle compagnie che sviluppano app e software basati su qualche forma di intelligenza artificiale. Il fine? Regolamentarne la realizzazione e dunque l’utilizzo da parte dei cittadini dell’Unione Europea, per preservarne privacy e sicurezza dei dati, all’interno di uno scenario digitale in continuo divenire. Quanto è importante l’AI Act e, soprattutto, quanto impatterà sul business futuro delle principali aziende attive nel campo dell’innovazione? Ne parliamo con Antonino Caffo, giornalista collaboratore dell’Ansa ed esperto di innovazione.

Caffo, qual è il percorso che ha portato l’Unione Europea a formulare l’AI Act?

Due anni e mezzo dopo la sua introduzione, dopo mesi di lobbying e un braccio di ferro politico, oltre a estenuanti negoziati finali durati quasi 40 ore, i legislatori dell’UE hanno raggiunto un accordo sull’AI Act. È la prima legge del genere al mondo. L’AI Act è stato concepito come un disegno fondamentale che attenuerebbe i danni nelle aree in cui l’uso dell’IA rappresenta il rischio maggiore per i diritti fondamentali, come l’assistenza sanitaria, l’istruzione, la sorveglianza delle frontiere e i servizi pubblici, oltre a vietare usi che rappresentano un “inaccettabile rischio.”

I sistemi di IA “ad alto rischio” dovranno aderire a regole rigorose che richiedono, ad esempio, sistemi di mitigazione, set di dati di alta qualità, una migliore documentazione e supervisione umana. La stragrande maggioranza degli usi dell’intelligenza artificiale, come i sistemi di raccomandazione e i filtri antispam, godranno invece di maggiore libertà. In sintesi, l’AI Act è un accordo importante che introduce importanti regole e meccanismi di applicazione in un settore estremamente influente che attualmente è un selvaggio West.

La legge sull’intelligenza artificiale introduce norme importanti e vincolanti in materia di trasparenza ed etica?

Esatto, le aziende tecnologiche amano parlare di quanto si impegnano a favore dell’etica dell’IA. Ma quando si tratta di misure concrete, il discorso si inaridisce. E comunque, le azioni parlano più delle parole. Team responsabili dell’IA sono spesso i primi a vedere tagli durante i licenziamenti, tanto che le cosiddette Big Tech possono decidere di modificare le proprie politiche etiche sull’IA in qualsiasi momento. OpenAI, ad esempio, ha cominciato la sua avventura come un laboratorio di ricerca sull’intelligenza artificiale “aperto” prima di chiudere l’accesso pubblico alle sue ricerche per proteggere il proprio vantaggio competitivo, proprio come ogni altra startup di intelligenza artificiale.  L’AI Act cambierà la situazione. Il regolamento impone norme giuridicamente vincolanti che impongono alle aziende tecnologiche di avvisare le persone quando interagiscono con un chatbot o con sistemi di categorizzazione biometrica o riconoscimento delle emozioni. Richiederà inoltre di etichettare i deepfake e i contenuti generati dall’intelligenza artificiale e di progettare sistemi in modo tale che i media generati dall’IA possano essere rilevati. Si tratta di un passo oltre gli impegni volontari che le principali aziende hanno assunto al cospetto dei governi in passato. Il disegno di legge richiederà inoltre a tutte le organizzazioni che offrono servizi essenziali, come assicurazioni e banche, di condurre una valutazione d’impatto su come l’utilizzo dei sistemi di intelligenza artificiale influenzerà i diritti fondamentali delle persone.   

In tale scenario resta ancora, per le imprese, margine di manovra? Non si rischia di affossare l’innovazione?

Quando l’AI Act è stato introdotto per la prima volta, nel 2021, si parlava ancora del metaverso. Andando avanti velocemente, e in un mondo post-ChatGPT, i legislatori hanno ritenuto di dover tenere conto nel regolamento dei cosiddetti modelli di base, potenti modelli di intelligenza artificiale che possono essere utilizzati per molti scopi. Ciò ha scatenato un intenso dibattito su quali tipi di modelli dovrebbero essere regolamentati e in che modo lo scenario potrebbe sfavorire l’innovazione. La legge richiede che i modelli di base e i sistemi di intelligenza artificiale costruiti su di essi redigano una documentazione migliore, rispettino la legislazione europea sul copyright e condividano maggiori informazioni sui dati su cui è stato addestrato il modello. Per i casi più potenti ci sono requisiti aggiuntivi. Le aziende tecnologiche dovranno, ad esempio, condividere quanto sono sicuri ed efficienti dal punto di vista energetico le loro piattaforme. 

Ma ecco il problema: il compromesso trovato dai legislatori è stato quello di applicare una serie di regole più rigorose solo ai modelli di intelligenza artificiale più avanzati, classificati in base alla potenza di calcolo necessaria per addestrarli. E spetterà alle imprese valutare se i loro software ricadono sotto regole più severe. Solo gli sviluppatori sanno quanta potenza di calcolo è stata utilizzata per addestrare i loro modelli. E quindi? Chi deciderà se la Google o Microsoft di turno dovrà posizionare uno specifico modello sotto questo o quel livello? L’equilibrio, come si intende, è molto instabile.

Insomma, l’UE diventerà un vero e proprio organo di controllo mondiale dell’intelligenza artificiale?

L’AI Act istituisce un nuovo ufficio europeo sull’intelligenza artificiale per coordinare conformità, attuazione e applicazione. Sarà il primo organismo a livello globale a far rispettare norme vincolanti sull’intelligenza artificiale e l’UE spera che questo la aiuterà a diventare il regolatore tecnologico di riferimento a livello mondiale. Il meccanismo di governance dell’AI Act comprende anche un gruppo scientifico di esperti indipendenti che offrano indicazioni sui rischi sistemici posti dall’IA e su come classificare e testare i modelli. Le multe per la non conformità sono salate: dall’1,5% al ​​7% del fatturato globale di un’azienda, a seconda della gravità del reato e delle dimensioni. L’Europa diventerà anche uno dei primi posti al mondo in cui i cittadini potranno presentare reclami sui sistemi di intelligenza artificiale e ricevere spiegazioni su come i sistemi di IA sono giunti alle conclusioni che li riguardano. Diventando la prima a formalizzare le regole sull’intelligenza artificiale, l’UE mantiene un certo vantaggio in quanto a legislazione. Proprio come il GDPR, l’AI Act potrebbe diventare uno standard globale. Le aziende di altri paesi che vogliono fare affari nella seconda economia più grande del mondo dovranno rispettare la legislazione. 

La legge però non si applica ai sistemi di IA sviluppati esclusivamente per usi militari e di difesa?

Una delle lotte più dure sull’AI Act è sempre stata quella su come regolamentare l’uso da parte della polizia dei sistemi biometrici nei luoghi pubblici, cosa che molti temono possa portare a una sorveglianza di massa. Mentre il Parlamento europeo ha spinto per un divieto quasi totale della tecnologia, alcuni paesi dell’UE, come la Francia, hanno resistito ferocemente. Vogliono usare sistemi basati sull’IA per combattere il crimine e il terrorismo. Le forze di polizia europee potranno utilizzare sistemi di identificazione biometrica nei luoghi pubblici solo se ottengono prima l’approvazione di un tribunale, e solo per un totale di 16 reati specifici, come terrorismo, tratta di esseri umani, sfruttamento sessuale dei bambini e traffico di droga. Le autorità di contrasto possono utilizzare sistemi di intelligenza artificiale ad alto rischio che non soddisfano gli standard europei in “circostanze eccezionali relative alla pubblica sicurezza”.

Cosa succede adesso?

Potrebbero volerci settimane o addirittura mesi prima di vedere la formulazione definitiva del disegno di legge. Il testo necessita ancora di alcuni ritocchi tecnici e deve essere approvato dai paesi europei e dal Parlamento prima di diventare ufficialmente legge. Una volta in vigore, le aziende tecnologiche avranno due anni per conformarsi a tali regole. Due anni sono un tempo lunghissimo, un’era tecnologica. Cambierà qualcosa nel mondo dell’IA da adesso alla fine del 2025? Ovviamente si, e sarà dunque compito dell’UE tenere aggiornata la futura legge, perché combaci sempre con ciò che il mercato offre e che, si sa, va molto più veloce delle decisioni prese a Bruxelles.