Il report “Foresight 2030 Threats” dell’Agenzia Europea per la Sicurezza delle Reti e dell’Informazione (ENISA) ha delineato una serie di minacce potenziali per il futuro, tra cui l’abuso dell’Intelligenza Artificiale (IA). In particolare sulla manipolazione del malcontento, sul targeting delle popolazioni e sulla manipolazione di dati cruciali prima delle elezioni.
Nel contesto delineato dal rapporto, possiamo immaginare uno scenario in cui un attore sponsorizzato da uno stato, con intenzioni malevole, manipola i dati di apprendimento di un algoritmo di forze dell’ordine. In tal modo, personalizza l’algoritmo per mirare a specifiche popolazioni, fomentando disinformazione e malcontento e scatenando proteste e violenze diffuse. Questa manipolazione comporta l’estrazione di informazioni sensibili sugli avversari politici attraverso l’analisi dell’IA delle loro posizioni, della storia sanitaria, del voto e di altre informazioni di profilazione utili. Una manipolazione che ha come obiettivo quella di creare e diffondere disinformazione, contenuti falsi, sfruttamento dei pregiudizi, raccolta di dati biometrici e dati sensibili. Sebbene ad oggi solo immaginario, il potenziale di abuso degli algoritmi di IA è possibile, come evidenziato nel rapporto, illustrando la necessità di robuste misure di sicurezza e considerazioni etiche nello sviluppo e nell’implementazione dell’IA.
Diversi tipi di attori potrebbero sfruttare l’IA a scopi di danneggiamento. Alcuni attori sponsorizzati dallo stato ( state sponsored actors) dispongono spesso di risorse significative per manipolare l’IA a fini politici. I criminali informatici, alla ricerca di obiettivi finanziari o di disturbo, potrebbero utilizzare l’IA per potenziare i loro attacchi. Gli hacker a pagamento potrebbero impiegare strumenti di IA per condurre attacchi mirati e sofisticati.
Il rapporto evidenzia i metodi potenziali per abusare dell’IA, che comprendono una gamma di attività malevole come spoofing, attacchi di denial of service, iniezione di codice malevolo nei sistemi di IA, accesso non autorizzato all’infrastruttura di IA, attacchi mirati ai modelli di IA, abuso delle informazioni ottenute tramite l’IA e attacchi di man in the middle.
Le conseguenze dell’abuso dell’IA possono essere gravi e di vasta portata. Decisioni viziate derivanti da algoritmi di IA manipolati possono perpetuare ingiustizie e divisioni nella società. Le violazioni della privacy e sfruttamento di dati personali e sensibili, L’escalation della Manipolazione e Interferenza delle Informazioni Straniere (FIMI) mina l’integrità dei processi democratici e delle relazioni internazionali. Le conseguenze si estendono al dominio militare, dove i robot militari alimentati dall’IA potrebbero essere manipolati per causare danni e caos.
Trovare un equilibrio tra sfruttare i benefici dell’IA e proteggersi dal suo abuso è fondamentale per garantire un futuro in cui l’IA serva al meglio gli interessi dell’umanità, nel rispetto dei valori etici e sociali.
