L’intelligenza artificiale e i processi decisionali automatizzati possono comportare dei rischi per i consumatori. Scopri in che modo il Parlamento intende proteggerli.

Artificial intelligence electronic circuit. Microchip with glowing brain. 3D rendered illustration.

Cos’è l’intelligenza artificiale e perché può essere pericolosa

Gli algoritmi di apprendimento sono in grado di elaborare serie di dati con una precisione e una velocità superiori alle capacità umane, ecco perché le applicazioni di intelligenza artificiale (IA) sono diventate sempre più comuni in tutti i settori: dalla finanza alla salute, dall’istruzione al sistema giuridico, e oltre. Ma affidarsi all’intelligenza artificiale comporta dei rischi, specialmente quando questa ha la facoltà di prendere decisioni senza la supervisione umana. L’apprendimento automatico (noto in inglese come machine learning) si basa sul riconoscimento di modelli (tecnicamente chiamati pattern) all’interno di set di dati. I dati forniti dagli uomini alle macchine possono però riflettere pregiudizi sociali, e in quel caso l’intelligenza artificiale incorporerà gli stessi pregiudizi nel proprio processo decisionale.

L’intelligenza artificiale nei processi decisionali

L’intelligenza artificiale viene utilizzata sempre di più nella progettazione di algoritmi decisionali.
Le decisioni prese dagli algoritmi possono avere un impatto significativo nella vita dei cittadini: dalla concessione di credito, all’ottenimento di un lavoro o di cure mediche fino ad influire sull’esito di sentenze giudiziarie. In alcuni casi i processi decisionali automatizzati rischiano di perpetuare il divario sociale. Alcuni algoritmi, ad esempio, si sono dimostrati discriminatori nei confronti delle donne: si tratta di sistemi di intelligenza artificiale utilizzati negli uffici risorse umane di alcune aziende che a causa di distorsioni storiche nei dati che utilizzano per elaborare una decisione – privilegiano le assunzioni (o le promozioni) maschili rispetto a quelle femminili.

Proteggere i consumatori nell’era dell’intelligenza artificiale

Lo sviluppo dell’intelligenza artificiale e dei processi decisionali automatizzati presenta delle sfide anche per la fiducia e il benessere dei consumatori: quando interagiscono con questi sistemi, i consumatori dovrebbero essere adeguatamente informati sul loro funzionamento, per poter prendere decisioni consapevoli sul loro utilizzo.

La posizione del Parlamento

Il Parlamento chiede alla Commissione di valutare la necessità di attuare misure supplementari per garantire una tutela solida dei diritti dei consumatori nell’ambito dell’intelligenza artificiale e dei sistemi decisionali automatizzati.

 

%d blogger hanno fatto clic su Mi Piace per questo: