Main Partner

main partnermain partnermain partner

Partner

main partner

Intelligenza artificiale e stereotipi di genere, l'ingegnera: "Potrebbe contribuire a diffonderli"

Docente all’ISIA di Firenze, Francesca Parotti ci spiega come dalla medicina all'università fino al mondo del lavoro, la nostra società sia pervasa da pregiudizi che influenzano l'algoritmo

di DOMENICO GUARINO -
26 dicembre 2023
CREACTIVIY_GIORNO_2_0585 copia

CREACTIVIY_GIORNO_2_0585 copia

L’intelligenza artificiale? (Paradossalmente) potrebbe non solo non combattere gli stereotipi di genere ma addirittura contribuire a diffonderli se non ad amplificarli. È questo il rischio che si prospetta secondo l’ingegnera Francesca Parotti, docente all’ISIA di Firenze ed esperta di nuove tecnologie. Ma è davvero così? le chiediamo. "Sì", replica sicura.

I rischi dell'Intelligenza artificiale

E perché? "I motivi sono diversi. Questo deriva dal fatto che per sua stessa natura l’intelligenza artificiale si ‘nutre’ di quello che trova in rete. E quello che gli si prospetta davanti non è null’altro che lo specchio della società in cui viviamo, che è piena di stereotipi e di discriminazioni ai danni delle donne. Pensiamo anche semplicemente all’accostamento banale di alcune professioni al genere (donna-segretaria, uomo-ingegnere). Quindi, il problema con l’AI è come questa viene codificata, come si programma l’algoritmo, perché se la domanda e il materiale di cui si dispone sono viziati alla base è evidente che la risposta sarà essa stessa viziata.
intelligenza-artificiale-stereotipi

Parotti è docente all'ISIA di Firenze ed esperta in nuove tecnologie

Pensiamo agli studi medici che sono realizzati per mezzo dell'intelligenza artificiale al fine di fare delle proiezioni in merito ad alcune patologie: in questi studi le complicazioni che afferiscono al genere femminile sono spesso sottostimate, allo stesso modo di quanto accade per altri gruppi, ad esempio gruppi etnici minoritari. Questo accade perché, se si dovesse guardare a una curva gaussiana, AI tende a tagliare la testa e la coda dei dati, andando a privilegiare il segmento mediano. Solo che questo fatto diminuisce l’accuratezza dello studio con tutto quello che ne consegue. Ad esempio non sappiamo che effetti hanno alcuni farmaci sulle donne, perché vengono sottostimati nei gruppi campionati, oppure le donne vengono proprio escluse dal conteggio. Altra cosa problematica è come l'AI valuta certi fatti, ad esempio proprio nel campo della violenza di genere..." In che senso? "L'esempio che posso fare è quello del Viogen, un algoritmo che doveva servire alla polizia spagnola per capire quali donne dovessero essere messe in regime di protezione. Solo che tale metodo, basato appunto sull'AI, non teneva conto del fatto che le vittime, rispondendo ad un questionario a crocette (si o no), spesso erano portate a mentire o a sottostimare loro stesse il pericolo, a causa della vergogna, del pudore o di altri fattori emotivi che non possono essere tenuti in conto dall'algoritmo. Quindi si è visto che il risultato finale era fuorviante ed in una certa misura anche pericoloso, perché generava fenomeni distorti e preoccupanti, escludendo dai percorsi e dai protocolli di protezione persone, donne, che in realtà ne avevano assoluto bisogno".

Abbattere gli stereotipi di genere

Come si può ovviare a tutto questo? "Bisogna ‘istituire l’algoritmo', ma mi viene da dire che, per farlo, prima bisogna istruire la società, che si nutre di pregiudizi e li esprime attraverso molteplici modi che poi la rete intercetta.
intelligenza-artificiale-stereotipi

L'ingegnera mette in guardia dal rischio che l'AI possa contribuire a diffondere stereotipi di genere essendo viziata dalla cultura della società (Ph. Antonio Viscido)

Inoltre va tenuto conto che in ambito degli studi scientifici, o Stem come si usa dire ora, non ci sono ancora molte donne. Così come non ce ne sono molte ai vertici delle grandi aziende che si occupano di IC e AI: il gender gap e il gender pay gap sono ancora molto diffusi con tutto quello che ne consegue. Per cui ci sono poche figure femminili che si occupano di programmazione e dunque manca una specifica sensibilità su questi temi". Perché c’è carenza di donne che studiano materie Stem? "Prima di tutto per un fatto storico: l'accesso all’istruzione in quanto tale, e soprattutto alle materie scientifiche, è stato per lunghissimo tempo vietato alla donne. E questo perché da sempre la donna si dedica alla cura della famiglia, fa da mangiare, è la caregiver d'elezione, pulisce casa. Le sue mansioni storiche sono state quelle, tant'è vero che il detto 'queste non sono cose da donne' è una delle cose più sentite della storia. Questo per dire che alla fine sono state poche le pioniere hanno osato sfidare questi pregiudizi e questi stereotipi con l’ostilità e il sospetto sociale che si portavano dietro, iscrivendosi a facoltà scientifiche. Proprio perché non era nemmeno una possibilità contemplata, di fatto. Cioè la donna non aveva la coscienza delle proprie possibilità: sei nata per accudire, sei sottomessa, sei stupida, non hai un cervello sufficientemente sviluppato per studiare e in particolare per studiare materie scientifiche. Ora questo piano piano sta cambiando, ma ovviamente c’è tanto terreno da percorrere  e ci sono secoli di pregiudizi da superare".

Discriminazioni vissute in prima persona

A lei è capitato di subire discriminazioni o pregiudizi negativi nel suo percorso di studi? "Certo. Noi eravamo una minoranza e venivamo discriminate, maltrattate con battute, umiliazioni: 'cosa ci fate qui', 'siete venute qui per trovare un buon partito da sposare' e cose del genere. Una persona che si trova in una situazione di pressione psicologica così forte deve avere una grande determinazione per arrivare fino in fondo e dunque non è un un reale diritto all’istruzione quello che si trova ad esercitare.
intelligenza-artificiale-stereotipi

Francesca Parotti racconta le discriminazioni subite sia da studentessa sia ancora oggi nel suo lavoro

In quanto è vero che ho la possibilità di iscrivermi all’università, ma è altrettanto vero che il carico psicologico da sopportare risulta oltremodo gravoso. A differenza di quanto accade per i colleghi maschi. Sì, ora i tempi sono cambiati, ma non è da tantissimo e la strada da fare è ancora lunga. Addirittura ancora oggi le scoperte scientifiche che sono realizzate da equipe femminili spesso dalla stampa sono banalizzate anche semplicemente attraverso il linguaggio. Cominciare ad istruire l’algoritmo significa anche utilizzare un linguaggio non discriminatorio sia in ambito informale che in ambito formale". Dal punto di vista professionale lei vive ancora una discriminazione? "Sì. Ad esempio quando mi presento in cantiere, solitamente il cliente, che sia uomo o donna, ci mette un po' a visualizzare il mio ruolo, e anche quando lo fa solitamente la qualifica che mi attribuisce  è quella di 'Architetto', perché forse ‘Ingegnere’ è ancora visto come un mestiere di fatto precluso alle donne, per i motivi che dicevamo. Con le maestranze, paradossalmente, va meglio. O meglio, all’inizio va peggio: di solito si tratta di persone che non hanno un grande accesso alla cultura, imbevute di stereotipi e, spesso, straniere, quindi provenienti da Paesi e da culture in cui il ruolo della donna è ancora peggiore. Quindi, all’inizio il fatto di prendere ordini o anche solo indicazioni una donna li colpisce e fanno fatica. Paradossalmente poi, quando si rendono conto di come svolgo il mio lavoro, in maniera precisa, che li faccio lavorare in maniera ottimale, li tutelo dal punto di vista della sicurezza, ecco che mi apprezzano anche di più. Ma c’è comunque uno scalino spesso ripido che devo salire". Che consigli darebbe alle ragazze oggi? "Le incoraggio caldamente a studiare materie Stem, perché si può fare, oggi ci sono molte professioniste affermate. È possibile, ma è anche necessario perché il futuro dipende anche da quante ragazze intraprenderanno questo percorso. E questo vale anche per l’intelligenza artificiale".