L'IA e gli stereotipi di genere: l'importanza della consapevolezza

I modelli Large Language Models (LLM), come ChatGPT, potrebbero favorire la diffusione di stereotipi di genere. Si tratta di un fenomeno largamente indagato dalla Prof.ssa Monica Landoni, Professoressa titolare presso la Facoltà di scienze informatiche dell'Università della Svizzera italiana (USI), che ne ha parlato in un articolo pubblicato su LaRegione.

La problematica può essere evidenziata con un semplice esempio, ha spiegato la Professoressa Monica Landoni. Basta chiedere a uno strumento di traduzione automatica di tradurre la frase “a doctor and a nurse” dall’inglese all’italiano. Il risultato ottenuto sarà: "un dottore e un'infermiera”. "Il sistema funziona facendo una mappatura nella lingua richiesta e in caso di ambiguità sceglie la declinazione del termine più probabile, per questo attribuisce la professione medica a un uomo e quella infermieristica a una donna, perpetrando così un tipo di stereotipo ancora molto diffuso nella società, per cui ci sarebbero lavori prettamente maschili e altri prettamente femminili" ha spiegato la Professoressa Landoni per chiarire il motivo della traduzione.

Parte del problema potrebbe essere dovuto al fatto che i dati a disposizione delle IA siano parziali: "Se li si considera da una prospettiva di genere, da un lato i dati disponibili in molti casi descrivono ambienti di lavoro e di vita maschili, in cui la maggior parte dei ruoli considerati di prestigio sono appannaggio di uomini, mentre alle donne sono attribuiti compiti assistenziali. Dall'altro lato il problema riguarda la grande carenza di dati disaggregati che riguardano le donne" ha chiarito la Professoressa dell'USI. Mancano, dunque, dati relativi alle donne, come già aveva osservato Caroline Criado Perez in un saggio del 2019. Ciò è dovuto anche al fatto che, come illustrato dalla Professoressa Landoni, le donne sono più difficili da studiare in quanto tendono, per motivo sociali e biologici, a essere soggette a più variabili che alterano la regolarità della loro quotidianità.

Un’altra peculiarità femminile è quella di avere itinerari meno lineari, sia in senso letterale (le donne tendono a fare più tappe rispetto agli uomini nel corso dei loro spostamenti quotidiani per esigenze pratiche come la spesa o l’accudimento dei figli), sia in senso metaforico: "Abbiamo condotto un'analisi sulle storie delle donne in ambito informatico e ci siamo resi conto che sono contraddistinte da percorsi meno lineari rispetto agli uomini: ad esempio molte studiano in altri settori più 'confortevoli' prima di arrivare a quello informatico. L'informatica spesso non è la loro prima scelta perché non si sentono parte di un mondo ancora percepito come prevalentemente maschile e chiuso, una sorta di club per soli ragazzi" ha spiegato la Prof.ssa Landoni.

Il numero di studentesse iscritte presso le facoltà di informatica (all’USI rappresentano circa il 17% degli studenti totali) preoccupa Landoni: "Tenere lontane le donne dalla possibilità di scegliere questo cammino ha un'implicazione molto importante sulla varietà di profili impiegati, che resta limitata. In questo modo gli algoritmi continueranno a venir prodotti a senso unico tenendo conto dei bisogni e delle visioni di una limitata porzione della popolazione". Gli esempi pratici in tal senso sono molti, uno su tutti riguarda le dimensioni degli smartphone, che risultano troppo grandi per le mani femminili, rendendo difficoltoso per una donna scrivere con una mano sola.

Per scardinare il pregiudizio secondo il quale l’ambiente informatico non faccia per le donne è nato il progetto "Tools for Assessing and Developing Affecting & Attractive Narratives for Girls in Informatics" (TADAA), il quale mira a far comprendere a giovani, genitori e insegnanti che l'informatica è un settore aperto a tutti: "L'idea è di smontare fin da piccoli il preconcetto che l'informatica non sia una materia per le ragazze e di limitare i citati percorsi tortuosi che vediamo spesso nelle colleghe. Al contempo questo dev'essere accompagnato alla responsabilizzazione anche di chi lavora nelle università per creare ambienti che siano accoglienti per le ragazze in modo che non si sentano isolate ed escluse".

L’obiettivo dunque, attraverso simpatiche attività, pensate per poter essere proposte anche ai più piccoli, è quello di far riflettere sulla fallibilità degli strumenti digitali, individuandone i limiti.

L'intervista completa a Monica Landoni, curata da Cristina Pinho per LaRegione, è disponibile al seguente link.