Abbiamo parlato di intelligenza artificiale e disuguaglianza di genere con la Prof.ssa Mariasole Bannò docente e Presidente della Commissione di genere dell’Università degli Studi di Brescia e Presidente Commissione Pari opportunità del Comune di Brescia.
Intelligenza artificiale e disuguaglianza di genere: cosa le unisce?
Il “machine learning” è una tipologia di intelligenza artificiale che permette ai sistemi che la applicano di imparare dai dati senza essere esplicitamente programmati per ogni singolo compito.
Il passo iniziale per apprendere è quello dell’addestramento: un insieme molto grande di dati viene utilizzato per definire e identificare relazioni, schemi e modelli.
Per capirci: per istruire un’intelligenza artificiale a riconoscere autonomamente cani e gatti dovremmo catalogare nell’algoritmo di funzionamento migliaia di immagini di animali “etichettandole”, dove necessario, come foto di cani o di gatti.
Sono le persone ad essere responsabili dell’etichettatura immagine-soggetto ma se pregiudizi e stereotipi insiti nelle persone influenzano il processo di addestramento… cosa succede? Nasce la disuguaglianza di genere.
Un piccolo esperimento di intelligenza artificiale e disuguaglianza di genere.
Nelle ricerche per immagini dei motori di ricerca provate a cercare foto di un inventore, cosa notate? E se nello stesso motore di ricerca si ricerca un’inventrice, ora cosa osservate?
Nel primo caso le immagini raffigurano scienziati in un laboratorio circondati da provette, microscopi e, cosa “curiosa”, nessuno di essi ha origini africane o asiatiche.
Nel secondo caso otteniamo nella maggior parte dei casi foto che ritraggono Hady Lamar nota attrice degli anni 30 e inventrice del wi-fi. Non solo troviamo anche foto di Barbara Handler, inventrice della bambola Barbie. Nessuna rappresentazione di inventrici in contesti scientifici o in laboratori magari impegnate nell’utilizzo di strumenti da laboratorio.
Lo stereotipo comune sugli inventori ci fa pensare immediatamente ad uomini ‘attempati’, saggi, in camicie bianco dimenticandoci del grande contributo che anche le donne hanno dato alla scienza.
Il rischio è quindi di alimentare l’intelligenza artificiale con stereotipi e pregiudizi “umani” influenzando pesantemente il processo di addestramento con opinioni rigidamente precostruite dall’addestratore e dai “gruppi” sociali a cui esso appartiene.
Ma come possiamo evitare la disuguaglianza di genere nell’intelligenza artificiale?
Gli sviluppi tecnologici offrono sempre grandi opportunità. Anche l’intelligenza artificiale sta mostrando molti lati positivi e non è giusto demonizzarla, tuttavia diventa importante non sottovalutare le problematiche.
Cosa possiamo fare quindi?
Un aspetto da non dimenticare è la formazione: imparare e comprendere di più cosa è un’intelligenza artificiale. Sicuramente è fondamentale una migliore “educazione” delle persone all’inclusività di genere per non addestrare con pregiudizi “tossici” l’algoritmo “pensante” di un’intelligenza artificiale.
Approfondimenti su intelligenza e disuguaglianza di genere
Slide dell’incontro della Prof.ssa Bannò
BIAS: un podcast dedicato all’intelligenza artificiale e disuguaglianze di genere
