Bias cognitivi e pregiudizi: per l’intelligenza artificiale non sono una novità

Consente di generare immagini femminili e di valutare la loro bellezza (in modo positivo o negativo), si tratta di Smash or Pass, una piattaforma che genera, grazie all’intelligenza artificiale, immagini di donne perfette. Con la sola espressione del volto, poi, è in grado di comprendere i gusti dell’utente e di proporre immagini sempre più gradevoli per lui o lei. 

Non solo il design dell’architettura dell’applicazione risulta essere particolarmente sessista, ma soprattutto l’idea di bellezza dell’AI è decisamente stereotipata: nella maggior parte dei casi vengono generate, infatti, giovani donne bianche, con visi perfetti e corpi sinuosi. 

Questa però non è una novità, in passato sono già stati condotti esperimenti di questo tipo come quello realizzato dallo specialista Nicolas Neubert, che chiese a Midjouney (una famosa intelligenza artificiale generativa di immagini) di realizzare 264 fotografie di “belle” donne, su sfondo nero, facendonci comprendere pienamente qual è la prospettiva dell’AI sulla bellezza: ben l’84% delle fotografie generate, ritraevano persone bianche, giovani e perfette. Lo specialista ha affermato poi, che sostituendo il genere nel prompt (la richiesta), il risultato non cambia. 

Da dove nasce il problema? 

Come ben noto, i sistemi di intelligenza artificiale sono addestrati con grandissimi database attraverso i quali imparano a comprendere il mondo, la società e le parole per generare, quindi, immagini sempre più precise e inerenti alle richieste iniziali. 

Ma sono davvero le parole le cause di questa problematica? Descrivere le figure è una pratica che ha origini lontane, è una tradizione letteraria, utile per far immaginare ai lettori caratteristiche e dettagli esclusivamente visibili. La questione, però, riguarda le modalità in cui le parole si legano alle immagini: a causa di preconcetti e idee che sono sedimentate nella società odierna, influenzano l’AI, realizzando figure sempre più stereotipate. 

Gli stereotipi di genere sono “sedimentati anche nell’inconscio dell’intelligenza artificiale”, ha affermato Marinella Belluati e i rischi sembrano essere molteplici: uno tra questi è sicuramente il rafforzamento di ideali distopici di bellezza che alimentano strumenti AI alla realizzazione di immagini sempre più “perfette”. 

Non sarà semplice individuare una soluzione e la comunità AI sul tema è particolarmente divisa: c’è chi sostiene che sia necessario eliminare le figure femminili dalle demo e dalle prime versioni delle piattaforme, e chi, invece, pensa che la soluzione sia nascosta nella trasparenza dell’addestramento dei sistemi. 

Immaginare un nuovo scenario è difficile, ma possibile. Non ci resta che attendere e osservare le alternative possibili e le auspicabili e doverose correzioni, proposte dalla comunità AI.

Se hai domande o feedback, scrivici. Saremo contenti di leggere le tue richieste o le tue opinioni.