Bias di Genere nell’AI: Comprendere e Mitigare con Flavia Marzano

Nella nostra seconda intervista di Aracne, incontriamo Flavia Marzano, una figura chiave nel campo dell’innovazione tecnologica e della trasformazione digitale. Con un’esperienza pluriennale nella Pubblica Amministrazione e un impegno costante per l’inclusione e la diversità, Flavia ci offre uno sguardo unico su come l’intelligenza artificiale possa essere utilizzata per promuovere l’uguaglianza di genere e migliorare la rappresentazione nel settore della moda.

Potresti raccontarci qualcosa di te e del tuo percorso lavorativo? Quali sono state le tappe più significative della tua carriera nel campo della trasformazione digitale e dell’innovazione tecnologica?

Sono un’informatica, docente universitaria e consulente su vari temi legati all’innovazione tecnologica. Ho lavorato su Trasformazione Digitale, Strategie di Innovazione, Formulazione di regolamenti sull’innovazione, Governo Aperto e Dati Aperti, Smart City, e riduzione dei bias cognitivi nell’intelligenza artificiale. Attualmente sono Presidente del Comitato Scientifico della Fondazione Ampioraggio.

Ho dedicato gran parte della mia carriera all’innovazione nella Pubblica Amministrazione, collaborando con enti locali e nazionali per sviluppare normative come il Codice dell’Amministrazione Digitale e le regolamentazioni sugli Open Data e FOIA. Come assessora a Roma Capitale, ho avuto deleghe all’innovazione e alle pari opportunità, e ho creato i Punti Roma Facile (PROF), ora finanziati a livello nazionale e rinominati Punti Digitale Facile. Inoltre, offro mentorship a giovani donne per aiutarle nella scelta del percorso universitario, nella ricerca di lavoro, nel cambio di carriera e nel superamento delle loro paure legate agli esami.

Insegno in vari Master universitari, principalmente nei programmi Valore PA, dove mi occupo di innovazione nella Pubblica Amministrazione.

Hai lavorato a lungo sull’analisi dell’impatto sociale e strategico delle tecnologie avanzate. Puoi condividere qualche esperienza specifica riguardante l’identificazione e la mitigazione dei bias di genere nei sistemi di intelligenza artificiale?

Ho approfondito l’argomento dei bias di genere nell’AI, scrivendo articoli e conducendo formazione. I bias di genere possono manifestarsi in vari modi. Ad esempio, se i dati utilizzati per addestrare i modelli sono sbilanciati in termini di rappresentanza di uomini e donne, il modello può apprendere relazioni distorte o stereotipate. I modelli di elaborazione del linguaggio naturale (NLP) possono assorbire e replicare il linguaggio sessista presente nei testi di addestramento, producendo output discriminatori. Inoltre, nei contesti lavorativi, un modello potrebbe suggerire ruoli o opportunità basati sul genere se i dati di addestramento riflettono discriminazioni di genere. Nei dati relativi all’analisi delle immagini, potrebbero esserci assunzioni implicite sui ruoli e le attività basate sul genere, influenzando le prestazioni del modello in contesti non validi. Anche nei dati sanitari, ci possono essere assunzioni di genere che influiscono su diagnosi e trattamenti.

Per mitigare questi bias, è fondamentale riconoscere il problema e analizzare attentamente i dati utilizzati per addestrare i modelli di AI. Diversificare i team di sviluppo, includendo esperti di etica, sociologi, psicologi e rappresentanti delle comunità coinvolte, può aiutare a individuare e affrontare i pregiudizi in modo più efficace. Inoltre, condurre audit regolari sui modelli di intelligenza artificiale, garantire trasparenza nei processi decisionali e implementare normative che richiedano la valutazione e la mitigazione dei pregiudizi sono passaggi cruciali. La formazione ed educazione dei professionisti dell’informatica, degli sviluppatori e degli utenti sull’importanza di riconoscere e affrontare i pregiudizi nell’AI è altrettanto importante. Infine, è necessario monitorare costantemente l’efficacia delle strategie adottate per mitigare i pregiudizi e apportare le modifiche necessarie in base all’evoluzione del contesto.

Come pensi che l’intelligenza artificiale possa essere utilizzata per promuovere l’uguaglianza di genere, specialmente nel settore della moda e della tecnologia? Hai esempi di progetti o iniziative che hanno avuto successo in questo ambito?

L’intelligenza artificiale può promuovere l’uguaglianza di genere in vari modi. Ad esempio, gli algoritmi di AI possono analizzare grandi quantità di dati riguardanti la rappresentazione di genere nei media e nella pubblicità, aiutando a identificare disuguaglianze e stereotipi. Nella moda, l’AI può personalizzare l’esperienza di shopping online, suggerendo stili di abbigliamento che si adattano a diverse preferenze di genere e rappresentando una gamma più ampia di modelli. Le aziende tecnologiche possono utilizzare l’AI nei processi di selezione per ridurre il bias di genere e promuovere la diversità nei team. L’AI può anche supportare l’educazione attraverso piattaforme di e-learning che promuovono corsi sull’uguaglianza di genere e sulle carriere STEM per le donne.

Alcuni esempi di iniziative di successo includono Project Include, che fornisce linee guida per migliorare la diversità e l’inclusione nei team aziendali; GenderMag, che utilizza principi di analisi dell’AI per identificare e correggere il bias di genere nei software; e Virtual Mentor, una piattaforma che utilizza l’AI per fornire mentoring personalizzato alle donne nel settore tecnologico.

Secondo te, come può l’AI influenzare il settore della moda, in particolare per quanto riguarda la rappresentazione e l’inclusione delle donne? Ci sono esempi di come l’AI possa migliorare la diversità e l’inclusività nel design della moda?

Non sono molto esperta di fashion ma… propongo. L’intelligenza artificiale può avere un impatto significativo sul settore della moda, soprattutto in termini di rappresentazione e inclusione delle donne. L’AI può analizzare dati di moda per prevedere tendenze e preferenze dei consumatori, creare esperienze di shopping personalizzate e sviluppare modelli virtuali che rappresentano una gamma più ampia di tipi di corpo, etnie e generi. Inoltre, l’AI può aiutare a ridurre i bias nei processi creativi e supportare le donne imprenditrici nel settore della moda.

Alcune iniziative interessanti includono Stitch Fix, che utilizza algoritmi di AI per personalizzare le raccomandazioni di abbigliamento, promuovendo una moda inclusiva; The Fabricant, una casa di moda digitale che crea abbigliamento virtuale, rappresentando una diversità di modelli senza le limitazioni fisiche della moda tradizionale; e Modsy, una piattaforma di interior design che utilizza l’AI per creare esperienze di design personalizzate, approccio applicabile anche alla moda per promuovere l’inclusività.

L’uso crescente dell’AI solleva varie questioni etiche, specialmente riguardo alla perpetuazione dei bias di genere. Quali sono le tue principali preoccupazioni etiche quando si tratta di AI? Come suggeriresti di affrontare queste sfide per garantire un uso equo e responsabile della tecnologia?

Sono quelle citate dove parlo di bias cognitivi, con audit periodici; affrontando queste preoccupazioni etiche in modo proattivo e responsabile, possiamo sfruttare il potenziale dell’AI per promuovere l’inclusività e l’equità, garantendo al contempo che la tecnologia non perpetui né amplifichi le disuguaglianze esistenti.