Agosto 2023

Nell’era dell’intelligenza artificiale (IA), dove le macchine imparano dai dati per prendere decisioni, emerge una questione cruciale: gli stereotipi (tutti umani) nascosti negli algoritmi.

Secondo Donata Columbro, giornalista e “data humanizer”, ovvero esperta nella divulgazione di dati, nonostante le promesse di efficienza ed equità dell’IA, «persiste la possibilità che i pregiudizi presenti nei dati di addestramento possano essere perpetuati». Columbro è l’autrice di saggi come Ti spiego il dato (pubblicato da Quinto Quarto nel 2021) e dell’omologa newsletter, oltre al suo più recente Dentro l’algoritmo (effequ, 2022). Nel suo lavoro, mette in evidenza l’erronea percezione che gli algoritmi siano intrinsecamente omofobi, razzisti o abilisti (cioè che discriminino persone con disabilità) perché in realtà essi agiscono come specchi degli stereotipi radicati nella società.

In altre parole, gli algoritmi ci restituiscono le informazioni che assorbono, riflettendo il contesto da cui traggono nutrimento. Le conseguenze si estendono a molteplici settori, come giustizia penale, accesso al credito, assicurazioni, salute, sicurezza, solo per citarne alcuni. Columbro, nota anche per la rubrica Data Storie su La Stampa , esemplifica concretamente la questione: «Nei processi di assunzione, i candidati possono essere discriminati in base al genere, all’etnia o all’esperienza pregressa. Nel processo di valutazione dei rischi e nelle decisioni giudiziarie, gli algoritmi potrebbero assimilare pregiudizi razziali o socioeconomici, generando ingiustizie. Questi fattori influiscono anche sulle analisi di affidabilità creditizia e sulle tariffe assicurative, aumentando i prezzi per gruppi specifici o ostacolando l’accesso ai finanziamenti a persone meno abbienti. Analogamente, nel campo della salute, i bias potrebbero portare a diagnosi errate e cure inefficaci. Per quanto riguarda la sicurezza, potrebbe esserci il rischio di profilazioni ingiuste e discriminatorie basate su caratteristiche somatiche, com’è successo di recente negli Usa, dove una donna incinta di 8 mesi è stata arrestata per rapina a mano armata e sequestro di auto per un errore del software di riconoscimento facciale».

Columbro condivide queste preoccupazioni, «perché il problema riguarda anche la rappresentazione mediatica e dipende dal tipo di IA coinvolta». Qualche esempio? «Nell’applicazione Bairbie.me l’assenza di capelli bianchi nei volti generati dall’IA accentua l’ageismo, ovvero la discriminazione in base all’età. Strumenti software come DALL-E o Midjourney, utilizzati per la creazione di immagini partendo da descrizioni testuali, talvolta producono immagini convenzionali che si basano su stereotipi. Ad esempio, potrebbero inserire un uomo all’interno di una famiglia composta da due donne.

Anche Google Translate in passato associava un genere specifico in base all’azione menzionata: ad esempio, “lui studiava medicina” o “lei cucinava la cena”. Poi è stata inserita la doppia traduzione». Superare il bias algoritmico non è affatto un’impresa impossibile. «Per cominciare – suggerisce Columbro – è fondamentale riconoscere la presenza di pregiudizi e procedere con la pulizia dei dati di addestramento. Equilibrare i set di dati attraverso l’assegnazione di pesi diversi potrebbe correggere le rappresentazioni sbilanciate di persone e comunità sottorappresentate».

Inoltre, Columbro evidenzia come l’egemonia dell’inglese nell’IA generativa possa limitare le minoranze linguistiche e culturali. Come cittadini, è possibile richiedere maggiore trasparenza sulle decisioni alla base del funzionamento degli algoritmi, specialmente per comprendere come vengono trattati i dati sensibili. «È importante applicare il GDPR anche in Italia. Questo regolamento europeo del 2018 vieta l’incrocio di dati, norma la profilazione e richiede consenso informato». L’evoluzione verso un futuro in cui l’IA operi a beneficio di tutte e tutti richiede non solo macchine avanzate, ma anche menti illuminate e cuori impegnati.

Pasquale Quaranta 

Mossa nel Pharma.

Si allarga al comparto farmaceutico il portafoglio di partecipazioni di H14, la holding dei figli minori di Silvio Berlusconi, ovvero Barbara, Eleonora e Luigi. Il veicolo di investimento ha partecipato a un round da 12 milioni di dollari di Qualifyze, startup tedesca specializzata nell’audit per il settore pharma.

In particolare, la società nata nel 2019 possiede un database che copre oltre 2mila fornitori con cui offre all’industria farmaceutica (a clienti come Merck, Sanofi, Teva) servizi di audit sulla supply chain per verificare la correttezza delle pratiche di produzione e delle catene di approvvigionamento dei produttori di farmaci. La società ha raggiunto una valutazione di 100 milioni di dollari grazie al round da 12 milioni a cui hanno preso parte, oltre H14, investitori come HorbourVest Partnerse HV Capital, che si sono così affiancati a soci storici come Cherry Ventures (veicolo in cui compare anche il braccio di venture capital di ProsiebenSat).

Per certi versi l’investimento in Qualifyze sembra differenziarsi dai precedenti poiché è il primo che ha come campo d’applicazione il settore farmaceutico. In realtà l’asset fondamentale sono i dati uniti all’alta componente tecnologica e ciò allinea Qualifyze agli altri investimenti portati avanti da Luigi Berlusconi con H14. Si pensi, per esempio, a gioielli dell’innovazione come Bending Spoons (la startup italiana famosa all’estero per le sue app),a Trade Republic (la fintech tedesca da oltre4 miliardi di euro di valutazione) oppure, ancora, all’insurtech Wefox e alla piattaforma di pagamenti B2B basata su cloud Tradeshift. Senza dimenticare altre partecipazioni in società come Virtuo, app che consente di noleggiare un’automobile per medi periodi direttamente dal cellulare e la francese Ornikar, che offre corsi di scuola guida online.

Investimenti che stanno dando frutti. Come rivelato da MF-Milano Finanza l’8 agosto, per Barbara, Eleonora e Luigi sono arrivati dividendi per 15 milioni di euro (5 milioni a testa) dalle partecipazioni paritetiche del 33,3% ognuno in Holding Italiana Quattordicesima e in H14. Quest’ultima ha chiuso il 2022 con un attivo di 451 milioni e un utile di 17,7 milioni di euro grazie a plusvalenze su azioni (12,2 milioni), proventi da private equity (3 milioni)e cessione di Etf (5,9 milioni di euro).

Nicola Carosielli