Det vil kræve en bevidst udviklingsindsats at skabe en kunstig intelligens, der ligestiller kvinder og minoriteter med hvide mænd.

 

Af Amanda Frisk 

 

Hvad har dit smartwatch, telefon og Google tilfælles? De benytter sig af kunstig intelligens. AI er alle steder, og det er nærmest umuligt ikke at være i berøring med den på daglig basis. Men det er ikke alle, der får et lige stort udbytte af AI. 

 

Beder man ChatGPT om at beskrive en CEO, så kalder ChatGPT vedkommende Alex. Beder man derimod om at få beskrevet en hjemmegående forælder, så bliver vedkommende kaldt Anna.

 

Problemet ligger i de data, som den kunstige intelligens bliver udviklet på. Træning sker som regel på gamle datasæt, som ofte indeholder stereotype kønsroller. For eksempel kan den kunstige intelligens se ledelse og økonomi som mandlige fag, hvorimod plejefag kan ses som kvindelige fag, fortæller konsulent i diversitet og ligestilling Eva Fog Noer. 

 

“Dataen er hovedsageligt skabt til fordel for hvide mænd af en bestemt alder. Det er rigtig svært at få en moden kvinde frem. Hvis kvinder bliver nævnt, er det ofte unge kvinder,” siger hun.

 

“Helt generelt er diversitetsspørgsmålet ret problematisk, fordi dem, der træner og bruger den kunstige intelligens, falder ofte i de samme fælder, som algoritmen falder i,” siger hun.

Indtil for nylig havde ChatGPT næsten ikke noget data fra før 2022, blandt andet fordi det er dyrt og tidskrævende at udvikle nye, opdaterede datasæt.

 

Diversitet blandt udviklerne skaber almene produkter

 

En anden grund til den manglende diversitet er, at det er en udfordring at finde investorer til virksomheder, der arbejder med kunstig intelligens, hvor grundlæggerne udelukkende er kvinder. 

 

En rapport fra Alan Turing Institute’s Women in Data Science og AI-team viser, at ud af investeringer på 42 milliarder dollars i 2012 til 2022 var det kun 0,3 procent, der gik til virksomheder med udelukkende kvindelige grundlæggere. 

 

“Når virksomheder med kvindelige grundlæggere ikke får pengene til at udvikle, så er det svært at udvikle produkter til den brede masse. Den bedste måde at have diversitet i produkterne er ved at have diversitet blandt dem, der skaber dem,” siger Eva Fog Noer. 

 

Applewatchet og Appels sundhedstrackingssoftware er et godt eksempel på et produkt, der ikke er skabt til alle. 

 

“‘Vi måler alt’, sagde Apple, men de havde glemt den kvindelige menstruation – hvilket jo er relevant for nærmest alle, der vil have eller ikke vil have børn,” siger Eva Fog Noer.

Inden for lægevidenskaben er kvinder også underrepræsenteret, da der er væsentligt mere data om mænds helbredsproblemer.

 

“Når en kvinde får et slagtilfælde, har den kunstige intelligens sværere ved at opdage det, fordi kvinder ikke får de samme symptomer som mænd,” siger konsulenten.

 

Udviklere skal træne AI aktivt 

 

Også når det kommer til jobsøgning, bliver kunstig intelligens benyttet til at udvælge ansøgere.

 

“Hvis ikke AI’en er trænet på mere diverse data, vil den have en tendens til at vælge nogle kandidattyper frem for andre, alt efter typen af job. Hvis du ikke er en mand i midten af livet, så vil du som regel ikke blive repræsenteret,” siger Eva Fog Noer.

 

Det er også muligt at bruge kunstig intelligens til at lave deep fake videoer, hvor personers ansigter og stemmer kan misbruges til at lave videoer af dem, uden deres deltagelse eller tilladelse. 

Det bliver ofte udnyttet til at lave pornografiske videoer, hvor kvinder i højere grad end mænd er ofre.

 

“Men der er et stort mørketal blandt mændene, hvor man ikke siger tingene lige så højt, fordi det er meget tabubelagt,” siger hun.

 

For at opnå mere lighed er det vigtigt at den kunstige intelligens bliver trænet bedre. Udviklere skal gå aktivt ind i at træne den, indtil AI’en kommer frem til et repræsentativt resultat, vurderer Eva Fog Noer.

 

“Der skal være et fokus på at sørge for, at hvis man beder om at få et billede af en leder, så får man også et billede af en kvinde i sin bedste alder og ikke kun en mand i sin bedste alder.”