Derfor bør du ikke stole blindt på svar fra kunstig intelligens

FN mener at generativ kunstig intelligens (AI) er en kreativ revolusjon som fundamentalt forvandler arbeidslivet vårt, på samme måte som internett gjorde da det kom i 1993. 

Samtidig er det kjent at språkmodeller som ChatGPT kan inneholde skadelige fordommer, såkalte bias, og derfor må brukes med forsiktighet. Mange slike bot-er antar for eksempel at leger er menn og sykepleiere er kvinner.

• Les mer om mangfold, teknologi og innovasjon på Kunnskap Kristiania

Dette skyldes at chatboten har lært at det finnes flere mannlige leger og flere kvinnelige sykepleiere, basert på den informasjonen den har fått. I fremtiden vil AI-baserte løsninger utvikles for nesten alle livets områder, og innovasjonsviljen er sterk. Hvordan kan vi sikre at AI gir svar uten innebygde fordommer, slik at vi får faktabaserte svar?

Bedriftene trenger ikke «dårlig» AI 

Anthony Giannoumis forsker på ledelse ved Kristiania. Han mener at mer mangfold blant de som utvikler og tester KI-løsninger vil bidra til at vi får færre slike uheldige konsekvenser 

– Det beste og mest kostnadseffektive er om vi får lagt inn algoritmer uten bias helt fra start. Da slipper vi å trekke tilbake produkter for å endre dem etter at de har gått ut på markedet, sier han.

– Derfor må vi ha mangfoldige team involvert i utviklingen av all AI-basert teknologi. Vi må utvikle en skjerpet bevissthet rundt perspektivene til ulike grupper og mulige konsekvenser innenfor ulike situasjoner.    

Han trekker frem biometri som et eksempel, altså biologiske målinger som brukes til å identifisere mennesker basert på fysiske egenskaper. Ansiktsgjenkjenning har for eksempel vist seg å være mer utfordrende for mennesker med mørk hud, fordi programmene ofte er utviklet med lysere hudtyper som utgangspunkt.

Farlige algoritmer 

– I noen land og i noen situasjoner kan biometri gi direkte farlige resultater. Tenk deg at et slikt ansiktsgjenkjenningsprogram identifiserer deg som et annet kjønn enn det du har oppgitt. I Norge er det kanskje ingen big deal, men i land der det å være transkjønnet er ulovlig, kan det være helt krise, sier Giannoumis.    

Et  AI-system er alltid designet for å kunne forutsi noe, og det skjer på bakgrunn av algoritmer som noen har definert. Hvis de som lager systemet anerkjenner og legger inn to kjønn – mann og kvinne – er det lett å se for seg at enkelte personer kan havne i en kategori der de ikke føler de hører hjemme. 

I noen land og i noen situasjoner kan biometri gi direkte farlige resultater.

Giannoumis forteller at stemmebaserte tjenester ofte fungerer bedre for menn enn for kvinner. Og hva skjer når en tjeneste er stemmebasert og du har talefeil eller du snakker på et annet språk enn morsmålet ditt – får du gjennomført ærendet ditt? Kan du delta i samfunnet på lik linje med andre?    

Slike problemstillinger jobber Giannoumis med for tiden. Han brenner for inkludering – det handler ikke bare om kjønn eller etnisitet, men om mangfold i bred forstand. For selv om fremtidens verktøy er kraftige, følger det også med flere viktige problemstillinger og utfordringer.

Fremtidens ledere må lage plass 

– Skal vi lykkes med innovasjon og være konkurransedyktig i fremtiden, må vi utvide vår forståelse av begrepet inkludering, sier forskeren som opprinnelig er fra USA, og som tok doktorgraden sin ved Universitetet i Bergen. 

Noe av det han forsker på, er hvordan mange offentlige tjenester på nett fremdeles er utilgjengelige for folk med funksjonsnedsettelser, til tross for iherdig innsats fra nasjonale myndigheter, EU og FN. Han mener løsningen er mer mangfold blant dem som lager AI og tjenestene som bruker dette.

Vi må innse at menneskers varierte erfaringer er noe av det viktigste de kan bidra med.

 – Når jeg snakker om mangfold, handler det ikke bare om kjønn eller etnisk tilhørighet. Jeg tar med folks perspektiver. Vi må innse at menneskers varierte erfaringer er noe av det viktigste de kan bidra med. Jeg har mye å lære av en person som er født blind eller sitter i rullestol, fordi deres levde liv påvirker både hva de gjør og hvordan de tenker, sier forskeren. 

Da han i fjor gjennomførte en studie blant bedriftseiere, mente 72 prosent at deres selskap utmerker seg når det gjelder inkluderende ledelse. Samtidig oppga 60 prosent at de manglet opplæring eller ressurser innen feltet. 

Ekte kreativitet oppstår først når mennesker med ulike erfaringer jobber sammen. Derfor må bedrifter og organisasjoner som skal innovere, få med ulike mennesker på laget.

– Det er naturligvis mye enklere og raskere å samarbeide når alle i et team tenker mer eller mindre likt. Men et mer mangfoldig team vil uten tvil komme opp med flere ulike ideer til løsninger og på sikt prestere bedre, sier Giannoumis. 

• Les mer om teknologi på Kunnskap Kristiania!