Kunstig intelligens på Kristiania: Bærekraft er avgjørende!
- For at KI-verktøy skal være bærekraftige må de overholde alle etiske og regulatoriske retningslinjer. Ellers kan du rett og slett ikke bruke de, sier Noha El-Ganainy, førsteamanuensis ved SEIT med ansvar for Kristianias bachelor- og masterprogram i KI.
Intervjuserien om kunstig intelligens (KI) fortsetter med en samtale med førsteamanuensis Noha El-Ganainy, som gir innsikt i hvordan hun underviser KI til studenter.
Definisjonenes makt
Noha El-Ganainy sier det er mye forvirring og misforståelser rundt hva KI egentlig er. Hun forklarer at selv om det finnes mange definisjoner der ute, er KI i hovedsak bare et verktøy for å behandle signaler.
- Når du underviser KI til studenter kan du velge å fokusere på den underliggende matematikken, men på Kristiania velger vi heller å fokusere på det praktiske, og utstyrer våre studenter med grunnleggende kunnskap og ferdigheter for virkelige applikasjoner, sier El-Ganainy.
Hun påpeker at KI kan brukes til bortimot hva som helst, og liker derfor å kalle det for et «mangfolds-verktøy».
- Du kan bruke KI i helseapplikasjoner, du kan bruke det til utdanning, til økonomi, sikkerhet eller til og med trafikkontroll. Kort sagt, KI er et effektivt verktøy for problemløsning. Og for å bruke det, trenger du et veldefinert problem, sammen med et datasett, eller i det minste muligheten til å samle inn slike data. Som sådan er vårt mål som utdanningsinstitusjon å gjøre det mulig for våre studenter å bruke KI til å løse problemer innen alle felt.
Fundamental etikk
El-Ganainy forklarer at Kristianias bachelorgrad i data science gir studentene det nødvendige grunnlaget for videre studier og å kunne jobbe innen feltet. Læreplanen inneholder en rekke kunnskaper som underliggende matematikk og statistikk, programmeringsferdigheter og grunnleggende KI-algoritmer.
El-Ganainy insisterer imidlertid på at en annen del av læreplanen er langt viktigere enn de tekniske aspektene.
- Vi starter det første året av undervisningen med å introdusere studentene til den underliggende etikken: Hva er etikken bak innsamling av data, behandling av data og analyse av data? Så går vi gjennom både nasjonalt og internasjonalt regelverk, som for eksempel GDPR.
For å illustrere viktigheten av denne etiske forståelsen, peker El-Ganainy på helsesektoren, der alle data er eksepsjonelt sensitive.
- Norge er ekstremt strenge når det gjelder personvern til data som er samlet inn fra klinikker, sykehus og fra helsesektoren generelt. Så når du skal lage et KI-verktøy for helsesektoren, kan du ikke bare romstere gjennom noen datasett og gjøre en analyse basert på det. Du må være helt sikker på at alt er 100% anonymt, helt uten lekkasjer, og ingen muligheter for å tilbakespore informasjonen.
El-Ganainy forklarer at dette betyr at et KI-verktøy bare har livets rett hvis det følger alle etiske og regulatoriske krav. Hvis det derimot er fare for at det kan avsløre enheter, organisasjoner eller enkeltpersoner, kan det ganske enkelt ikke brukes.
- Verktøyene vi utvikler må være bærekraftige for å beskytte befolkningen. Og hele behandlingsprosessen må være i perfekt samsvar med etiske og juridiske begrensninger. Hvis ikke, er saken enkelt avsluttet før den får begynt.
Fare for bias
Personvern er langt fra de eneste etiske hensynene innen utvikling av KI-verktøy. El-Ganainy understreker at ethvert tilfelle der teknologi kan skape fordeler for mennesker, alltid vil kreve et bredt spekter av regulering.
- En av fallgruvene når man jobber med KI, er bias. Og da ikke bare innenfor algoritmene, men også innenfor innsamlede data. Så selv om du har håndtert alt riktig med hensyn til innsamling og analyse av dataene dine, kan du fortsatt snuble hvis dataen du samlet inn er partisk.
El-Ganainy forklarer at slik bias innen data kan skape problemer som er lett å overse, og som eksempel trekker hun frem kreftforskere som i sin søken etter en kur neglisjerte afrikansk DNA.
- Disse forskerne samlet store datasett og utviklet en modell som så veldig lovende ut for å forutsi sykdommen. Men da de brukte modellen på pasienter med mørk hud, mislyktes den. Det var ingen intensjon om å overse dette aspektet. Men hvis modellen deres skulle brukes, så måtte den være rettferdig overfor alle.
Pensum
Først når studentene har fått disse etiske grunnprinsippene på plass, går utdanningen videre med å introdusere de til matematikken og statistikken bak KI-verktøy, sammen med programmeringsspråket Python. De utforsker også forskjellige typer av KI-algoritmer, sammen med grunnleggende datastrukturer, analyse og ulike scenarier for problemløsing.
Bachelorgraden avsluttes med et semester der hver student velger en bedrift hvor de gjennomfører et bachelorprosjekt. Og El-Ganainy er stolt av at Kristiania har flere tette samarbeid med bedrifter av ulik størrelse innen KI-feltet.
- Vi ønsker ikke at studentene skal sitte innelåst i et klasserom i tre år. Derfor vil vi introdusere dem til samfunnet av KI-profesjonelle så tidlig som mulig og prøve å geleide dem mot praksisplasser. Vi ønsker at de skal åpne seg og være en del av fellesskapet, lære om den siste banebrytende utviklingen innen KI-feltet, og bygge sitt eget nettverk. Det gjør det mye lettere for dem etter endt utdanning, når de skal peile seg inn på jobbmarkedet.
PhD og AI-lab
I tillegg til å tilby bachelor og mastergrad i KI, driver Kristiania også KI-forskning på PhD-nivå. Den 8. mars 2024 lanserte Noha El-Ganainy AI-laben, hvor hun også er laboratorieleder.
- Vi er stolte av å kunne si at AI-laben har inngått samarbeid med Norwegian Artificial Intelligence Research Consortium (NORA), i tillegg til flere andre internasjonale samarbeid. Vi har også to løpende prosjekter, med én doktorgradsstudent som allerede er ansatt, og en PhD-stilling tilgjengelig.
Kampen om å holde seg oppdatert
Siden teknologien fortsatt er på et så tidlig stadium og stadig utvikler seg i et hektisk tempo, kan det være en utfordring å holde seg oppdatert med den nyeste innovasjonen. El-Ganainy innrømmer at dette betyr at hun må lese og lære kontinuerlig, men hun påpeker også at det ikke er så vanskelig å holde tritt med den siste utviklingen som man kanskje skulle tro.
- Så lenge du har solid kunnskap om det grunnleggende, er det lett å bygge videre på dette og holde tritt. Derfor har vi så stort fokus på å bygge et solid fundament, slik at studentene kan vokse i takt med dagens utvikling, både i henhold til hva som kan være nødvendig og hva de har en personlig interesse av.
KI-teknologien har også store implikasjoner for samfunnet som helhet og vil trolig føre til at visse arbeidsbeskrivelser blir eliminert, samtidig som den også skaper ukjente muligheter. El-Ganainy forklarer at dette er grunnen til at studentene ikke blir skolert for spesielt definerte jobber eller stillinger, men heller blir gitt et sett med verktøy, og oppfordret til å holde et åpent sinn for å tilnærme seg alt som en mulighet til å bruke KI til problemløsning.
- Vi forbereder våre studenter på et arbeidsmarked i konstant forandring, som trenger KI i alle aspekter. En stor del av det går på å lære dem å jobbe i tverrfaglige team, for vi vet at de kommer til å måtte samarbeide med fagfolk fra andre felt.
Derfor har utdanningen også et sterkt fokus på såkalte «soft skills», som kommunikasjon og teamarbeid.
- Studentene må kunne sette seg ned med noen med en annen bakgrunn og prøve å løse problemene deres. De vil ha rikelig med informasjon tilgjengelig, og de må vite hvordan de kan filtrere ut hva som er viktig, og klare å kommunisere dette til en mulig klient.
Frykten for det ukjente
Med de ukjente mulighetene KI skaper, påpeker El-Ganainy at ikke alle er like begeistret for endringene teknologien bringer på samfunnet. Hun sier at befolkningen generelt ser ut til å ha et slags elsk/hat-forhold til KI, fordelt mellom de som håper at det vil gjøre dem rike, og de som frykter at det vil ta jobbene deres.
- Jeg tror allmennheten ikke har en enkel forståelse av hva KI faktisk er. Mange tenker fortsatt på filmer som The Terminator når de hører om KI, og ser for seg onde cyborger som ønsker å myrde hele verden. Men som utdanningsinstitusjon må vi forklare at dette er science fiction. Derfor er det viktig å definere teknologien og utdanne befolkningen slik at de heller kan se på KI som enkle dataprogrammer vi lager. Og vi er veldig stolte av disse programmene. Derfor gir vi dem navn. Det betyr at vi kontrollerer dem.
Hun understreker behovet for å avmystifisere teknologien og fremheve dens praktiske anvendelser. Ved å vektlegge kontroll og forståelse, kan vi fremme et mer informert perspektiv på KIs rolle i samfunnet.
- Jeg liker å fortelle studentene at selv om vi nå har støvsugere som er delvis intelligente, vil ikke disse maskinene ta oppvasken etter at de er ferdig med å støvsuge gulvet. Men det vil du. Du har intelligens på et annet nivå, som disse maskinene ikke har. Og det vil de heller aldri få. Hvis vi kan lære dette til befolkningen, så kanskje de kan bli bedre skikket til å avgjøre om dette virkelig er noe å være redd for.
