Kunstig intelligens i Vestfoldskolen

Videre viktig å vite om KI i Vestfoldskolen

KI og behandling av personopplysninger

Tjenester med kunstig intelligens behandler som regel alltid personopplysninger, noe som påvirker elever og ansattes personvern på ulike måter. Noen eksempler på behandling av personopplysninger og personvernkonsekvenser i KI-tjenester er:

• Inndata avgitt av brukeren selv, eller av en tredjepart eller ekstern kilde, for å levere en persontilpasset tjeneste. Det kan være navn eller opplysninger om hvor du er fra, personlige preferanser, prestasjon, eller andre opplysninger om deg.
• Utdata fra systemet som inneholder personopplysninger. Det kan være opplysninger fra modellens minne, men oftere opplysninger som er avledet fra inndata.
• Rettsvirkning eller tilsvarende betydelig påvirkning er der bruken av et KI-system får konsekvenser for den personen som systemet brukes ovenfor. Dette kalles ofte beslutningsstøttesystemer.

Hva er personvern? – Datatilsynet

Er tjenesten tilgjengelig gratis via nettet, behandles ofte inndata til andre formål enn kun å levere tjenesten. Det kan være at opplysninger blir videresolgt eller brukt i videreutvikling av KI-tjenester. Det er høy risiko for at personopplysninger brukt i KI-utvikling også kan gjenskapes ved videre bruk av slike tjenester. Tjenester med kunstig intelligens som er anskaffet av Vestfold fylkeskommune, bruker ikke læreres eller elevers inndata i utvikling eller videresalg.

Vestfold fylkeskommune er behandlingsansvarlig for dine personopplysninger når du jobber eller går på skole i fylkeskommunen og skal utføre oppgaver i forbindelse med dette – det betyr å sørge for at behandling av personopplysninger ivaretar personers grunnleggende rettigheter og friheter. Skoleledere, lærere og elever kan derfor kun bruke tjenester som vi har gjort vurderinger av, og inngått avtaler med. Samtidig er det viktig at skoleledere og lærere har nok kunnskap om hensiktsmessig bruk av disse verktøyene på et etisk plan, så vel som pedagogisk og didaktisk.

Dersom du som ansatt skal ta i bruk en ny tjeneste med kunstig intelligens, så kan du be om en vurdering av denne ved å sende en henvendelse via nærmeste leder, som tar dette videre til forvaltningsteam for digitale læringsressurser og fagsystem, ved seksjon pedagogisk støtte og utvikling.

Du kan lese mer om behandling av personopplysninger i digitale læringsressurser og pedagogiske fagsystem i Vestfold fylkeskommune.

Vil du lære mer om personvern i opplæringen? Se videoleksjoner og veiledninger på sidene til SkoleSec-prosjektet.

 

Universell utforming

Universell utforming bygger på tanken om at tjenester være tilgjengelige for alle, uavhengig av funksjonsnivå. Dette er med å på å bidra til at alle har mulighet til å delta i samfunnet og demokratiet. Det er derfor viktig at digitale tjenestene som tilbys fra Vestfold fylkeskommune ivaretar krav om universell utforming av IKT slik at alle brukere, uavhengig av forutsetninger, kan ta i bruk tjenestene.

Forskrift om universell utforming av IKT forteller hva som er minimumskrav for nettløsninger som er rettet mot eksempelvis innbyggere eller virksomhetens funksjon. 

 

Ansvarlig utvikling og bruk av KI

Ansvarlig KI betyr at både utviklingen av infrastrukturen og tjenestene, samt bruken i ulik praksis, ivaretar noen etiske og lovmessige prinsipper. Ansvarlighet er et viktig prinsipp som skal sørge for at de som utvikler og tar i bruk KI-teknologi også er sitt ansvar bevisst. En viktig del av ansvarlighet hviler på prinsippet om åpenhet. Det betyr at det skal være mulig for andre å forstå og forklare hva som har ført til både det KI-tjenesten har skapt eller gjort selv, men også åpenhet om hvordan kunstig intelligens er brukt i undervisning og læring, av lærere og av elever

Det er vanskelig å forklare hva som gjør at KI-tjenester gjør og skaper det de gjør. Dette kan bidra til svekket tillit til utfall av avgjørelser der KI er brukt. Det er derfor et mål å øke åpenhet og å gjøre KI mer åpent og forklarbart, og på denne måten bidra til høyere grad av tillit til systemer og prosesser som benytter KI. Mer åpenhet og bedre forklarbarhet kan også gjøre det mulig for flere å delta i utvikling og regulering av teknologi og praksis.

Munin tilgjengeliggjør språkteknologi fra blant annet NORA, Nasjonalbibliotekets AI-lab, Mistral AI, med flere. Tjenesten er tilgjengelig for alle elever, lærlinger, studenter og ansatte, i Vestfold fylkeskommune.

Nora-modellen i Munin er en modell med åpne vekter og åpent treningsdatasett. Dette gjør at det er mulig å gjennomføre ulike type tester med modellen for å se hvordan den endrer seg etter hvert som ting tas ut eller legges til den, gjennom en infrastruktur som fylkeskommunene Vestfold og Telemark leier av Hugging Face, på et datasenter i Irland.

Et annet sentralt prinsipp innenfor ansvarlig og etisk KI er rettferdighet, som handler om å korrigere for skjevheter og bias som kan føre til diskriminering og utenforskap. Derfor har fylkeskommunens egenutviklede tjeneste Munin som formål å understøtte utviklingsprosjekt som skal forbedre forståelsen vår av mulighetene og implikasjonene ved bruk av KI-teknologi og KI-støttet praksis, i opplæring og utdanning, samt andre områder i fylkesadministrasjonen. Utviklingen omfatter både tekniske løsninger og forvaltningsprosesser, samt praksisutvikling og brukermedvirkning.

Munin i Vestfold fylkeskommune.

Ledetekster, systemledetekster og temperatur

Når man bruker generativ KI og språkmodeller, slik som de i Munin, så sender man forespørsler om å løse en oppgave. Disse forespørslene kalles gjerne for prompt, instruks eller ledetekst. I denne veilederen bruker vi ordet ledetekst. Det er viktig å huske på at teknologien bak språkmodellen også kan ha stor innvirkning på hvilke svar du får. NDLA har en verktøykasse for hvordan du kan jobbe med ledetekster: Hvordan jobbe med ledetekster - Verktøykassa – for elever - NDLA. 

Systemledetekster kan brukes på ulike måter. Hensikten med å lage en systemledetekst er å gi språkmodellen en forkontekst eller en instruks som setter rammer for hvordan du ønsker at språkmodellen skal svare. Dette kan være hensiktsmessig dersom du har behov for å styre samtalen, forsøke å forbedre svarenes relevans og nøyaktighet eller for å oppnå mer spesifikke mål i samtalen med språkmodellen. Det er likevel viktig å huske på at språkteknologien kan hallusinere, konfabulere og gi informasjon basert på bias, også om du legger inn systemledetekst. NDLA har utformet en samling med systemledetekster - Verktøykassa – for elever - NDLA 

Temperaturen styrer tilfeldigheten i generte svar. Innstillingen påvirker variasjonen og forutsigbarheten i teksten som modellen produserer. Lav temperatur, nær 0, gjør at modellen tenderer til å generere forutsigbare svar og velger de mest sannsynlige ordvalgene. Det kan være nyttig der du har behov for nøyaktighet, som for eksempel i arbeid med mer spesifikke oppgaver eller fag. Høy temperatur, >1, introduserer mer tilfeldighet, og kan være nyttig ved behov for mer kreativitet og variasjon, men da også mer uforutsigbarhet. Det er mest vanlig med en moderat/mellomliggende temperatur, rundt 0,7. 

Det er viktig å huske på at teknologien bak språkmodellen også kan ha stor innvirkning på hvilke svar du får. Man kan derfor ikke basere seg på at ledetekster kan bli så spesifikke at man kan ha full tillit til svarene fra KI. Prøv gjerne ulike språkmodeller i Munin for å sjekke hva som skiller modellene fra hverandre i repsonsen/outputen de gir.

Noen viktige begreper

• Kunstig intelligens (KI): System og informasjonsteknologi. Kan deles i ekspertsystemer (regelbaserte systemer) og maskinlæring. Det er som oftest maskinlæring vi tenker på når vi snakker om KI. På engelsk er forkortelsen AI.
• Generativ KI: Generativ KI er teknikker innen maskinlæring der målet er å etterligne datamateriale. Man kan generere (skape) tekst, bilde, video og lyd ved hjelp av generativ KI.
• Språkmodeller: En språkmodell genererer tekst basert på sannsynlighetsfordeling over sekvenser av ord. Store språkmodeller (Large Langual Models -LLMs) er ofte trent på enorme mengder tekstdata.
• Ledetekst: En ledetekst er instruksjonen man gir modellen man bruker for å få en spesifikk respons. Ledeteksten kan inneholde kontekst eller detaljer for å få modellen til å generere det ønskede svaret.
• Systemledetekst: En forhåndsdefinert instruksjon eller sett av retningslinjer for å justere modellens oppførsel eller stil. Systemledeteksten påvirker modellens generelle oppførsel og kontekstualisering.
• Temperatur: Temperaturen er en parameter som styrer tilfeldigheten i generte svart. Innstillingen påvirker variasjonen og forutsigbarheten i teksten som modellen produserer.
• Generere: Å produsere eller skape noe.
• Bias: Bias, eller skjevhet, referer her til en systematisk feil som påvirker resultatet du får i bruk av generativ KI. Om systemet som er bygget på KI inneholder skjevheter i sine algoritmer kan dette føre til usaklig forskjellsbehandling og diskriminering på bakgrunn av kjønn, alder etnisitet eller andre kriterier.
• Konfabulasjon: Generativ KI kan dikte opp ting og gi misinformasjon som ikke nødvendigvis er riktig eller sann. Dette kalles konfabulasjoner, noe som vil si at KI-tjenesten generer informasjon som ikke er basert på fakta, men at den fyller inn hull med mulige eller plausible opplysninger som kan være feilaktige og/eller misvisende.

For forklaring av flere begreper kan du se i Ordliste for kunstig intelligens - Teknologirådet.