Veileder for kunstig intelligens

Kunstig intelligens (KI) har blitt en integrert del av teknologien brukt i hverdagen, og mange digitale ressurser brukt i videregående opplæring inneholder i ulik grad KI-funksjoner. Vi trenger derfor pålitelig og god kunnskap om KI, for å kunne ta gode valg som ivaretar god undervisning og læring. Det er svært viktig at elever, lærere og skoleledere tar del i denne kunnskapsutviklingen.

Det er gjerne det som kalles generativ kunstig intelligens (GKI) som de fleste forbinder med KI. Det er også generativ KI som bidrar til store endringer i synet på både undervisning og læring, samt spørsmålet om hvilke kompetanser som blir særlig viktige i fremtiden. Generativ KI kan bidra til en utforskende tilnærming, gjennom å gi varierte eksempler eller spørsmål. Samtidig mangler teknologien presisjon og forståelse av situasjon, som er nødvendig for mange oppgaver. Det er også problemstillinger knyttet til høyt energiforbruk og at mye KI-utvikling er basert på bruk av opphavsrettslig innhold. Dette må være en del av vurderingene til elever, lærere og skoleledere i avgjørelsene om hvorfor, hvordan og når kunstig intelligens tas i bruk i undervisning og læring.

 

NB! Disse retningslinjene er under utvikling og foreløpig kun publisert for innspill. 

Råd til eleven, læreren og skolelederen

Noen råd til eleven og lærlingen

Ungdom med tilknytning til Vestfoldskolen må kjenne KI-teknologi for å kunne bli ansvarlige brukere og samskapere av KI. De må ha en etisk bevisst og kritisk tilnærming til bruk av språkmodeller og andre systemer og applikasjoner som tilbyr kunstig intelligens. 

• Å levere arbeid generert av KI som om det er ditt eget, uten avtale med læreren, kan bli ansett som fusk eller forsøk på fusk. Det er viktig å følge skolens og lærerens retningslinjer slik de beskrives i Forskrift om felles skoleregler for elever ved fylkeskommunale videregående skoler i Vestfold. Det kan også hende skolen har utarbeidet egne regler. Er du usikker? Snakk med læreren din! 
• Tenk på språkmodellen som en maskin du kan ha dialog med. Svarene den genererer kan høres fornuftige ut, men det er ikke en kilde. Du kan ikke bruke svarene som faktainformasjon, akkurat som når du snakker med læreren din (som heller ikke er en kilde). Bruk gjerne KI til å ha dialog, spørre og hjelpe deg, men du må bruke andre kilder til informasjon for å være sikker på at det den svarer stemmer.
• Husk kildehenvisning. Husk at du må forklare hvordan du har brukt KI. Du kan lese mer om kildehenvisning ved bruk av KI på Kildekompasset sine nettsider.
• Husk at kommersielle KI-tjenester kan bruke dataene dine til mer enn å bare levere tjenesten. Mange KI-tjenester forbeholder seg retten til å viderebruke eller videreselge personopplysningene dine, inkludert det du har lagt inn av data. Det er ofte vanskelig å avdekke hva dataene du sender inn kan brukes til. Det er derfor viktig at du bruker tjenester som tilbys av skolen du går på. Det er heller ikke greit å bruke andre tjenester enn de som tilbys, selv om man logger på med skolekonto.
• Du må ha god kunnskap om fagstoffet slik at du kan vurdere svarene du får når du bruker KI. Språkmodeller genererer språk, ikke fakta. Husk også at innhold generert av KI kan ha bias (skjevhet). Det betyr at dataene skapt av verktøyet for eksempel kan være diskriminerende. Hallusinasjoner (konfabulasjoner) betyr at verktøyet kan finne på informasjon som ikke alltid er riktig. 
• Det er ikke alltid lurt å bruke KI når man skal lære. Tiden du bruker på å tenke gjennom og forstå fagstoffet er en viktig del av læringen. Husk også at lærere vet mye om hva som er bra for din læring. Stol på lærerens valg om bruk av KI og snakk sammen i forkant om du har andre forslag og ideer til hvordan oppgaven kan løses. 

Noen råd til læreren

Lærere må kjenne til variasjonen av kunstig intelligens som en del av sin profesjonsfaglige digitale kompetanse. At lærere kan bruke verktøy med kunstig intelligens på en etisk bærekraftig og bevisst måte kan bidra til å gi elevene god opplæring, men også effektivisere og variere egen metode, didaktikk og pedagogiske tilnærming. 

Det er gjennom tillit og dialog med elevene den gode praksisen utvikles. Tenk derfor nøye på hvordan du kan involvere elevene i å ta gode avgjørelser for eventuell bruk av KI i læringsarbeidet, og om det kan være læringsfremmende. Om konklusjonen er at KI ikke kan brukes hensiktsmessig for oppgaven, kan denne dialogen bidra som retningsgiver for elevenes forhold til bruk av teknologien. 

• Bruk kun verktøy som er godkjent for bruk av fylkeskommunen/skolen.
• Sett deg inn i KI-verktøyene du har tilgjengelig og bruk dem jevnlig. For å forstå teknologien og dens styrker og svakheter, trengs erfaring med bruk.
• Jobb med egen kompetanse for å skrive ledetekster/systemledetekster, men vær også undrende til teknologien bak ledeteksten. Teknologien bak språkmodellen er også førende for hva slags utdata du får.
• Ikke bruk KI for å vurdere elevbesvarelser. Laster du opp en elevbesvarelse, deler du elevenes personopplysninger (selv om du fjerner navn).
• Ikke bruk KI til å vurdere om en elev har brukt KI. Teknologien har ingen valid måte å fange opp dette på per i dag. 

Noen råd til skolelederen

Skoleledere bør ha nok kunnskap om kunstig intelligens til å forstå hvordan ulike verktøy med kunstig intelligens kan få innvirkning på lærerens praksis og elevenes læring. Hvordan skal skolene håndtere inntoget av kunstig intelligens i opplæringen? Hvordan kan skoleeier og skoleledelse legge til rette for å skape trygghet, kompetanseutvikling og læringsprosesser hos lærere og elever i skolen? 

Noen råd:

• Sett deg inn i hvilke verktøy som fylkeskommunen har godkjent for bruk.
• Sett deg inn i KI-verktøyene du har tilgjengelig og bruk dem jevnlig. Det kan være nødvendig å bruke teknologien for å forstå den.
• KI skal ikke brukes i noen sammenheng der det utarbeides grunnlag for enkeltvedtak, og som kan medføre brudd på god forvaltningsskikk.
• Vær nysgjerrig på hvorfor ikke alle verktøy er tillatt og hvorfor.
• Støtt lærerne i deres utviklingsarbeid, og ha dialog om teknologiens muligheter og begrensninger.

KS sin veileder for kunstig intelligens i digitale læringsressurser og fagsystem gir skoleledere en oversikt over aktuelle problemstillinger knyttet til bruk av ressurser med kunstig intelligens, i undervisningspraksis og læring.

 

Illustrasjon: Veileder som illustrerer prosess for vurdering av hvorfor, hvordan og når KI brukes i undervisning og læring. Norsk og engelsk versjon av plakat trykkes og sendes skolene når veilederen er ferdigstilt.

Utvikling og bruk av KI i Vestfold fylkeskommune skal være i tråd med målsetningene i ny nasjonal digitaliseringsstrategi, og strategi for digital kompetanse og infrastruktur i barnehage og skole, samt bidra til å nå målsetningene i Vestfoldplanen – regional planstrategi for Vestfold 2024 - 2028. Målgruppen for veilederen er skoleledere, pedagoger, voksne og ungdom med tilknytning til Vestfold fylkeskommune. 

Les mer om Munin og bruk av språkmodeller i Vestfold fylkeskommune.

Videre viktig å vite om KI i Vestfoldskolen:

KI og behandling av personopplysninger

Tjenester med kunstig intelligens behandler som regel alltid personopplysninger, noe som påvirker elever og ansattes personvern på ulike måter. Noen eksempler på behandling av personopplysninger og personvernkonsekvenser i KI-tjenester er:

• Inndata avgitt av brukeren selv, eller av en tredjepart eller ekstern kilde, for å levere en persontilpasset tjeneste. Det kan være navn eller opplysninger om hvor du er fra, personlige preferanser, prestasjon, eller andre opplysninger om deg.
• Utdata fra systemet som inneholder personopplysninger. Det kan være opplysninger fra modellens minne, men oftere opplysninger som er avledet fra inndata.
• Rettsvirkning eller tilsvarende betydelig påvirkning er der bruken av et KI-system får konsekvenser for den personen som systemet brukes ovenfor. Dette kalles ofte beslutningsstøttesystemer.

Hva er personvern? – Datatilsynet

Er tjenesten tilgjengelig gratis via nettet, behandles ofte inndata til andre formål enn kun å levere tjenesten. Det kan være at opplysninger blir videresolgt eller brukt i videreutvikling av KI-tjenester. Det er høy risiko for at personopplysninger brukt i KI-utvikling også kan gjenskapes ved videre bruk av slike tjenester. Tjenester med kunstig intelligens som er anskaffet av Vestfold fylkeskommune, bruker ikke læreres eller elevers inndata i utvikling eller videresalg.

Vestfold fylkeskommune er behandlingsansvarlig for dine personopplysninger når du jobber eller går på skole i fylkeskommunen og skal utføre oppgaver i forbindelse med dette – det betyr å sørge for at behandling av personopplysninger ivaretar personers grunnleggende rettigheter og friheter. Skoleledere, lærere og elever kan derfor kun bruke tjenester som vi har gjort vurderinger av, og inngått avtaler med. Samtidig er det viktig at skoleledere og lærere har nok kunnskap om hensiktsmessig bruk av disse verktøyene på et etisk plan, så vel som pedagogisk og didaktisk.

Dersom du som ansatt skal ta i bruk en ny tjeneste med kunstig intelligens, så kan du be om en vurdering av denne ved å sende en henvendelse via nærmeste leder, som tar dette videre til forvaltningsteam for digitale læringsressurser og fagsystem, ved seksjon pedagogisk støtte og utvikling.

Du kan lese mer om behandling av personopplysninger i digitale læringsressurser og pedagogiske fagsystem i Vestfold fylkeskommune.

Vil du lære mer om personvern i opplæringen? Se videoleksjoner og veiledninger på sidene til SkoleSec-prosjektet.

 

Universell utforming

Universell utforming bygger på tanken om at tjenester være tilgjengelige for alle, uavhengig av funksjonsnivå. Dette er med å på å bidra til at alle har mulighet til å delta i samfunnet og demokratiet. Det er derfor viktig at digitale tjenestene som tilbys fra Vestfold fylkeskommune ivaretar krav om universell utforming av IKT slik at alle brukere, uavhengig av forutsetninger, kan ta i bruk tjenestene.

Forskrift om universell utforming av IKT forteller hva som er minimumskrav for nettløsninger som er rettet mot eksempelvis innbyggere eller virksomhetens funksjon. 

 

Ansvarlig utvikling og bruk av KI

Ansvarlig KI betyr at både utviklingen av infrastrukturen og tjenestene, samt bruken i ulik praksis, ivaretar noen etiske og lovmessige prinsipper. Ansvarlighet er et viktig prinsipp som skal sørge for at de som utvikler og tar i bruk KI-teknologi også er sitt ansvar bevisst. En viktig del av ansvarlighet hviler på prinsippet om åpenhet. Det betyr at det skal være mulig for andre å forstå og forklare hva som har ført til både det KI-tjenesten har skapt eller gjort selv, men også åpenhet om hvordan kunstig intelligens er brukt i undervisning og læring, av lærere og av elever

Det er vanskelig å forklare hva som gjør at KI-tjenester gjør og skaper det de gjør. Dette kan bidra til svekket tillit til utfall av avgjørelser der KI er brukt. Det er derfor et mål å øke åpenhet og å gjøre KI mer åpent og forklarbart, og på denne måten bidra til høyere grad av tillit til systemer og prosesser som benytter KI. Mer åpenhet og bedre forklarbarhet kan også gjøre det mulig for flere å delta i utvikling og regulering av teknologi og praksis.

Munin tilgjengeliggjør språkteknologi fra blant annet NORA, Nasjonalbibliotekets AI-lab, Mistral AI, med flere. Tjenesten er tilgjengelig for alle elever, lærlinger, studenter og ansatte, i Vestfold fylkeskommune.

Nora-modellen i Munin er en modell med åpne vekter og åpent treningsdatasett. Dette gjør at det er mulig å gjennomføre ulike type tester med modellen for å se hvordan den endrer seg etter hvert som ting tas ut eller legges til den, gjennom en infrastruktur som fylkeskommunene Vestfold og Telemark leier av Hugging Face, på et datasenter i Irland.

Et annet sentralt prinsipp innenfor ansvarlig og etisk KI er rettferdighet, som handler om å korrigere for skjevheter og bias som kan føre til diskriminering og utenforskap. Derfor har fylkeskommunens egenutviklede tjeneste Munin som formål å understøtte utviklingsprosjekt som skal forbedre forståelsen vår av mulighetene og implikasjonene ved bruk av KI-teknologi og KI-støttet praksis, i opplæring og utdanning, samt andre områder i fylkesadministrasjonen. Utviklingen omfatter både tekniske løsninger og forvaltningsprosesser, samt praksisutvikling og brukermedvirkning.

Munin i Vestfold fylkeskommune.

Ledetekster, systemledetekster og temperatur

Når man bruker generativ KI og språkmodeller, slik som de i Munin, så sender man forespørsler om å løse en oppgave. Disse forespørslene kalles gjerne for prompt, instruks eller ledetekst. I denne veilederen bruker vi ordet ledetekst. Det er viktig å huske på at teknologien bak språkmodellen også kan ha stor innvirkning på hvilke svar du får. Under kan du lese noen enkle råd for å skrive ledetekster, uavhengig om du er elev, lærer eller skoleleder. I tillegg finnes gode råd på NDLA: Hvordan jobbe med ledetekster - Verktøykassa – for elever - NDLA. 

Systemledetekster kan brukes på ulike måter. Hensikten med å lage en systemledetekst er å gi språkmodellen en forkontekst eller en instruks som setter rammer for hvordan du ønsker at språkmodellen skal svare. Dette kan være hensiktsmessig dersom du har behov for å styre samtalen, forsøke å forbedre svarenes relevans og nøyaktighet eller for å oppnå mer spesifikke mål i samtalen med språkmodellen. Det er likevel viktig å huske på at språkteknologien likevel kan hallusinere, konfabulere og gi informasjon basert på bias. NDLA har utformet en samling med systemledetekster - Verktøykassa – for elever - NDLA 

Temperaturen styrer tilfeldigheten i generte svar. Innstillingen påvirker variasjonen og forutsigbarheten i teksten som modellen produserer. Lav temperatur, nær 0, gjør at modellen tenderer til å generere forutsigbare svar og velger de mest sannsynlige ordvalgene. Det kan være nyttig der du har behov for nøyaktighet, som for eksempel i arbeid med mer spesifikke oppgaver eller fag. Høy temperatur, >1, introduserer mer tilfeldighet, og kan være nyttig ved behov for mer kreativitet og variasjon, men da også mer uforutsigbarhet. Det er mest vanlig med en moderat/mellomliggende temperatur, rundt 0,7. 

Det er viktig å huske på at teknologien bak språkmodellen også kan ha stor innvirkning på hvilke svar du får. Man kan derfor ikke basere seg på at ledetekster kan bli så spesifikke at man kan ha full tillit til svarene fra KI. Prøv gjerne ulike språkmodeller i Munin for å sjekke hva som skiller modellene fra hverandre i repsonsen/outputen de gir.

Noen viktige begreper

• Kunstig intelligens (KI): System og informasjonsteknologi. Kan deles i ekspertsystemer (regelbaserte systemer) og maskinlæring. Det er som oftest maskinlæring vi tenker på når vi snakker om KI. På engelsk er forkortelsen AI.
• Generativ KI: Generativ KI er teknikker innen maskinlæring der målet er å etterligne datamateriale. Man kan generere (skape) tekst, bilde, video og lyd ved hjelp av generativ KI.
• Språkmodeller: En språkmodell genererer tekst basert på sannsynlighetsfordeling over sekvenser av ord. Store språkmodeller (Large Langual Models -LLMs) er ofte trent på enorme mengder tekstdata.
• Ledetekst: En ledetekst er instruksjonen man gir modellen man bruker for å få en spesifikk respons. Ledeteksten kan inneholde kontekst eller detaljer for å få modellen til å generere det ønskede svaret.
• Systemledetekst: En forhåndsdefinert instruksjon eller sett av retningslinjer for å justere modellens oppførsel eller stil. Systemledeteksten påvirker modellens generelle oppførsel og kontekstualisering.
• Temperatur: Temperaturen er en parameter som styrer tilfeldigheten i generte svart. Innstillingen påvirker variasjonen og forutsigbarheten i teksten som modellen produserer.
• Generere: Å produsere eller skape noe.
• Bias: Bias, eller skjevhet, referer her til en systematisk feil som påvirker resultatet du får i bruk av generativ KI. Om systemet som er bygget på KI inneholder skjevheter i sine algoritmer kan dette føre til usaklig forskjellsbehandling og diskriminering på bakgrunn av kjønn, alder etnisitet eller andre kriterier.
• Konfabulasjon: Generativ KI kan dikte opp ting og gi misinformasjon som ikke nødvendigvis er riktig eller sann. Dette kalles konfabulasjoner, noe som vil si at KI-tjenesten generer informasjon som ikke er basert på fakta, men at den fyller inn hull med mulige eller plausible opplysninger som kan være feilaktige og/eller misvisende.

For forklaring av flere begreper kan du se i Ordliste for kunstig intelligens - Teknologirådet.