Munin (chatVTFK) er en samtalerobot som muliggjør bruk av språkmodeller som læringsressurser i videregående opplæring og høyere yrkesfaglig utdanning, i Vestfold fylkeskommune. Store språkmodeller (LLMer), utviklet gjennom maskinlæring på store mengder tekst, danner grunnlaget for samtaleroboter, slik som Munin. Formålet med utviklingsprosjektet og piloteringen av Munin er å forbedre vår forståelse av mulighetene og implikasjonene ved bruk av samtaleroboter, i opplæring og utdanning. I tillegg til utvikling av tekniske løsninger og forvaltningsprosesser, er en vesentlig del ved prosjektet utvikling av digitalpedagogisk praksis og brukermedvirkning.
Munin skal gjøre det mulig å ta i bruk en fremvoksende teknologi i opplæringen på en ansvarlig måte. Tjenesten er tilgjengelig for alle elever, studenter og ansatte.
Merk: Munin beriker ikke resultatene ved å inkludere eksterne datakilder (retrieval-augmentet generation), og muligjør heller ikke knytning til tredjepartstjenester eller -prosesser (function calling).
Sannsynlighetsberegning i svar fra Munin
Kildene til Munin er begrenset til datasett som de underliggende språkmodellene er trent på, og konseptene som er definert her. All respons tjenesten gir er basert på det som her er de mest sannsynlig ordene, gitt konteksten den blir gitt i spørringen. Kontekst er ordene i spørringen som avgrenser hva språkmodellen anser som mest plausibelt svar. Presisering av kontekst kan hjelpe språkmodellen til å bli mer presis. Dette kan lærere og elever også bevisst nyttiggjøre seg av i læringsarbeidet. F.eks. "fortell en morsom historie om pingviner". "Fortell", "historie" og "morsom" vil gi språkmodellen instruks om formen på svaret, og "pingvin" vil gi den instrukser om blant annet sted, type dyr, klima, m.m.
Hva kan samtalerobot brukes til?
Store språkmodeller og assistentene som baserer seg på disse, er spesielt godt egnet til å sortere store mengder informasjon for å gi et resultat med en viss grad av variasjon. Det betyr at den f.eks. kan gi et bredt utvalg av faglige eksempler ved liste og sammenstille informasjon fra mange ulike kilder, men at responsen kan ha ulik grad av nøyaktighet eller riktighet. Dette er en grunnleggende funksjon ved teknologien og noe som må være en faktor i hva samtaleroboten brukes til. Munin kan brukes av elev og lærer til å utvide det læringsmessige mulighetsrommet.
Hva samtalerobot ikke kan brukes til
Munin er basert på en fremvoksende teknologi, som har både kjente og ukjente begrensninger. Teknologien er i tillegg relativt uprøvd i undervisning og det eksisterer lite forskning på anvendelse av teknologien i pedagogisk og fagdidaktisk praksis. Samtaleroboten har ingen funksjon for å vurdere om svaret den gir er godt eller ta hensyn til ting utenfor en gitt kontekst.
På bakgrunn av kjente begrensninger, skal samtalerobot ikke brukes som:
- Plagiatkontroll eller KI-deteksjon, for å få indikasjoner på om elevens tekst er plagiert (kopi) eller skapt av en samtalerobot.
- Beslutningsstøttesystem, der anbefalinger i respons fra språkmodellen kan få betydning for elevens opplæring eller sluttvurdering — slik som "karaktersetting".
Viktig informasjon om bruk av samtaleroboten
Når du bruker Munin skal du ikke skrive inn opplysninger om deg selv eller andre personer i tekstfeltet, som behandles av samtaleroboten. Eksempler på dette kan være navn, bosted, kontaktopplysninger, eller opplysninger om din eller andres religion eller politiske oppfatning, m.m.
Les mer om personopplysninger på Datatilsynets nettsider.
Munin kan i enkelte tilfeller gi svar i form av personopplysninger – både som kan være til dels riktige eller direkte feilaktig. Disse opplysningene må ikke kopieres videre til f.eks. et Word-dokument eller annet sted. Samtaleroboten gir ikke nødvendigvis noen indikasjon på hvor nøyaktig eller riktig svaret er. Lærer må derfor alltid kunne gjøre seg kjent med resultatene samtaleroboten har gitt, slik at det er mulig å veilede eleven eller å diskutere resultatene i fellesskap.
Spørringer som ikke skal utføres i samtaleroboten
Tjenesten har innebygget moderasjon som regulerer spørringer som inkluderer hatefulle ytringer, trusler, selvskading, vold og seksuelt innhold. Til tross, så skal det ikke sendes spørringer om:
- ulovlig aktivitet knyttet til terrorisme.
- datakriminalitet og annen cyberaktivitet som kan tolkes som ulovlig.
- tilvirkning og spredning av våpen som kan tolkes som ulovlig.
Ellers gjelder Vestfold og Telemark fylkeskommunes retningslinjer for bruk av IKT, både for elever og ansatte.
Les mer om filtrering av nettrafikk og nettinnhold.
Behandling av personopplysninger i Munin
Formål
Tjenestens formål er å tilby et samlet brukergrensenitt for interaksjon med én eller flere store språkmodeller (LLM), til bruk i opplæring og utdanning. Interaksjon med Munin muliggjør en praktisk tilnærming for elevers læringsprosesser og mål, slik de defineres i læreplanverket. Munin kan også være en muliggjørende faktor som teknologistøtte for elevens læringsprosess. Lærere kan bruke Munin til å genererer grunnlag for planlegging av undervisning og utforming av undervisningsressurser.
Underformål inkluderer utvikling, drift og sikkerhet, inkl. innholdsfiltrering.
Behandlingsgrunnlag
Artikkel 6 nr.1 bokstav e): behandlingen er nødvendig for å utføre en oppgave i allmennhetens interesse.
For elever: supplerende grunnlag i opplæringsloven §§1-3, 3-4, 15-10, og læreplanverket som forskrift.
For studenter: supplerende grunnlag i fagskoleforskriften §4 1.ledd.
Du har rett til å protestere på behandlingen.
Kategorier av personopplysninger, databehandlere og sletterutiner
Opplysningene nedenfor behandles av Vestfold fylkeskommune, som behandlingsansvarlig.
Opplysninger behandlet av databehandler Microsoft Norge AS:
- Navn
- Epost (brukeridentifikator)
- Fylkes- og skoletilhørighet
Personopplysninger behandlet av Microsoft Norge AS er knyttet til eleven eller den ansattes skole- eller jobbkonto.
Opplysninger behandlet av databehandler OpenAI:
- Organisasjonstilhørighet (Fylkeskommune)
- Fritekst (spørringer) til Munin som behandles via OpenAI API/GPT 3.5-turbo
- Personopplysninger i svar generert av GTP 3.5-turbo/språkmodell på bakgrunn av identifiserte konsepter i treningsdata, og definerte parametre i den endelige språkmodellen.
Opplysninger behandlet av OpenAI lagres i 30 dager før sletting. Opplysninger viderebehandles ikke til andre formål og utleveres kun for å imøtekomme rettslig kjennelse.
Personopplysninger behandlet separat av de to databehandlerne og sammenstilles ikke i tjenesten.
Behandlingsansvar
Behandlingsansvarlig: Vestfold fylkeskommune
Databehandlere:
- Microsoft Norge AS
- OpenAI Ireland Ltd.
Spørsmål om behandling av dine personopplysninger, samt eventuell protest, sendes personvernombud@vestfoldfylke.no.
Teknisk dokumentasjon
Relevant teknisk dokumentasjon med endringer publiseres fortløpende av Vestfold fylkeskommune på github.com/vtfk