Før en offentligt instans eller en skole indfører Microsofts kunstige intelligente tjeneste Copilot, er det en god ide at nærstudere rapporten ‘Pilotere Copilot for Microsoft 365’ fra Norges tekniske naturvidenskabelige universitet, NTNU. Det har i regi af det norske Datatilsyns ‘sandkasser’ efterprøvet Copilot og offentliggjort 8 hovedkonklusioner i forsommeren 2024, som alle kan få gavn af. Nedenfor et grundigt resume af konklusionerne.
Konklusion 1:
Copilot er glimrende, når du allerede kan det, du beder den hjælpe dig med. Copilot kan være et godt værktøj for dem, som allerede har en god forståelse af opgaven, de skal løse, men kan være en udfordring for dem, der skal løse en opgave første gang.
Når du har en grundig forståelse af den viden, du søger at formidle via Copilot, kan du nemt identificere, når der er fejl. Det betyder også, at du kan give tjenesten mere præcise instruktioner og få mere ud af den. Du kan komme hurtigere i gang med en opgave og få hjælp til at strukturere dit arbejde. Som sparringspartner kan Copilot også bidrage med ideer og vinkler og foreslå forbedringer. Men hvis ikke har en grundig viden og laver en opgave for første gang, er det noget helt andet. Så kan du risikere at bruge mere tid på at kvalitetssikre det, der kommer ud af Copilot.
Konklusion 2:
Copilot kan påvirke udøvelsen af offentlig myndighed. Ligesom i Norge er der i Danmark stor tillid til det offentlige, og der er klare offentlige forvaltningsregler, og det er vigtigt, at værktøjer som Copilot gør os bedre og ikke dårligere.
Den offentlige sektor har et ansvar for at undgå fejl og skal have fuld kontrol over, hvordan vi når frem til en beslutning. Den skal kunne redegøre for data- og vurderingsgrundlag, og processen skal være transparent for at bevare befolkningens tillid. Copilot kan give forkerte svar eller foretage fejlagtige vurderinger. Det er vigtigt at anerkende dette og have mekanismer på plads på plads til at identificere og korrigere sådanne fejl – altså menneskelig kontrol. Der er stor risiko for, at den offentlige sektor vil begå fejl hvis vi tager alt, hvad Copilot foreslår, for gode varer.
Konklusion 3:
Copilot behandler enorme mængder persondata på nye og ukontrollerede måder og kan give store udfordringer i forhold til individets rettigheder og den offentlige forvaltning.
Alt, hvad du som person eller offentlig instans giver Copilot adgang til kan blive brugt og sat sammen på helt nye måder. Og hvad sker der med al den data, som borgerne kan finde på at sende til den offentlige instans? Her er det vigtigt at man laver en DPIA – en Data Protection Impact Assessment – før ibrugtagelse.
Konklusion 4:
Microsofts økosystem, Microsoft 365 og især med Copilot er en kæmpe udfordring i forvaltningen og kræver specialiserede ansatte for at følge med i de mange løbende ændringer og opdateringer.
Microsoft har en opt out-politik på mange af sine tjenester. Det betyder, at nye funktioner, add-ons og udvidelser automatisk aktiveres, og administratorer skal aktivt deaktivere dem, hvis de ikke skal være tilgængelige for brugerne. Det kræver derfor ansatte til at holde øje med systemet.
Desuden er Copilot dyrt, hvilket man skal holde sig det for øje. Det er en god ide at have en exit strategi fra Microsoft, fordi det er usundt at være afhængig af én leverandør. Med en exit strategi kan man bevare kontrollen og være mere fleksibel og sikre sig en bedre forhandlingsposition overfor leverandøren, når man ikke er låst fast til en løsning.
Konklusion 5:
Copilot er stadig under udvikling. Det er en umoden teknologi, der løbende ændrer sig.
En effektiv måde at tilpasse sig på produkter, der er under udvikling, er ved at bruge pilotering, testning og projektmetodik. Det indebærer at afprøve nye teknologier, som f.eks. Copilot, i kontrollerede omgivelser, før de implementeres fuldt ud i organisationen.
Konklusion 6:
Nye værktøjer påvirker en organisation, og det er vigtigt at inddrage alle stakeholders, inklusive fagforeninger
Nye funktioner i etablerede værktøjer kan skabe reaktioner blandt brugerne. For eksempel
automatisk kan optagelse af digitale møder med efterfølgende transskription og opsummering/fortolkning af indhold opfattes negativ – især hvis indholdet gengives forkert. Der er
er ingen garanti for, at værktøjet fortolker indholdet korrekt, og det kan føre til misforståelser eller
misinformation. Der er også risiko for afskrækkende effekter som f.eks. at medarbejderne
uvilje mod at deltage i møder, hvor der laves optagelser, eller at de opfører sig anderledes
end de ellers ville gøre.
Konklusion 7:
Copilot er boss-ware. “Bossware-problemer”. Arbejdsgivere kan vurdere medarbejdernes præstationer og adfærd ud fra det skriftlige indhold, de har adgang til, f.eks. filer, dokumenter, Teams-chats, e-mail-korrespondance, Teams-indhold, følelsesmæssige reaktioner (emojis), udskrifter fra møder med automatisk optagelse osv. Medarbejderne har ingen mulighed for at finde ud af, om en sådan vurdering af dem selv har fundet sted.
Det er muligt at håndtere dette problem. Ud over grundig træning af alle alle parter, kan Copilot f.eks. forhindres i at få adgang til områder, hvor hvor folk er uformelle i tonen, eller hvad de betragter som deres private områder. Dette vil variere fra organisation til organisation. At give Copilot adgang til f.eks. e-mail eller teamchat bør overvejes nøje. En anden og nok mere kontroversiel mulighed er at
overveje, om f.eks. ledere med HR-ansvar ikke skal have adgang til Copilot. Det kan efterlade lederne “teknologisk bagud”, men det kan hjælpe med at beskytte medarbejdernes privatliv og forhindre potentielt misbrug af værktøjet. Der ser også ud til at være også at være et værktøj, der kan opfange, om du stiller sådanne spørgsmål, men det er ikke testet i dette omfang.
Konklusion 8:
Copilot fungerer nogengange rigtig godt. Men stol ikke blindt på dens referencer.
I løbet af projektperioden har der været flere “aha-oplevelser”, hvor Copilot har vist sig at være et fremragende værktøj. Er f.eks. god til at trække essensen ud af store filer og samle dem til et nyt, mere fokuseret dokument. Det er en opgave, der hurtigt ville tage en person dage at udføre, men Copilot kan gøre det på få minutter. Det betyder, at man kan komme hurtigere i gang med opgaverne. Som værktøj til at skrive et første udkast kan Copilot være meget nyttigt for mange. Copilot har mulighed for at give referencer, men det er vigtigt at bemærke, at man ikke kan stole blindt på disse, som værktøjet fungerer i dag.
Foto: Judith Beth Morris, Unsplash.com
