Mens en bølge af digitalisering fejer hen over vores samfund, bliver algoritmer og kunstig intelligens (AI) hurtigt en integreret del af vores hverdag. Statslige og kommunale myndigheder bruger algoritmer til at optimerederes processer, forbedre borgerservice eller drive og vedligeholde byrummet. Udviklingen understreger behovet for at sikre, at algoritmer i offentlige myndigheder skal overholde de samme principper om ansvarlighed, gennemsigtighed og sikkerhed som alle de andre offentlige opgaver, der løses ved hjælp af data om borgerne. En god løsning er offentlige AI-registre.
Amsterdam og Helsinki har introduceret mere end tredive AI-projekter, som fx anvendes til at forbedre og kontrollere parkering, reducere svig ved husudlejning og til at forbedre de offentlige services ved hjælp af chatbots. Dette har ført til et nyt initiativ, nemlig offentlige AI-registre.
AI-registrene indeholder oplysninger om de datasæt, der anvendes i algoritmen, modelarkitekturen og den operationelle logik, sikring af ikke-diskrimination og realisering af lighed ved brug af tjenesten eller ydelsen, menneskeligt tilsyn under brugen af tjenesten og risici i forbindelse med brug af systemet.
Formålet med AI-registrene er at give borgerne viden om algoritmer og opdaterede oplysninger om, hvordan algoritmer understøtter beslutninger og påvirker deres liv. De bliver på den måde rustet til at give udtryk for deres meninger om myndighedsaktiviteter og deltage i debatten om udviklingen inden for kunstig intelligens og automatisering.
Åbenhed og feedback
Som sådan repræsenterer AI-registre et vindue til de AI-systemer, der anvendes af offentlige myndigheder. Registret åbner således til oplysninger, der kan hjælpe alle med at få indsigt i AI-systemet eller til at undersøge det nærmere. Det giver mulighed for at inddrage flere interessenter og skaber en kanal for flere til at give feedback til planlagte eller igangsatte systemer. For journalister, forskere, politikere, civilsamfundsorganisationer og aktivister kan AI-registret således være til stor hjælp. Samtidig giver det en ny mulighed for offentlig kontrol med de samfundsmæssige konsekvenser, som brugen af AI kan give anledning til.
Feedback-mekanismen gør det også muligt for offentlige myndigheder at efterkomme borgernes og interessenternes ønsker til det algoritmiske systems funktion. Det kan også bidrage til at dokumentere de beslutninger og antagelser, der blev anvendt i processen med at udvikle, implementere, styre og måske demontere en algoritme. Samlet set, kan et AI-register bidrage til at opfylde dataetiske krav om gennemsigtighed og forklarlighed.
God ledelse af AI
For embedsmænd udgør et AI-register derudover et relevant værktøj til god ledelse af AI udviklings- og driftsprocesser. Det vil hjælpe teams med systematisk at oprette og vedligeholde dokumentation på tværs af alle deres projekter, uanset hvilke teknologier og partnere der er involveret.
Fra et dataetisk perspektiv repræsenterer AI-registre et relevant middel til at omdanne dataetik til praksis gennem en deltagelsesbaseret tilgang til opbygning og drift af algoritmer i den offentlige forvaltning. Med andre ord, en god vej til pålidelig kunstig intelligens i vores byer.
