Photo: Megan Lee, unsplash.com
At være åben er positivt. Åbenhed er en trend, og det årtier gamle udtryk for åben software er open source. Men med generativ AI er udtrykket åben blevet fordrejet af nogle Big Tech-aktører, der er blevet mestre i openwashing.
I april 2024 lancerede Meta en ny version af sin store sprogmodel, Llama. “I dag introducerer vi Meta Llama 3, den næste generation af vores avancerede open source-sprogmodel,” skrev virksomheden.
Meta er mester i washing. Gennem årene har virksomheden udført privacy washing og ethics washing på forskellige konferencer, såsom denne i 2018: “How Facebook Builds AI With Privacy And Ethics By Design” (Hvordan Facebook bygger AI med privatliv og etik som designprincip). I dag ved vi, at Meta ofte er langt fra sandheden eller virkeligheden, men med Llama viser den sociale mediegigant et perfekt eksempel på openwashing.
Kernen i openwashing er en forvrængning af principperne om åbenhed, gennemsigtighed, ansvarlighed og genanvendelighed. Gennemsigtighed inden for AI ville indebære, at man offentliggjorde dokumenterer om, hvordan modeller udvikles, trænes, finjusteres og implementeres. Dette ville omfatte fuld adgang til de datasæt, vægte, arkitekturer og beslutningsprocesser, der er involveret i modellernes konstruktion. Meta lever ikke op til dette, ligesom de fleste andre AI-virksomheder.
Der er ellers en del kritik. Radboud Universitets Andreas Liesenfeld og Mark Dingemanses videnskabelige artikel, ‘Rethinking Open Source Generative AI; Open-washing and the EU AI Act’ fra 2024 analyserede 45 generative AI-systemer (både tekst og tekst-til-billede). Resultaterne viste, at selvom udtrykket open source blev brugt i vid udstrækning, var mange modeller i bedste fald open weight, og mange udbydere søgte derfor at undgå videnskabelig, juridisk og lovgivningsmæssig kontrol ved at tilbageholde oplysninger om træning og finjustering af dataene.
Meta fortsætter med at fejlagtigt betegne Llama som open source
Både Llama og den franske LLM Mistral kunne betragtes som openwashers, men mens Mistral hurtigt ændrede mening og nu kalder sig open weight (åben om modellen, lukket om hvilke data den er trænet på), fortsætter Meta med at fejlagtigt betegne Llama som open source, og desværre har mange traditionelle medier ukritisk gentaget påstandene om open source. “Mens den første generation af tekstgeneratorer, herunder BloomZ og OpenAssistant, klart sigtede mod en meningsfuld grad af åbenhed, begyndte store virksomheder snart at frigive systemer, der blev markedsført som open source, mens de i virkeligheden i bedste fald var open weight, hvilket i væsentlig grad udvandede begrebet,” skriver forskerne i artiklen.
Liesenfeld og Dingemanse fastslår desuden, at nogle mindre aktører har droppet udviklingen af deres egne modeller for blot at plug-and-play fra de store aktørers grundlæggende modeller.
“På den måde tager velfinansierede virksomhedskæmper ilten ud af rummet for mindre organisationer, der opererer med højere professionelle og etiske standarder,” konkluderer deres artikel.
OpenAI er ikke åben
Et andet eksempel på openwashing er OpenAI. Da OpenAI blev grundlagt i 2015, var det en non-profit organisation, der markedsførte sig selv som værende åben. Men da de så indtægtspotentialet i generativ AI, forsvandt både åbenheden og senere non-profit-status. I oktober 2025 omstrukturerede OpenAI sine aktiviteter for at modtage milliarder af dollars fra investorer. OpenAI Foundation har stadig ansvaret og ejer en del af den kommercielle gruppe, OpenAI Group PBC, en for-profit organisation med velgørende formål, der kræver, at OpenAI følger sin mission. Og gæt hvad, missionen for OpenAI Foundation og OpenAI Group er den samme:
“OpenAI’s mission er at sikre, at kunstig generel intelligens (AGI) – hvorved vi mener højt autonome systemer, der overgår mennesker i det mest økonomisk værdifulde arbejde – kommer hele menneskeheden til gode.”
Mindre modeller kan være både mere private og mere open source
Mindre modeller kan være bedre at bruge, selvom det er svært at forstå, om de er fuldt open source.
Lumo fra Proton i Schweiz kalder sig selv open source, men er sandsynligvis mere open weight, da det er bygget på forskellige grundlæggende modeller, hvoraf den ene er Mistral, som er open weight. Lumo kan dog anbefales, da det er udviklet af et privatlivsfokuseret firma med base i Europa.
Det amerikanske Olmo, som er nummer et på et europæisk AI-open source-indeks, markedsførte sig for nylig som open source, men ændrede derefter sin formulering og kaldte det open weight. For nylig ændrede de det igen og siger nu, at de er en ›’fuldstændig åben sprogsmodel’. Det er nummer et på det europæiske open source-indeks.
Så har vi HuggingChat, som også kalder sig open source. Selve platformen, inklusive brugergrænsefladen og backend-infrastrukturen, er open source, hvilket giver alle mulighed for at inspicere, ændre og bidrage til koden. Men den er bygget på grundlæggende modeller som Llama fra Meta og Mistral og de er open weight-modeller.
Apertus fra Schweiz, nummer tre på det europæiske AI-open source-indeks, er muligvis den eneste ægte open source-model og den første fuldt reproducerbare store sprogmodel. Den er udviklet af forskere fra EPFL, ETH Zürich og det schweiziske nationale supercomputingcenter som en del af det schweiziske AI-initiativ, ifølge dets hjemmeside. Det er også udgivet under open source-licensen Apache 2.0, som tillader både forskning og kommerciel brug, og det overholder åbenhed på alle fronter: træningskode, datapræparationsscripts, evalueringsværktøjer, mellemliggende kontrolpunkter, komplet dokumentation og metodologi, som forklaret i et Medium-indlæg.
Open Source AI – fortrinsbehandling?
I AI forordningen, som EU-Kommissionen ønsker at lempe med en Digital Omnibus, findes der i øjeblikket særlige bestemmelser for open source AI-modeller. Flere af afsnittene i AI-loven lyder således:
“Forpligtelserne i afsnit xxxxx gælder ikke for udbydere af AI-modeller, der udgives under en gratis og open source-licens, der giver adgang til, brug, ændring og distribution af modellen, og hvis parametre, herunder vægte, oplysninger om modelarkitekturen og oplysninger om modelbrug, er offentligt tilgængelige. Denne undtagelse gælder ikke for AI-modeller til generelle formål med systemiske risici.”
Hvordan man ændrer graden af åbenhed
Med regulering kan man tackle openwashing. I stedet for en udvandet EU-AI-lov, hvor virksomhederne lobbyer i Bruxelles for lette licensbaserede beslutninger, og hvor open-weight modeller får lov til at brande sig som open source, er det afgørende at indføre nøgleværdier som åbenhed og ansvarlighed i AI-systemer.
Begrebet ‘datablade for datasæt’, som fremhævet af Gebru et al (2021), kan hjælpe med at afsløre, hvilke data modellerne faktisk er trænet på, hvilket igen tilskynder til etiske tilskrivninger og juridisk kontrol.
Ligesom med energieffektivitetsmærker for elektriske apparater og miljøvenlige ratings for virksomheder, ville det være en fordel for brugerne at have åbenhedsscores eller -mærker, som Liesenfeld og Dingsemanse foreslår (se illustation).
En ting er sikkert: mærket open source er under udvikling, og EU’s AI-lov og yderligere lovgivning vil også udvikle sig i takt hermed, men det vil være nødvendigt at regulere dataoffentliggørelsen for generativ AI og følge disse retningslinjer, som Liesenfeld og Dingemanse foreslår: åbenhed er vigtig for risikoanalyse (offentligheden har brug for at vide det) for revisionsmuligheder (vurderingspersoner har brug for at vide det); for videnskabelig reproducerbarhed (forskere har brug for at vide det); og for juridisk ansvar (slutbrugere har brug for at vide det).
- Læs den videnskabelige artikel Rethinking Open Source Generative AI; Open-washing and the EU AI Act.
- Check også NGI search project
- Læs Datasheets for Datasets
- Læs Why Apertus Matters (Hvorfor Apertus er vigtigt).
- Se også European Open-Source AI Landscape report af StepUp Startups projektet
Go to the landing page of our Open Source Democracy
Lyt til episode 3: Generative AI Comes With Openwashing (Engelsk)
Open Source Democracy er et projekt om, hvorfor open source er vigtigt for demokratiet med fokus på etik og værdier i europæiske alternativer til big tech. Det er støttet af Carlsberg Mindelegat.. Alle artikler og podcasts er frit tilgængelige på dataethics.eu/opensource
