AI-modeller: Open Source vs. Closed Source til din virksomhed

Når snakken falder på kunstig intelligens på ledelsesgangene i danske virksomheder, rammer vi ofte hurtigt et teknisk spor: Skal I bygge videre på åbne og gratis modeller (open source), eller skal I købe adgang til lukkede systemer via et abonnement (closed source)? For de fleste virksomheder med 10 til 150 ansatte er dette ikke en akademisk diskussion om teknologi. Det er et praktisk spørgsmål om budgetter, vedligeholdelse og hvorvidt I vil binde jer til leverandører som Microsoft eller OpenAI.

Hos Optify ser vi jævnligt, at virksomheder vælger forkert. Nogle kaster store summer efter open source for at beholde data lokalt, blot for at opdage, at driften æder ressourcerne op. Andre vælger den nemme lukkede løsning og finder pludselig ud af, at deres kunders persondata ligger på en server i USA i strid med GDPR.

I denne artikel gennemgår vi fordelene og ulemperne ved de to retninger. Vi giver jer vores praktiske erfaringer med, hvad det koster i både tid og kroner, så I kan træffe beslutningen på et oplyst grundlag.

Primære forskelle mellem Open Source og Closed Source AI-modeller

Før I afsætter budget, skal præmissen for de to lejre være klar. Forskellen ligger grundlæggende i, hvem der ejer kildekoden, og hvem der betaler for computerkraften bag.

Open Source AI-modeller

Open source-modeller (som Llama fra Meta eller Mistral) minder om at bygge et hus fra bunden på jeres egen grund. Modellen er gratis at downloade, men I står selv for mursten, VVS og vedligehold.

• Lokal drift: I kan lægge modellen på jeres egne servere eller i et lukket dansk datacenter. Det sikrer, at fortrolig data aldrig forlader huset.
• Ingen licens, men høj driftspris: Selve modellen koster 0 kr. Til gengæld koster driften af de grafikkort (GPU'er), der skal køre modellen, typisk mellem 6.000 og 15.000 kr. om måneden på en cloud-platform som Azure eller AWS for et standard setup.
• Sikkerhed via kontrol: I ved nøjagtigt, hvordan data flyder. Det gør GDPR-dokumentationen lettere at tegne op internt.

Closed Source AI-modeller

Closed source (som OpenAI's GPT-4, Google Gemini eller Anthropic's Claude) svarer til at bo på et hotel. Det virker fra dag ét, I betaler for det, I bruger, men I ejer ikke bygningen.

• Forudsigelig opstart: Det tager erfaringsmæssigt kun 15-25 timer for en udvikler at koble jeres kundeservice- eller regnskabssystem til en closed source model via et API.
• Betal per ord: I betaler typisk brøkdele af ører for hver opgave, modellen løser. Et almindeligt forbrug for et dansk kontorteam på 30 mand lander ofte under 1.500 kr. om måneden totalt for API-kald.
• Leverandørafhængighed: Hvis leverandøren ændrer priser, nedlægger en model eller ændrer deres europæiske datapraksis, rammer det jeres drift direkte.

Hvornår er Open Source AI det bedste valg?

I mange danske SMV'er er open source et fejlskud, fordi det kræver tunge kompetencer. Men der er konkrete situationer, hvor det er den eneste rigtige vej.

Når jeres data absolut ikke må deles eksternt

Hvis I håndterer dybt fortrolige oplysninger, som advokatfirmaer, der læser klientsager, eller en produktionsvirksomhed, der vil analysere patenter og maskintegninger, falder valget ofte på open source. Ved at downloade modellen og køre den lokalt på jeres egne servere, undgår I databehandleraftaler med amerikanske tech-giganter.

Storskala integration i kerneprodukter

Udvikler I jeres egen software, som I sælger videre som abonnement (SaaS)? Hvis jeres platform skal processere titusindvis af tekster i timen for jeres brugere, kan det faktureres per API-kald i en lukkede model gribe voldsomt om sig. Her kan en intern, gratis open source model, på trods af en engangsinvestering på ofte 100-300 udviklertimer, betale sig hjem inden for det første år.

Eksempler på anvendelse

• Isolerede vidensbaser: At bygge en lukket infrastruktur til en meget specialiseret chatbot til kundeservice, der udelukkende trækker på virksomhedens egne, lukkede procedurer.
• Sikker behandling af persondata: Lokale modeller til mønstergenkendelse i kundedata, hvor en HR- eller finansafdeling behandler data, der ikke må sendes til en cloud-leverandør.

Hvornår er Closed Source AI at foretrække?

For langt størstedelen af de danske virksomheder, vi rådgiver, er lukkede kommercielle modeller den mest fornuftige vej. Årsagen er simpel: De færreste virksomheder har en fuldtids AI-ingeniør ansat.

Hurtig opstart via dansk standardsoftware

Hvis I sidder med systemer som e-conomic, Business Central, Shopify eller Zendesk, har disse ofte allerede bygget broerne ind til closed source AI (som OpenAI's infrastruktur). I skal ikke opstille og justere en model – I betaler blot for at åbne for funktionaliteten. Dette holder tidsforbruget nede og gør det praktisk muligt at komme i gang med AI-implementering uden store IT-budgetter.

Minimalt internt vedligehold

Når en open source model bliver forældet eller får et sikkerhedshul, er det jeres (eller jeres IT-konsulents) job at opgradere den. Det kan nemt kræve 10-15 konsulenttimer hver anden måned. Med en closed source model fra fx Google eller Microsoft sker opdateringen i baggrunden, uden at det koster ekstra timer på jeres faktura.

Eksempler på anvendelse

• Tekst- og indholdsproduktion: Brug af modeller til at generere udkast til blogindlæg, annoncetekster eller sociale medieopslag – opgaver, der sjældent indeholder forretningskritisk persondata.
• Håndtering af mails og møder: At koble e-mail-systemet til en API, der sørger for opsummering af møder inden for få sekunder.
• Forbedret kundesupport: Automatisering af rutinespørgsmål fra kunder for at fastholde lave svartider uden at ansætte mere personale.

Faldgruber og hvornår det går galt (En sag fra virkeligheden)

Vi advarer ofte mod "byg selv"-fælden ved open source for mindre teams. Et konkret eksempel fra vores rådgivning var en dansk logistikvirksomhed med 45 ansatte. De ønskede at udtrække præcise produktdata fra PDF-fakturaer og lægge dem ind i deres Business Central ERP-system.

Fordi de frygtede at dele leverandørpriser, insisterede de på en open source model (Mistral), som deres eksterne hus-udvikler skulle installere og tilpasse på deres egne servere. Efter omtrent 150 konsulenttimer (en udgift i omegnen af 130.000 kr.) og en månedlig ekstra serverregning fra Microsoft Azure på 8.000 kr., kørte systemet – men det var ustabilt, og modellen fortolkede adresser forkert.

Problemet var, at opgaven slet ikke krævede den dyre privatlivssikring, da fakturaerne i praksis ikke indeholdt personfølsom GDPR-data, og priserne allerede deltes digitalt via standardiserede NemHandel/Peppol XML-formater. Vi hjalp dem med at skrotte løsningen og gik i stedet over til Microsofts lukkede infrastruktur (Azure OpenAI Services). Den opfyldte stadig erhvervskrav til sikkerhed, kørte fuldstændig stabilt og reducerede deres faste udgift til ca. 900 kr. om måneden baseret på et præcist brug af API-kald.

Sikkerheds- og databeskyttelsesaspekter

Uanset teknologivalget afhænger jeres beslutning primært af dataklassificeringen. Har I styr på sikkerheden?

Open Source

Hvis udgangspunktet er open source, bygger sikkerheden på jeres netværk. Hvis modellen kører via on-premise udstyr på et kontor i Vejle eller i et lukket cloud-miljø, vil data ikke blive brugt til at træne model-leverandørens næste version. Ansvaret flyttes dermed 100 % fra leverandøren og over på jeres egen IT-politik.

Closed Source

Hvis I sender data ud af huset til et API, f.eks. direkte til ChatGPT, er den helt store opgave formalia og databehandleraftaler (DPA). Det er en klassisk fodfejl blot at tilmelde virksomheden med et firmakort og godkende standardbetingelserne. Erhvervsaftaler (som Microsoft Copilot for Microsoft 365 eller Teams Enterprise-licenser) garanterer ofte indenfor EU, at data hverken danner grundlag for nye globale modeller eller gemmes uden for jeres lukkede kontoflow. Det er essentielt at sætte sig ind i reglerne omkring AI og kundedata: hvad må man bruge?

Beslutningsmatrix: Tjekliste til jeres valg

For hurtigt at afklare hvilket spor, der passer til formålet, anbefaler vi at bruge denne simple vurderingsramme, når vi sidder med ledelsen:

Kompetencer og ressourcer

Uanset om valget lander på en åben eller lukket aftale, kræver begge scenarier resurser, bare i meget forskellige skuffer.

Open Source

Dette spor er reelt et software-projekt. Jeres team skal mestre:

• Integration og opbygning lokalt.
• Overvågning (vedligehold).
• Drift af hardware (ofte konfiguration af store sky-miljøer med GPU'er).

Er disse folk ikke på lønningslisten i dag, kan opgaven hurtigt blive dyr at outsource. Vil I alligevel kigge denne vej, så udnyt muligheder for AI-rådgivning hos eksterne specialister under processen.

Closed Source

Her ligger tyngden på forretningssiden frem for i maskinrummet:

• Forretningsforståelse: Identifikationen af, hvor i virksomheden API-kaldet gør en målbar forskel.
• Processtyring: Hvordan ansatte lærer at benytte systemerne, uden at gøre sårbarheder værre.

Hybrid tilgang: Kan det kombineres?

For mange virksomheder med mere end 50 medarbejdere ender virkeligheden oftest med en hybrid opdeling, da afdelingerne har forskellige krav.

• Brug en specialtilrettet, lokalt kørt open source model i finansafdelingen til sortering og analyse af lukkede ansættelseskontrakter.
• Brug en closed source integration i markedsføringsafdelingen til generel research til kampagneforberedelse, da hurtighed her trumfer ekstrem dataskjul.

Den rette adskillelse af processer giver medarbejderne fleksibilitet og fjerner frygten fra bestyrelseslokalet i udvalgte, sikre lommer af virksomheden.

Konklusion og anbefalinger

Fremfor blindt at implementere ny teknologi, skal I vurdere valg af AI-model på baggrund af interne arbejdsgange, systemkrav og de data, I håndterer til daglig.

• Start simpelt: Byg ikke en kompliceret lokal AI-server, hvis jeres reelle problem blot er at sortere i 150 indgående daglige henvendelser. Start i stedet med det lukkede miljø, indtil smertegrænsen er testet af i praksis.
• Regn i timer, ikke kun licenser: At en licens er gratis betyder ikke, at løsningen er omkostningsfri. Sammenlign altid leverandørens fastpris med antallet af konsultent-timer, et "gratis" opsæt vil kræve.
• Kend jeres datakrav: Adskil jeres dokumenter. Der er stor lovgivningsmæssig forskel på at udtrække informationer, en kollega har sendt på mail, og på en detaljeret ordrehistorik inklusiv CPR- og kortdata fra en slutkunde, der falder under persondataforordningen.

Hos Optify har vi konsulenter siddende med erfaringen fra både leverandøraftaler og opsætning hos danske virksomheder fra byggebranchen til e-handlere. Vi kigger gerne på jeres eksisterende infrastruktur som e-conomic eller Shopify setups og rådgiver direkte omkring, hvad der giver praktisk værdi på bundlinjen.

Book et strategisk møde, hvis I har brug for konkret rådgivning omkring jeres model-infrastruktur og GDPR-linjer.