Sikker AI-implementering: En praktisk guide for norske bedrifter
Lær hvordan du implementerer kunstig intelligens på en sikker og ansvarlig måte. Vi dekker alt fra risikovurdering til beste praksis for datasikkerhet.
Kort fortalt
- Start med en risikovurdering: hva skal AI-en gjøre, hvilke data får den se, og hva skjer hvis den tar feil?
- Gi AI-verktøy og agenter bare de tilgangene oppgaven krever. Rydd i delingen i SharePoint og Teams før dere slår på Copilot.
- Ha databehandleravtale, vit hvor dataene behandles, og ikke lim inn personopplysninger i gratisverktøy.
- AI kan styrke IT-sikkerheten, men erstatter ikke grunnmuren: oppdateringer, tofaktorinnlogging og sikkerhetskopier som er testet.
- GDPR gjelder allerede. KI-forordningen kommer til Norge gjennom EØS-avtalen.
Introduksjon til sikker AI-implementering
Kunstig intelligens har gått fra å være en fremtidsteknologi til å bli et kritisk verktøy for norske bedrifter. Men med store muligheter kommer også betydelig ansvar. Sikker AI-implementering handler ikke bare om teknisk sikkerhet. Det handler også om å bygge systemer som er pålitelige, etiske og i samsvar med gjeldende regelverk.
I denne guiden tar vi deg gjennom de viktigste aspektene ved sikker AI-implementering, fra innledende risikovurdering til løpende overvåking og forbedring.
Kan AI også gjøre IT-sikkerheten bedre?
Ja, men som et tillegg, ikke en erstatning. Mange sikkerhetsverktøy bruker allerede AI til å oppdage uvanlig aktivitet i logger, filtrere ut svindel- og phishing-e-post og sortere varsler, slik at de viktigste blir sett først. Det kan gi et lite IT-miljø bedre oversikt enn det ellers ville hatt.
Konkret kan AI hjelpe med dette:
- Logger og varsler: Verktøyet lærer hva som er vanlig, og sier fra når noe skiller seg ut, for eksempel en innlogging fra et uvanlig land eller midt på natten.
- E-post: Svindel- og phishing-e-post blir fanget opp før de ansatte ser den, også når teksten er godt skrevet.
- Sortering: Mange like varsler blir slått sammen og rangert, slik at de viktigste blir sett først.
- Spørsmål på vanlig norsk: Den som har ansvaret for IT, kan spørre hva som har skjedd, i stedet for å lete gjennom loggene selv.
Angriperne bruker også AI. Svindel-e-post er bedre skrevet enn før, og falske stemmer og videoer kan brukes til å lure ansatte til å betale eller dele passord. Les mer om hvordan bedriften kan ruste seg mot KI-drevne angrep.
Grunnmuren er likevel den samme som før: oppdaterte systemer, tofaktorinnlogging, sikkerhetskopier som er testet, og tilganger som er begrenset til det hver ansatt trenger. AI gjør mest nytte når dette allerede er på plass. Et godt sted å begynne er NSMs grunnprinsipper for IKT-sikkerhet. De er gratis og skrevet for norske virksomheter.
Risikovurdering: Første steg mot sikker AI
Før du implementerer AI i din organisasjon, er det essensielt å gjennomføre en grundig risikovurdering. Dette innebærer:
1. Kartlegging av bruksområder
Identifiser nøyaktig hvordan AI-systemet skal brukes. Spør deg selv:
- Hvilke beslutninger skal AI-systemet støtte eller ta?
- Hvem blir påvirket av disse beslutningene?
- Hva er konsekvensene av feil eller bias i systemet?
2. Dataklassifisering
Forstå hvilke data som skal brukes:
- Inneholder dataene personopplysninger?
- Er det sensitive kategorier som helse, økonomi eller politiske meninger?
- Hvor kommer dataene fra, og har du rett til å bruke dem?
3. Trusselmodellering
Vurder potensielle trusler mot systemet:
- Manipulerte data som får modellen til å svare feil eller ta gale valg
- Datalekkasje gjennom det modellen svarer
- Misbruk av systemet til noe det ikke var ment for
- Skjulte instruksjoner i dokumenter, e-post eller nettsider som AI-en leser (indirekte prompt injection)
- Agenter som har flere tilganger enn oppgaven krever. Les mer om hvordan vi setter grenser for agenter.
Tekniske sikkerhetstiltak
Når risikovurderingen er gjennomført, kan du implementere passende sikkerhetstiltak:
Tilgangskontroll
Implementer streng tilgangskontroll med prinsippet om minste privilegium. Ikke alle ansatte trenger tilgang til alle AI-funksjoner. Bruk rollebasert tilgangsstyring (RBAC) og logg all aktivitet.
Husk også at AI-assistenter som Microsoft 365 Copilot bruker de tilgangene den ansatte allerede har. Det som er delt for bredt i SharePoint og Teams, kan derfor dukke opp i svarene. Gå gjennom delingen før dere slår på Copilot. Les mer om hvordan vi setter opp Copilot.
Datakryptering og hvor dataene behandles
Krypter data både når de lagres og når de sendes. For særlig sensitive data er det minst like viktig å vite hvor de behandles:
- Velg tjenester der dere har en databehandleravtale og vet hvor dataene lagres
- Ikke lim inn personopplysninger eller forretningshemmeligheter i gratisverktøy
- Vurder å kjøre modellen lokalt eller i et driftsmiljø i Norge eller EU. Les mer om lokal og norsk AI.
Kontroll av det som går inn
Kontroller det som sendes inn til AI-systemet, for å hindre:
- Prompt injection, der noen prøver å overstyre instruksjonene AI-en har fått
- Forgiftede data, der noen legger inn feil informasjon som AI-en lærer av eller henter svar fra
- Overbelastningsangrep
Regelverk og etikk
Sikker AI handler også om etterlevelse av lover og etiske retningslinjer:
GDPR-krav
For AI-systemer som behandler personopplysninger må du:
- Ha lovlig grunnlag for behandlingen
- Informere de registrerte om behandlingen, også når AI brukes
- Sikre at en beslutning med rettslig eller tilsvarende betydelig virkning ikke tas helautomatisk uten at personen kan be om menneskelig vurdering (artikkel 22)
- Gjennomføre DPIA (Data Protection Impact Assessment) ved høy risiko
- Inngå databehandleravtale med leverandøren av AI-tjenesten
KI-forordningen (EU AI Act)
KI-forordningen ble vedtatt i 2024 og innføres trinnvis frem mot august 2028. Fra 2. august 2026 gjelder åpenhetskravene: chatboter skal si at de er KI, innhold laget av KI skal ha en markør som maskiner kan lese, og deepfakes skal merkes synlig. Norge har ennå ingen egen KI-lov, men reglene gjelder allerede for systemer som brukes i EU-markedet.
Forordningen klassifiserer AI-systemer etter risiko. Høyrisiko-systemer, som de som brukes i ansettelse, kredittbeslutninger eller tilgang til offentlige tjenester, har strenge krav til:
- Risikovurdering og -styring
- Datakvalitet og dokumentasjon
- Transparens og forklarbarhet
- Menneskelig oversikt
Les mer om hva GDPR og KI-forordningen krever, og hva som gjelder i Norge.
Beste praksis for implementering
Start smått
Begynn med et avgrenset pilotprosjekt før du skalerer. Dette lar deg identifisere utfordringer tidlig og bygge intern kompetanse.
Bygg tverrfaglige team
Sikker AI krever samarbeid mellom:
- Den som kan teknikken
- Den som kan jus og personvern
- Den som eier arbeidsoppgaven
- Den som har ansvaret for etterlevelse
I en liten bedrift kan det være to eller tre personer, eller én ekstern rådgiver.
Dokumenter alt
Oppretthold detaljert dokumentasjon av:
- Modellens treningsdata og metodikk
- Ytelsesmålinger og begrensninger
- Risikovurderinger og tiltak
- Hendelser og respons
Kontinuerlig overvåking
AI-systemer kan degradere over tid eller møte nye trusler. Implementer:
- Automatisk ytelsesovervåking
- Varsel når dataene eller bruken endrer seg over tid
- Regelmessig sikkerhetsgjennomgang
- Oppdaterte trusselanalyser
Sjekkliste: ti spørsmål før dere tar i bruk AI
- Hva skal AI-en gjøre, og hva skal den ikke gjøre?
- Hvilke data får den se, og er det personopplysninger blant dem?
- Har vi databehandleravtale med leverandøren, og vet vi hvor dataene behandles?
- Hvem har tilgang til verktøyet, og er delingen i SharePoint, Teams og fellesmapper ryddet?
- Hva skjer hvis AI-en tar feil, og hvem oppdager det?
- Skal et menneske godkjenne før noe sendes, betales eller slettes?
- Kan noen lure AI-en med skjulte instruksjoner i e-post, dokumenter eller nettsider?
- Logger vi hva AI-en gjør, slik at vi kan se det i etterkant?
- Vet de ansatte hva de kan og ikke kan lime inn?
- Hvem har ansvaret for løsningen, og når går vi gjennom den igjen?
Konklusjon
Sikker AI-implementering er en kontinuerlig prosess, ikke et engangstiltak. Ved å følge beste praksis, holde deg oppdatert på regelverk og bygge en sikkerhetskultur i organisasjonen, kan du utnytte AI-teknologiens potensial samtidig som du beskytter din bedrift og dine kunder.
Vanlige spørsmål
Hvordan kan AI forbedre IT-sikkerheten i en norsk bedrift?
AI kan finne uvanlig aktivitet i logger, fange opp svindel- og phishing-e-post og sortere varsler, slik at de viktigste blir sett først. Det erstatter ikke grunnmuren: oppdaterte systemer, tofaktorinnlogging, sikkerhetskopier som er testet, og tilganger som er begrenset til det hver ansatt trenger.
Er det trygt å bruke ChatGPT eller Copilot med bedriftens data?
Det kan være trygt når dere bruker en bedriftsversjon med databehandleravtale, vet hvor dataene behandles og har ryddet i hvem som har tilgang til hva. Gratisversjoner bør ikke få personopplysninger eller forretningshemmeligheter.
Gjelder KI-forordningen i Norge?
Ikke ennå som norsk lov. Forordningen må først tas inn i EØS-avtalen og norsk lov, og regjeringen sendte et forslag til norsk KI-lov på høring i 2025. Virksomheter som tilbyr eller bruker AI-systemer i EU, må likevel følge reglene der.
Hva er den største risikoen med AI-agenter?
At de får flere tilganger enn oppgaven krever, og at de kan lures av skjulte instruksjoner i e-post, dokumenter eller nettsider. Gi agenten bare de tilgangene den trenger, og la et menneske godkjenne før den sender, betaler eller sletter noe.
Hvor bør vi begynne?
Med én avgrenset oppgave, en enkel risikovurdering og en gjennomgang av hvem som har tilgang til hva. Sjekklisten over er et godt utgangspunkt.
Slik jobber vi hos Skjld Labs
Vi avklarer hvilke data som behandles før vi bygger, dokumenterer hva løsningen gjør og hva den ikke gjør, og tester den mot det vi ble enige om før den tas i bruk. Der en agent svarer eller sender noe, kan et menneske godkjenne først. Som standard kjører alle løsningene vi bygger på egne servere i Sandefjord. Har dere sensitive data, setter vi det opp lokalt hos dere, så dataene ikke forlater kontoret.
Vi er ikke jurister, og sier fra når et spørsmål hører hjemme hos advokat. Les mer om hvordan vi jobber med trygg AI, eller book en gratis samtale på tretti minutter.