Penetrationtest

AI i penetrationstesten: hvad AI‑baserede testydelser kan dokumentere, og hvad I skal spørge om

AI i penetrationstesten: hvad AI-baserede testydelser kan dokumentere, og hvad I skal spørge om

Når et tilbud kalder testen AI-drevet eller autonom, ved køberen endnu ikke, hvad der faktisk bliver gjort, af hvem, og med hvilke af jeres oplysninger. Vurderingen hviler på fire spørgsmål: hvad er automatiseret, hvem står inde for fundene, hvordan skelner rapporten mellem maskinens output og testerens vurdering, og hvor sendes jeres data hen. Får I klare svar på de fire, kan tilbuddet sammenlignes med andre. Får I kun ordet AI, kan det ikke.

Spørgsmålene tager ikke stilling til, om AI gør en test bedre eller dårligere. De handler om, hvad I kan dokumentere bagefter, og om I har styr på de risici, et nyt redskab tilføjer.

Hvad etiketten dækker over

AI kan betyde vidt forskellige ting i et tilbud. Det kan være et redskab, testeren bruger til at sortere store mængder data eller skrive udkast til rapporten. Det kan også være et system, der selv vælger og udfører handlinger mod jeres systemer med begrænset menneskelig indblanding. For køberen er forskellen afgørende, fordi den bestemmer, hvem der træffer beslutningerne under testen.

Cloud Security Alliance har i en rapport fra 2024 beskrevet, hvordan sprogmodeller kan indgå i offensivt sikkerhedsarbejde, og rapporten har et selvstændigt afsnit om begrænsningerne. Brug den som baggrund for jeres spørgsmål, ikke som bevis for, at en bestemt ydelse virker.

Bed derfor tilbudsgiveren beskrive med almindelige ord, hvilke dele af opgaven en maskine udfører, hvilke en person udfører, og hvor personen griber ind. Den generelle forskel mellem automatiske kontroller og faglig vurdering er beskrevet i → Automatisk eller manuel penetrationstest

Hvem står inde for et fund?

Et fund i rapporten bør have en person bag sig, som har kontrolleret det og kan forklare det. Et maskinforslag kan lyde sikkert uden at være efterprøvet, og en lang liste med markeringer siger ikke noget om, hvor stor en del af dem der holder.

Spørg, om hvert rapporteret fund er bekræftet af en tester, og hvordan bekræftelsen er dokumenteret. Spørg også, hvad der sker med de markeringer, der ikke kunne bekræftes: bliver de fjernet, eller står de i et bilag med en tydelig status? Svaret viser, om I modtager en vurdering eller en rå liste. → Falske positiver i en penetrationstest

Navngiv den ansvarlige tester i aftalen. Hvis ingen person kan stå inde for konklusionen, er det svært at bruge rapporten over for en kunde, en revisor eller jeres egen ledelse.

Rapporten skal vise, hvad maskinen gjorde

En brugbar rapport gør det muligt at se, hvilke resultater der stammer fra et automatiseret forløb, og hvilke der bygger på testerens egen undersøgelse. Forskellen har betydning, når I skal vurdere, hvor sikkert et fund er, og når I senere skal sammenligne med en ny test.

Vurderingen af betydningen for jeres forretning bør komme fra en person, der kender opgaven. En maskine kan beskrive en svaghed i kundeportalen, men den ved ikke, at netop den funktion viser kundernes kontrakter, eller at webshoppen har sin travleste uge lige nu. Bed om et anonymiseret rapporteksempel, hvor det fremgår, hvordan maskinens output og testerens vurdering er adskilt. → Dokumentation af fund

Afklar også, om rapportteksten er skrevet med hjælp fra en sprogmodel, og hvem der har læst den igennem. Det er ikke et problem i sig selv, men nogen skal have ansvaret for, at teksten passer til de faktiske fund.

Grænserne gælder også for maskinen

En test har et scope, et testvindue og regler for, hvad der må ske. Et system, der selv vælger handlinger, skal holde sig inden for de samme rammer som en person. Spørg, hvordan det sikres teknisk og organisatorisk, at systemet kun rammer de aftalte adresser og systemer, og at det stopper ved testvinduets slutning.

Spørg også, hvem der overvåger systemet, mens det kører, og hvordan det standses, hvis ERP-systemet bliver ustabilt, eller hvis driftsleverandøren melder om uventet trafik. Kontaktvejen og stopreglerne skal stå i spillereglerne, uanset hvor meget af arbejdet der er automatiseret. → Rules of engagement

Tilladelsen fra jer og fra eventuelle leverandører skal dække det, der faktisk sker. Hvis en maskine kan udvide sin egen søgning, skal aftalen sige, hvor grænsen går, og hvem der godkender en udvidelse.

Jeres oplysninger i AI-tjenester

En test samler oplysninger, som I ellers holder tæt: systemernes opbygning, brugernavne, skærmbilleder og beskrivelser af svagheder. Hvis tilbudsgiveren bruger AI-tjenester hos en tredjepart, kan de oplysninger forlade tilbudsgiverens eget miljø.

Bed om skriftlige svar på, hvor data behandles, om tjenesten gemmer forespørgsler og svar, om jeres data kan bruges til at forbedre tjenestens modeller, og hvordan sletning bekræftes. Indgår personoplysninger, er det en sag for jeres databeskyttelsesrådgiver at vurdere rollerne og kravene. Teksten er ikke juridisk rådgivning. Fortrolighedsaftalen kan med fordel nævne AI-tjenesterne udtrykkeligt. → Fortrolighedsaftale ved penetrationstest

Trusselsbilledet afgør ikke valget af ydelse

Den britiske myndighed NCSC vurderede i 2024, at AI næsten med sikkerhed vil øge omfanget og virkningen af cyberangreb i de følgende to år, blandt andet ved at gøre rekognoscering og social engineering lettere. Det er et argument for at tage sikkerhedstest alvorligt. Det er ikke et argument for, at en bestemt AI-baseret ydelse giver et bedre svar på jeres spørgsmål.

Vælg ydelsen ud fra det spørgsmål, testen skal besvare, og den dokumentation, I har brug for. Sammenlign derefter tilbuddene på scope, verifikation og rapport. → Sammenlign tilbud på penetrationstest

Det skal I lade være med

  • At købe ordet AI · bed om en beskrivelse af, hvad maskinen gør, og hvad personen gør.
  • At acceptere fund uden en ansvarlig person · hvert fund skal kunne forklares af en navngiven tester.
  • At tælle markeringer som dækning · en lang række maskinforslag er ikke det samme som bekræftede fund.
  • At glemme stopreglerne · et automatiseret forløb skal kunne standses lige så hurtigt som en person.
  • At overse, hvor data sendes hen · spørg til hver AI-tjeneste, der kan få adgang til jeres oplysninger.
  • At lade trusselsbilledet vælge for jer · angribernes brug af AI siger intet om kvaliteten af et konkret tilbud.

Hvad kan og ikke kan konkluderes

En AI-baseret test kan dokumentere resultatet af de handlinger, der faktisk blev udført, på de systemer, der var i scope, i den periode, testen kørte. Er fundene bekræftet af en tester, og er maskinens og personens bidrag adskilt i rapporten, kan resultatet bruges på samme måde som andre testrapporter.

Det kan ikke konkluderes, at en test er grundigere, fordi den er automatiseret, eller mindre værd, fordi den bruger AI. Ingen fund betyder heller ikke, at systemet er uden svagheder. Konklusionen er begrænset af scope, tid, adgang og de kontroller, der blev udført.

Spørgsmål til tilbudsgiveren

  • ☐ Hvilke dele af opgaven udfører en maskine, og hvilke udfører en person?
  • ☐ Er hvert rapporteret fund bekræftet af en navngiven tester?
  • ☐ Hvordan behandles markeringer, der ikke kunne bekræftes?
  • ☐ Viser rapporten, hvad der stammer fra maskinen, og hvad der er testerens vurdering?
  • ☐ Hvordan holdes et automatiseret forløb inden for scope og testvindue, og hvem kan stoppe det?
  • ☐ Hvilke AI-tjenester får adgang til jeres oplysninger, og hvor behandles de?
  • ☐ Bruges jeres data til at forbedre en tjenestes modeller, og hvordan bekræftes sletning?
  • ☐ Nævner fortrolighedsaftalen AI-tjenesterne?

Kilder

Senest gennemgået: oktober 2026.

Næste skridt

Del af: Artikler om penetrationstest

Læs også: AI-chatbot på hjemmesiden · Opgavebeskrivelsen

→ Kontakt · Tlf. 70 13 63 23 · Penetrationstest hos Nielco IT

Skrevet af John Nielsen, indehaver af Nielco IT. Selvstændig siden 2009 og mere end 30 års erfaring med IT‑sikkerhed. Om John Nielsen · LinkedIn

John Nielsen, Nielco IT

Skal I have testet noget?

Fortæl kort, hvad I vil have testet, og hvornår I skal bruge resultatet. Så vender jeg tilbage. Testen og rådgivningen er uvildige og uafhængige, og Nielco IT har ikke indgået forhandleraftaler med leverandører.

Tak for din henvendelse. Jeg vender tilbage hurtigst muligt.