Det er blevet let at skabe et billede, en stemme eller en tekst, der ligner noget ægte. Det giver to nye problemer i civile sager. Det ene er, at et fremlagt bevis kan være skabt eller ændret med AI. Det andet er, at en part kan påstå, at et ægte bevis er AI-skabt, for at så tvivl. Begge situationer kræver en metodisk tilgang. Denne artikel handler om advokatens fremgangsmåde. De tekniske metoder er beskrevet på digitalforensics.dk om AI-genereret indhold.
Begynd med kilden, ikke med filen
Det første spørgsmål er ikke, om filen ser kunstig ud. Det er, hvor den kommer fra. Et billede, der er taget med en telefon og ligger på telefonen sammen med andre billeder fra samme dag, har en historie, der kan efterprøves. Et billede, der kun findes som vedhæftet fil i en mail, har ikke.
Spørg derfor:
- Hvem har frembragt materialet, og med hvilken enhed eller tjeneste?
- Findes den oprindelige fil, og hvor ligger den?
- Er der andre filer fra samme enhed og periode, som kan bruges til sammenligning?
- Hvordan er filen nået frem til sagen, og hvem har håndteret den undervejs?
- Findes der uafhængige spor, der bekræfter eller afkræfter indholdet, for eksempel vidner, logs eller andre optagelser?
Svarene afgør ofte mere end en teknisk analyse af filen alene.
Hvad en IT-sagkyndig kan undersøge
En sagkyndig kan typisk se på flere forhold, men ingen af dem giver alene et sikkert svar:
- Metadata i filen · Hvad den kan vise: Enhed, program, tidspunkter og eventuelle redigeringsspor · Begrænsning: Metadata kan mangle, fjernes eller ændres
- Indholdsmærkning · Hvad den kan vise: Om filen bærer oplysninger om AI-værktøj eller redigering · Begrænsning: Mærkningen bruges ikke af alle og kan fjernes
- Sammenligning med andre filer · Hvad den kan vise: Om filen passer ind i mønsteret fra samme enhed · Begrænsning: Kræver adgang til sammenligningsmateriale
- Billed- og lydanalyse · Hvad den kan vise: Uregelmæssigheder i lys, kanter, støj eller komprimering · Begrænsning: Kan give falske udslag begge veje
- Detektionsværktøjer · Hvad den kan vise: En vurdering af sandsynlighed for AI-skabt indhold · Begrænsning: Resultater er usikre og kan ikke stå alene
- Kilden · Hvad den kan vise: Spor på enheden eller kontoen, filen stammer fra · Begrænsning: Kræver adgang til enheden eller kontoen
Den sidste række er ofte den mest værdifulde. Kan det dokumenteres, at billedet blev taget af en bestemt telefon på et bestemt tidspunkt, står det stærkere end en vurdering af pixels. → Fotos og video som bevis
Detektionsværktøjer: forsigtighed
Der findes værktøjer, der lover at afgøre, om et billede, en lyd eller en tekst er AI-skabt. Deres resultater er usikre. Værktøjerne kan markere ægte materiale som kunstigt og omvendt, og de halter efter, hver gang nye AI-modeller kommer til. En procentsats eller en betegnelse som “sandsynligvis AI-skabt” bør derfor læses som en indikation, ikke som en konklusion.
Fremlægger modparten et sådant resultat, er det relevant at spørge, hvilket værktøj og hvilken version der er brugt, hvad værktøjets kendte fejlrate er, og om resultatet er kontrolleret på anden måde. Det samme gælder, hvis klientens egen side overvejer at bruge et sådant værktøj.
Lyd og video
Lyd og video er de typer materiale, hvor AI-manipulation oftest bringes på bane.
Stemmekloning kræver i dag kun korte optagelser af en persons stemme. En lydfil, der påstås at gengive en telefonsamtale eller en talebesked, bør derfor vurderes ud fra konteksten: Findes opkaldet i telefonens opkaldsliste eller i teleselskabets oplysninger? Findes talebeskeden i den app, den angiveligt blev sendt i? Passer tidspunktet med andre spor? → Lydoptagelser som bevis
For video gælder det samme. En video, der er hentet fra et socialt medie, er som regel komprimeret og har mistet sine oprindelige metadata. Den oprindelige fil hos den, der optog videoen, er et langt bedre grundlag for en undersøgelse.
Sikr tidligt
Rejses spørgsmålet om AI-manipulation, er det vigtigt at sikre originalerne hurtigt, både klientens egne og dem, der kan kræves fremlagt fra modparten. Filer bliver komprimeret, når de sendes videre, enheder udskiftes, og konti slettes. Hver ny kopi kan fjerne spor, som en sagkyndig ellers kunne have brugt.
Tekst skrevet med AI
For tekst er det særlig svært. Der findes ingen pålidelig teknisk metode til at fastslå, om en given tekst er skrevet af et menneske eller en AI. Spørgsmålet er sjældent relevant i sig selv. Det relevante er normalt, hvem der har sendt teksten, fra hvilken konto og hvornår. Det kan undersøges med de almindelige metoder for mails og beskeder.
Når klienten påstår, at modpartens bevis er AI-skabt
En indsigelse bør bygge på konkrete forhold og ikke blot på, at det er muligt at lave forfalskninger. Saml først klientens egen viden og egne data: Har klienten en version af samme samtale, et andet billede fra samme situation eller et vidne? Kræv derefter originalen. Uden den kan en sagkyndig sjældent sige meget. → Indsigelse mod et digitalt bevis’ ægthed
Når modparten påstår, at klientens bevis er AI-skabt
Her er forberedelsen den bedste forsvarslinje:
- Bevar den oprindelige fil og enheden, den blev skabt på.
- Dokumentér, hvordan filen er håndteret fra den blev skabt til den blev fremlagt.
- Find relaterede filer fra samme tidspunkt og enhed.
- Overvej en sikring ved en IT-sagkyndig, så kilden kan påvises.
Jo tættere klientens materiale kan føres tilbage til en bestemt enhed og et bestemt tidspunkt, jo sværere er det at så tvivl.
Bevisbyrden
Hvem der skal godtgøre, at et bevis er ægte eller manipuleret, og hvor meget der skal til, er en juridisk vurdering, som afhænger af sagen. Fra IT-siden er pointen, at det sjældent kan fastslås med sikkerhed ud fra filen alene. Det, der kan påvises, er typisk, om filen hænger sammen med en kilde, og om der er tegn på bearbejdning. → Bevisbyrde og digitale beviser
Typiske fejl
- At bestride ægtheden generelt med henvisning til, at AI findes.
- At stole på et enkelt detektionsværktøj som afgørende.
- At glemme at sikre klientens egne originaler og enheder.
- At lade en analyse af en kopi stå i stedet for undersøgelse af kilden.
- At antage, at små grafiske fejl er bevis for manipulation.
Tjekliste
- ☐ Kilden og den oprindelige fil er identificeret
- ☐ Originalen er efterspurgt eller sikret
- ☐ Sammenligningsmateriale fra samme enhed og periode er fundet
- ☐ Uafhængige spor er undersøgt
- ☐ Eventuelle værktøjsresultater er vurderet med forbehold
- ☐ Den juridiske betydning af usikkerheden er vurderet
→ Send en sag · Tlf. 70 13 63 23 · IT-sagkyndig bistand til advokater hos Nielco IT
