I ein ny kampanjevideo frå Medietilsynet har Abid Raja frivillig late seg deepfake for å demonstrere kor lett ein kan bli lurt av bilete, lyd og video.
– Målet med videoen er å vise at denne teknologien er utbreidd og lett tilgjengeleg, og at kjeldekritikk derfor er endå viktigare og vanskelegare enn før, seier Mari Velsand, direktør i Medietilsynet.
Deepfake
- «Deepfake» blir brukt som eit samleomgrep på bilete, video og lyd framstilt ved hjelp av maskinlæring, altså kunstig intelligens.
- Typiske bruksområde er å byte ut ansikt eller å lage syntetiske stemmer som til forveksling liknar personen dei er kopierte frå. Tenk på det som eit Snapchat-filter, berre meir avansert.
- For å lage ein truverdig deepfake er kjeldematerialet viktig. Jo meir høgoppøyseleg bilete, video eller lydmateriale du har av personen som skal forfalskast, jo betre utgangspunkt har du for å bygge den digitale modellen.
- Når den kunstige intelligensen er trena opp med kjeldematerialet, kan han få instruksjonar og spytte ut eit meir eller mindre truverdig resultat, avhengig av kvaliteten på teknologien.
Kilde: telenor.no
Faren er at vi resignerer, og sluttar å tru at noko er sant.
Kan lagast av bestemor
I kampanjevideoen står Abid Raja fram som trønderen Einar frå Byåsen. «Einar» fortel i videoen at Abid Raja berre var ei rolle han tok på seg då han flytta til hovudstaden for å bli kjendis.
Men den som eigentleg blir filma og snakkar er Eskil Sivertsen, spesialrådgivar ved Forsvarets forskingsinstitutt (FFI). Han forskar på propaganda, desinformasjon og påverknad.
– Videoen er laga med programvare som kven som helst kan laste ned frå nett. Du treng ikkje spesielle forkunnskapar. Det var litt av poenget. Det går an å laga betre og meir overtydande deepfakevideoar enn dette, understrekar Sivertsen.
– Vi ønskte å vise kor lett du kan lage noko som er godt nok til å lure nokon på ein mobilskjerm.
https://w.soundcloud.com/player/?visual=true&url=https%3A%2F%2Fapi.soundcloud.com%2Ftracks%2F1589344595&show_artwork=true
På kort tid har kunstig intelligens gitt oss verktøy som gjer det lettare å laga bilete, video og lyd som manipulerer identiteten til andre. I denne episoden av FFis podkast «Ugradert – kort forklart» snakkar spesialrådgivar Eskil Grendahl Sivertsen frå FFI om kva *deepfake er og kvifor det er viktig med kjeldekritikk i møte med dagens medieinnhald.
Teknologien kan bli misbrukt
Kampanjevideoen, som skal gå i sosiale medium fram mot valet hausten 2023, er eit samarbeid mellom Medietilsynet og FFI.
Sivertsen seier at teknologien kan bli brukt til å villeie og feilinformere befolkninga. Den kan bidra til å stadfeste fordommar eller forsterke haldningar.
– Vi ser at det bli stadig meir falskt eller AI-generert innhald på internett, som tek plassen til ekte innhald. Det kan vere vanskeleg å sortere kva som er ekte, både for menneske og maskiner, seier Sivertsen.
– Vi ser mellom anna at falsk innhald har byrja å dukka opp i søkjemotorar viss du søkjer på personar eller omgrep. Dette kan bli ei utfordring på sikt. Faren er at vi resignerer, og sluttar å tru at noko er sant.
Lett å bli lurt
Deepfaking kan også gjerast i sanntid. Med deepfake-teknologi kan du ringe nokon i ein videosamtale og sjå ut som nokon andre og høyrast ut som nokon andre. Så korleis skal vi klare å skilje fake frå ekte i ein slik situasjon? Sivertsen meiner det ikkje finst nokon openberre eller enkle løysingar.
– Det blir jobba med reglar for bruk av teknologien, både i EU og andre stader. Men det vil likevel finnast aktører som bruker deepfake og AI-teknologi til å lage falsk innhald utan å bry seg om reglar, seier Sivertsen.
– Berre dei siste månadene er det skjedd utruleg mykje innanfor denne teknologien. Den viktigaste forsvarsmekanismen vi sit att med er vår eigen kjeldekritikk. Ha det som ein ryggmargsrefleks: Ikkje alt treng å vere slik det verkar. Særleg på internett. Det beste rådet når du ser ein video er å stoppe, tenkje og sjekke. Er dette ekte?
Medietilsynets råd:
Stopp
Vekker saka sterke kjensler?
Verkar saka for utruleg?
Tenk
Trur du på biletet, videoen, lyden? Kan det vere teke ut av samanhengen sin eller manipulert?
Prøver saka å påverke deg?
Sjekk
Finn du saka andre stader?
Veit du kven som står bak?
