Wat zijn deepfakes? | Online Veilig door ESET

Stel je voor, op een dag lacht een groep kinderen je uit, en je begrijpt niet helemaal waarom. Dan laten ze je een video zien waarin jouw gezicht op het lichaam van de hoofdpersoon uit de film Forrest Gump is gezet. De video is natuurlijk nep, want het is een deepfake. Wat zijn deepfakes en hoe kunnen zij een rol spelen in het leven van kinderen?

Nu de technologie zich razendsnel ontwikkelt, wordt het steeds moeilijker om de grens tussen een waarheid en een leugen te bepalen. Als gevolg daarvan wordt het steeds gemakkelijker om technologie te misbruiken voor schadelijke activiteiten, zoals pesten. Leer deepfakes herkennen en ontdek hoe je er met kinderen over kunt praten.

Wat is een deepfake?

Deepfakes maken gebruik van deep learning (een vorm van machine learningOntwikkeling van technieken waarmee computers kunnen leren.) om foto’s, video’s of geluiden te maken die bepaalde gebeurtenissen faken (nadoen) – hier komt ook de naam vandaan. Meestal dupliceren ze iemands stem en/of gezichtsuitdrukking en plakken die op een bestaande opname of foto. Het resultaat hiervan is dat mensen worden afgebeeld in situaties waarin ze nooit echt betrokken waren. Dit is ook de reden waarom deepfakes tegen mensen kunnen, en ook vaak worden gebruikt, om hen belachelijk te maken of mee te pesten.

Eenvoudige deepfakes kunnen gemakkelijk worden gemaakt met mobiele apps, zoals FaceSwap, maar de meer complexe deepfakes vereisen vaak enige vaardigheid en bepaalde technische apparatuur. Als gevolg daarvan kunnen we ook video’s tegenkomen van bijvoorbeeld Mark Zuckerberg die spreekt over het stelen van gegevens van mensen, of Tom Cruise die goocheltrucs doet. Hoewel ze er overtuigend uitzien, zijn deze video’s niet echt – het zijn gewoon goed gemaakte deepfakes. Hieronder zie je een voorbeeld van een dergelijke realistische deepfake.

Negatief en positief gebruik van deepfakes

In het begin ging het bij de meeste deepfakes om pornografische inhoud, en deze trend zet zich helaas tot op de dag van vandaag voort. In 2019 zocht een AI-bedrijf Deeptrace het internet af naar deepfake-video’s en ontdekte dat 96% van de deepfakes online pornografische inhoud bevatte. De kwestie van illegale deepfake pornografie moet juridisch nog worden opgelost. Deepfakes werden vroeger ook als wapen gebruikt om mensen mee te belasteren en hun carrière te schaden. Maar terwijl de media vaak aandacht besteden aan deze situaties, zijn discussies over hoe deepfakes kinderen in gevaar kunnen brengen zeldzaam.

Met de ontwikkeling van apps die deepfakes toegankelijk maken voor allerlei mensen, hebben de samengevoegde video’s hun weg gevonden naar scholen en zijn ze een hulpmiddel voor pesten geworden. Hoe ziet dit eruit? Stel je bijvoorbeeld eens voor dat je het gezicht van een verlegen meisje in een videoclip zet van schaars geklede vrouwen die uitdagend dansen. Hoewel de makers van dergelijke video’s hun acties misschien zien als een onschuldige bron van vermaak, kunnen de gecreëerde deepfakes ervoor zorgen dat het beoogde kind zich schaamt, en hun relatie met school kan gemakkelijk beschadigd worden door deze onaangename ervaring.

Deepfakes kunnen ook voor positieve doeleinden worden gebruikt. Zo kunnen ze kinderen in staat stellen sterren te worden van hun favoriete shows, videospelletjes en films. Het Dalí Museum in Florida heeft deepfake gebruikt om interactieve video’s van de Catalaanse kunstenaar te genereren. De deepfake Dalí kan nu de bezoekers begroeten en zelfs op hen reageren, waardoor het museum aantrekkelijker wordt voor een jong publiek. Over het algemeen zou het, net als bij andere technologieën, kortzichtig zijn om deepfakes als puur kwaad te beoordelen zonder de mogelijke voordelen ervan in overweging te nemen. Toch zijn er stappen die moeten worden ondernomen om het kwaadwillig gebruik van deepfakes tegen kinderen te voorkomen.

Hoe kun je met kinderen praten over deepfakes?

1. Bekijk samen enkele van de deepfake-video’s en begin een gesprek.

Tegenwoordig staan kinderen vaak veel dichter bij technologie dan volwassenen, dus het zal je misschien verbazen hoeveel ze al weten over de onbetrouwbaarheid van content op het internet. Toch is de eerste stap in het voorkomen van misbruik van deepfakes, de tijd nemen om samen met je kinderen deepfake-video’s te bekijken en het probleem samen te onderzoeken.

Je kunt het gesprek aangaan waarom deepfake-video’s bestaan en waar ze voor kunnen worden gebruikt. Deel met hen jouw eigen mening over de video’s. Praat over verantwoordelijkheid en toestemming – leg uit waarom we iemands gezicht of stem alleen mogen gebruiken met zijn of haar toestemming. Creëer een ruimte waarin het veilig is om te praten, en vertel je kind dat als ze ooit te maken krijgen met het gebruik van deepfakes voor pesten, ze je dat kunnen laten weten. Zorg ervoor dat kinderen weten met wie ze contact kunnen opnemen in geval van nood – niet alleen met hun familie, maar ook met bepaalde instanties op hun school.

2. Probeer samen de verschillen te zien tussen deepfake en echte video’s.

Het wordt steeds moeilijker om een deepfake te herkennen; maar toch kunnen sommige kenmerken de neppe video’s onderscheiden van de echte:

Let allereerst op ongewone bewegingen, zoals onnatuurlijk knipperen.
Deepfake-video’s hebben vaak problemen met het namaken van de subtielere fysieke kenmerken: de audio komt misschien niet helemaal overeen met de beweging van de lippen van de persoon, en er kunnen haperingen zijn langs de lijnen van het gezicht van de persoon of dicht bij de haarlijn.
Er zijn ook veel voorkomende afwijkingen in de belichting – het gezicht kan lichter/donkerder zijn dan het lichaam of er kan een ongewone schaduw zijn.

Maar sommige van deze fouten zullen binnenkort misschien niet meer op te merken zijn, omdat de technologie zich snel blijft ontwikkelen.

Tenslotte, kijk naar de inhoud. Als de woorden die uit de mond van de persoon komen schandalig zijn, moeilijk te geloven of duidelijk op een manier zijn gebracht om een emotionele reactie op te roepen, is er een grotere kans dat de video een deepfake is.

Bekijk ook eens dit artikel, over hoe je nepnieuws kunt herkennen.

3. Praat met kinderen over online zijn.

Wanneer kinderen hun foto’s en video’s op internet zetten, kunnen ze onbewust alles delen wat nodig is om een deepfake-video van hen te maken. Praat met hen over wat ze delen en welke sociale media of apps zij gebruiken. Hoewel grotere platforms geavanceerde privacyinstellingen kunnen hebben, beschermen sommige nieuwere of minder bekende social media-apps of -websites de privacy van kinderen mogelijk niet.

Verklein de kans op misbruik van de foto’s die zij plaatsen, door hen bijvoorbeeld te adviseren alleen goede bekenden toe te voegen op hun social media kanalen. Door mogelijkheden aan te reiken in plaats van te oordelen, en vervangingen te bedenken in plaats van te verbieden, kun je de bescherming van je kind wat verlichten.

4. Ga samen op zoek naar preventieve maatregelen.

Verken ten slotte samen met je kinderen het internet en maak kennis met de wereld waarin zij terechtkomen. Respecteer de privacy van je kind, maar vraag hen misschien om samen met jou door hun sociale media te scrollen om te zien wat voor soort inhoud ze consumeren.

Als je kinderen besluiten apps te gebruiken waarmee ze deepfakes kunnen maken, zoals FaceApp of FaceSwap, probeer ze dan samen uit en gebruik de app voor vermaak, bewustwording en educatie, niet om anderen belachelijk te maken. Ondanks het mogelijke misbruik kunnen deepfakes een goede manier zijn om de mogelijkheden van technologie aan kinderen uit te leggen en misschien om dieper in te gaan op hoaxes en nepnieuws.