Met de opkomst van Artificial Intelligence (AIArtificial Intelligence. Meer), in het Nederlands kunstmatige intelligentieTechnologie waarbij digitale systemen reageren op data, bijvoorbeeld afkomstig uit sensoren, en op basis daarvan zelfstandig acties ondernemen., is het tegenwoordig mogelijk om op een verontrustend realistische manier stemmen na te bootsen. Hoewel dit fenomeen, bekend als voice cloning, beperkingen kent, zijn er enkele potentiële risico’s en gevolgen die we moeten begrijpen, zoals virtuele ontvoering door middel van voice cloning.
Virtuele ontvoering is een zwendel die inspeelt op menselijke angst en paniek. In plaats van fysieke ontvoeringen uit te voeren, proberen oplichters geld af te persen door een overtuigende illusie te creëren, dat er bijvoorbeeld een geliefde is ontvoerd.
De ‘traditionele’ aanpak
Eén van de traditionele methoden van virtuele ontvoering houdt in dat de kwaadwillende het telefoonnummer van het slachtoffer vervalst. Vervolgens wordt een familielid of vriend van het slachtoffer gebeld. Op de achtergrond wordt er chaos en geschreeuw gesimuleerd om het idee te geven dat het slachtoffer in gevaar verkeert. De kwaadwillende vraagt dan om losgeld voor een veilige vrijlating.
Om deze zwendel geloofwaardiger te maken, maken kwaadwillenden vaak gebruik van open-source intelligence (OSINTOpen Source INTelligence.) om informatie te verzamelen over het slachtoffer en zijn contacten. Met OSINTOpen Source INTelligence. verzamel je allerlei informatie uit openbare bronnen. Denk aan nieuws, sociale media, websites – alles wat mensen vrijwillig delen. In sommige gevallen kan de informatie verkeerd gebruikt worden, als het in verkeerde handen valt. In dit geval wordt de informatie namelijk ingezet om de zwendel overtuigender te maken, bijvoorbeeld door zich te richten op personen die volgens sociale mediaberichten onderweg zijn of zich buiten hun normale omgeving bevinden.
Geavanceerde voice cloning
Een meer geavanceerde vorm van virtuele ontvoering draait om het bemachtigen van een opname van iemands stem en het creëren van een kloon met behulp van AIArtificial Intelligence. Meer. De oplichter kan vervolgens familielieden of vrienden van het slachtoffer bellen, zich voordoen als het slachtoffer en bepaalde eisen, zoals geld of crypto1. Cryptografie. 2. Cryptosleutels. Meer, overbrengen.
De haalbaarheid
Om aan te tonen hoe voice cloning werkt, heeft CEO van ESET in Nederland, Dave Maasland, geëxperimenteerd met gratis AI-audiobewerkingssoftware. Hij liet het fragment horen in een uitzending van Vandaag Inside.
Beperkingen en potentiële risico’s
Veel eerste pogingen tot voice cloning hebben tekortkomingen vertoond in tempo, toon en woordenschat. Toch is het duidelijk dat er potentiële kansen liggen voor misbruik van deze technologie. Kwaadwillenden kunnen virtuele ontvoeringen verder verfijnen door spraakberichten te verzenden met persoonlijke informatie. Deze zijn verkregen via de hiervoor genoemde OSINT-technieken, waardoor de zwendel overtuigender wordt.
Bovendien kunnen bekende personen, zoals leidinggevenden van technologiebedrijven, doelwitten worden van stemdiefstal vanwege hun openbare profiel. Oplichters kunnen hun stemmen stelen en werknemers binnen de organisatie manipuleren om ongewenste acties uit te voeren. Gecombineerd met andere vormen van sociale manipulatie kan dit een krachtig hulpmiddel worden en een uitdaging vormen om mee om te gaan naarmate de technologie vordert.
Moeten we ons zorgen maken?
De opkomst van deze nieuwe aanpak van virtuele ontvoering, waarbij oplichters de illusie van ontvoering creëren zonder daadwerkelijk iemand fysiek te ontvoeren, is een verontrustende ontwikkeling in de wereld van cybercriminaliteitCriminaliteit waarbij men een computersysteem aanvalt of misbruikt voor criminele activiteiten. Er zijn 2 types: 1. Cybercriminaliteit in brede zin. Dit zijn alle strafbare activiteiten.... Het misbruik van AIArtificial Intelligence. Meer voor voice cloning roept ernstige ethische- en veiligheidsvragen op.
Terwijl technologie zich blijft ontwikkelen, is het essentieel voor individuen, organisaties en ontwikkelaars van AI-platforms om waakzaam te blijven. Ook moeten zij zich bewust zijn van het mogelijke misbruik van voice cloning en vergelijkbare technologieën. Bescherming van persoonlijke informatie en voorzichtigheid bij het delen van gegevens online kunnen helpen bij het beperken van de risico’s van voice cloning en virtuele ontvoeringen. Ook het implementeren van robuuste beveiligingsmaatregelen en trainingen helpen mee.
In dit artikel lees je meer over wat je kunt doen tegen de gevaren van voice cloning.
