My AI: Een virtuele vriend of ‘vijand’? Vijf aandachtspunten voor veilig gebruik.

My AI: Een virtuele vriend of ‘vijand’? Vijf aandachtspunten voor veilig gebruik.

Hoewel een virtuele vriend heel leuk kan zijn, raden wij het gebruik van My AI af. Deze vorm van AI ondermijnt in onze ogen het vertrouwen in technologie en daarmee de vooruitgang die AI ons zou kunnen brengen, mits dit goed in wordt gezet. Ook 113 Zelfmoordpreventie en De Kindertelefoon geven aan te vrezen voor levensbedreigende situaties. 

Snapchat heeft sinds deze week een nieuwe functie: “My AI”. My AI is een chatbot die fungeert als virtuele vriend in de app. De chatbot is aangedreven door ChatGPT en kan de gebruiker helpen met simpele taken zoals het kiezen van een avondmaal of het geven van kledingadvies. My AI heeft ook zijn eigen mening en kan zelfs relatieadvies geven. Klinkt interessant, maar deze nieuwe functie kan ook risico’s met zich meebrengen. Zeker voor jonge gebruikers. In dit artikel geven wij je tips en vertellen wij je waar je op moet letten bij het gebruik van My AI.

Artificial intelligence, kunstmatige intelligentie, of wel AI. Het is de laatste periode een hot topic. Zowel de positieve als minder mooie kanten van de AI chatbot ChatGPT zijn al uitgebreid belicht. ChatGPT krijgt ondertussen zelfs opvolgers en vormt voor sommige functionaliteiten binnen apps de basis, zoals voor My AI op Snapchat. Er is echter een groot verschil tussen ChatGPT en My AI op Snapchat: My AI wordt door Snapchat neergezet als een virtuele vriend die je zelfs een naam kan geven. Hieronder een tweet van een gesprek tussen de chatbot en een AD verslaggever

Ineens wordt het hebben van een zogenaamde ‘virtuele vriend’ wel erg ‘echt’

Je kunt My AI simpele dingen vragen als “Wat zal ik vanavond eten?”, maar je kunt ook foto’s sturen van jezelf en hulp vragen bij je kledingkeuze. My AI geeft hier vervolgens zijn eigen mening over en kan je zelfs complimenten geven.

De nieuwe functie binnen Snapchat is, mede door het populaire karakter van deze social media app, niet onopgemerkt gebleven en heeft al snel voor ophef gezorgd. Zo zijn er situaties beschreven op de website van het AD waarin wordt omschreven hoe My AI zich voordoet als echt persoon en zelfs met de gebruiker van de app een afspraak maakt. Bij de lancering van My AI voor betaalde-accounts in Snapchat, in februari 2023, gaf Snapchat aan dat de AI niet bedoeld is voor het delen van geheimen en vragen om advies. “Zoals alle AI-gestuurde chatbots, is My AI gevoelig voor hallucinaties en kan je hem zo ongeveer alles laten zeggen,” aldus Snapchat.

Vice-voorzitter van de Raad van Toezicht bij Child Helpline International, Corinne Dettmeijer noemt de chatbot beangstigend. Zij geeft aan dat er regels en een strengere controle omtrent social media noodzakelijk zijn en vindt de bot onderdeel van een veel groter probleem: online kindermisbruik.

Eén van onze collega’s probeerde My AI uit en we vroegen haar om haar ervaring: “Het is verontrustend om te ervaren hoe ver deze chatbot gaat. Zo geeft hij bijvoorbeeld relatieadvies, advies over voeding en kan de chatbot zelfs (ongevraagd) met je flirten. Er moet écht rekening gehouden worden met het feit dat deze chatbot geen echt persoon is en dit wel pretendeert te zijn. Een goede uitleg hiervan aan jonge kinderen die veel gebruik maken van snapchat en zich niet bewust zijn van wat de chatbot precies is, is in deze situatie ontzettend belangrijk.”

Hieronder deelt zij enkele screenshots van haar gesprek met My AI.

screenshot ai snapchat
screenshot ai snapchat
screenshot ai snapchat

Waar moet je rekening mee houden bij het gebruik van My AI?

Hoewel een virtuele vriend heel leuk kan zijn, raden wij het gebruik van My AI af. Deze vorm van AI ondermijnt in onze ogen het vertrouwen in technologie en daarmee de vooruitgang die AI ons zou kunnen brengen mits dit goed in wordt gezet.

Mocht je My AI toch willen gebruiken is het belangrijk om een aantal punten in gedachten te houden tijdens gesprekken met My AI.

Wees ervan bewust dat deze chatbot geen echt persoon is.

Het is belangrijk om te onthouden dat My AI geen echt persoon is. Hoewel de chatbot een vriendelijke toon heeft en zelfs een naam kan krijgen, is het belangrijk om voorzichtig te zijn met de informatie die je deelt. De informatie die je deelt met de chatbot wordt bewaard als feedback voor optimalisatie en kan mogelijk worden gebruikt voor andere doeleinden. Het is dus belangrijk om het privacybeleid en de algemene voorwaarden van Snapchat te lezen voordat je de chatbot gaat gebruiken.

Wees ervan bewust dat een AI anders ‘denkt’ dan een mens.

Het kan een eigen mening hebben, maar het is niet in staat om op dezelfde manier te denken als een mens. Het kan bijvoorbeeld ongevraagd met je flirten of advies geven dat niet altijd even passend is. Gebruikers moeten daarom rekening houden met het feit dat de chatbot geen echt persoon is en dat de informatie die ze delen niet altijd goed wordt begrepen.

Monitor het gebruik en deel geen gevoelige en persoonlijke informatie

Voor jonge gebruikers kan het gebruik van My AI verwarrend zijn. Ze kunnen niet begrijpen dat My AI geen echt persoon is en kunnen daarom ongepaste informatie delen. Het is belangrijk dat ouders en voogden kinderen informeren over de chatbot en hen vertellen wat ze wel en niet kunnen delen. Het is ook belangrijk om het gebruik van My AI te monitoren en te controleren om ervoor te zorgen dat kinderen veilig blijven tijdens het gebruik van de app.

Raadpleeg een echt persoon als je advies of hulp nodig hebt.

Hoewel My AI geprogrammeerd is om te reageren op bepaalde vragen en verzoeken, heeft het ook zijn beperkingen. Gebruikers moeten beseffen dat het niet alle antwoorden heeft en dat het niet in staat is om alle problemen op te lossen. Het is belangrijk om geen al te persoonlijke informatie te delen en om een echt mens te raadplegen als je echt advies of hulp nodig hebt.

Controleer de instellingen van jouw Snapchat account

Wil jij bijvoorbeeld niet dat My AI toegang heeft tot jouw contacten vink dan bij je instellingen in Snapchat je contacten uit. Daarnaast kan je in je instellingen ook de chatgeschiedenis met My AI wissen. Hiervoor ga je naar ‘privacybediening’, ‘gegevens wissen’ en klik je vervolgens op ‘My AI chatvragen wissen’.

In conclusie, de lancering van My AI op Snapchat biedt gebruikers nieuwe mogelijkheden om een virtuele vriend te hebben en taken uit te voeren. Het is echter belangrijk om voorzichtig te zijn met de informatie die je deelt met de chatbot. Lees het privacybeleid en de algemene voorwaarden van Snapchat voordat je de chatbot gaat gebruiken. Voor jonge gebruikers is het essentieel dat ouders en voogden hen informeren over, en begeleiden bij, het veilig gebruiken van de app.

Deze artikelen vind je wellicht ook interessant om te lezen:

Wat zijn deepfakes? | Online Veilig door ESET

Ga bewust om met AI-apps zoals Lensa – Online Veilig (eset.com)

Hoe gebruik je ChatGPT veilig? | Online Veilig door ESET