Als je zo’n verhaal leest verbaast het je altijd dat mensen daar intrappen, maar als het jezelf overkomt kan je nauwelijks logisch nadenken. Zeker als ze overtuigend een stem na kunnen doen en persoonlijke informatie weten.
Mensen onderschatten vaak hoeveel informatie te achterhalen is met beperkte gegevens.
Ik had mijn ouders er een tijdje geleden al voor gewaarschuwd dat dit eraan zat te komen. Toen dacht ik nog dat het nog wel even zou gaan duren, omdat ik dacht dat de tools die hiervoor gebruikt worden naar mijn idee vooral focussen op talen die groter zijn dan Nederlands, maar dat heb ik blijkbaar mis. De tip van de politie onderaan dit artikel komt wel weer overeen met wat ik voorzien had. Je krijgt een soort situatie als in Harry Potter and the Deathly Hallows, waar iedereen een impostor kan zijn en je enkel identiteit kan verifieren door middel van het stellen van vragen waar je allebei het antwoord op weet.
Je leest vaak gekke verhalen over oplichting maar nu gaan de oplichters wel heel ver. Hoe halen die mensen het in hun hoofd om mensen zo te bedriegen emotioneel te maken en dan geld af te nemen.
Ik snap wel dat als je zo’n verhaal hoort dat je eerste reactie paniek is en dat je niet perse op de details let en vragen gaat stellen. Het alternatief is ook, het is wèl je kind, maar je gelooft hem niet, zoiets zeg je ook natuurlijk niet zomaar.
De technologie gaat alleen maar verder ontwikkelen en voor je het week is er iets ontwikkeld waar ook jij in zou kunnen trappen.
Gave wereld,dit.
Dan voel je je toch extra veilig dat je buitenlander bent en je ouders geen Nederlands spreken!
Mn ouders verteld dat wij te nimmer nooit om geld zullen vragen via de telefoon. Gelukkig weten hun ons rekening nummer en zullen ze niet naar een onbekende overmaken.
Ben ik blij dat mn ouders mij toch die 200 konden voorschieten laatst
>Dat dat nu in Nederland gebeurt, is ‘te gek voor woorden’, zegt een politiewoordvoerder.
lmao ok. Letterlijk iedereen zag dit aankomen. We roepen al decennia dat mensen moeten ophouden met hun hele prive hebben en houwen publiekelijk op internet te gooien omdat deze misbruikt gaan worden maar mensen hebben geen zin om te luisteren.
Oh en mocht iemand het zich afvragen; binnen 2 jaar wordt je via whatsapp gevideobeld door huilende familieleden voor dit soort scams. De AI tools om gezichten in een video aan de hand van wat fotos te vervangen bestaan al een tijdje en zitten bijna op een punt dat ze voor leken niet meer van echt te onderscheiden zijn.
Dit was helaas de logische volgende stap, al ben ik verbaasd dat ze zo snel het Nederlands taalgebied binnenstappen. Heb meteen mijn ouders maar ingelicht hierover, ze zijn al beducht op whatsapp-fraude, maar dit is toch een stapje doortrapter.
Wat mij niet duidelijk wordt van het artikel is hoe criminelen aan een stem komen. Ik begrijp dat je een audiofragment van iemand in een algoritme kunt gooien en kunt klonen maar hoe komen ze uberhaupt aan het originele audiofragment? Komt dat door een malafide app die je stiekem opneemt? Is Whatsapp gehackt en zijn voiceberichten gestolen? Is Vodafone afgetapt? Hoe? Dat lijkt me toch best wel een belangrijke vraag maar staat niet in het artikel.
Totdat die AI kan nabootsen dat ik nooit uit mn fucking woorden kom, ben ik gelukkig veilig maar wel eng ngl
Ik heb m’n ouders geleerd dat er niets is wat niet tot morgen kan wachten.
Waarom dacht ik bij de kop dat dit ging om Marion Koopmans?
Maar dit verhaal is echt griezelig. Nooit aan gedacht dat dit ook een optie voor oplichting zou zijn.
Ik begin mij steeds vaker af te vragen wat nu exact de voordelen van al die nieuwe techniek is geweest. Ik vrees dat ik oud begin te worden.
Ah de toekomst die je wist dat zou komen is hier!
Codewoord afspreken met je ouders.
How did they get enough voice samples to fake his voice tho? Just from social media postings, videos and the like?
Ik heb met mijn ouders een geheime “handshake” afgesproken. Als ik ooit bel met de vraag voor geld, dan zeggen zij een bepaald woord, en als ik dan niet het andere woord terugzeg moeten ze ophangen. Die woorden kan een AI uiteraard wel uitspreken, maar er zijn zoveel woorden.. ze moeten maar net heel toevallig het juiste woord gokken.
Het is veel ingewikkelder om een anoniem bericht via whatsapp te sturen met “help ik ben je zoon stuur geld” dan ergens de stem van de zoon vandaan plukken, dit te manipuleren, het verband te leggen tussen de moeder en de zoon, en het nummer van de moeder achterhalen
Iets zegt me dat moeders een eenmanszaak heeft (telefoon nummer en adress online) en dat moeders en zoon een openbare Facebook of Instagram hebben. Je komt al een heel eind om dit te voorkomen
Mijn moeke deelt alleen nog maar cash geld uit lol
Over 2 a 3 zal dit de standaardmethode zijn om op te lichten. Ooit een keer iets op youtube geüpload? Pech gehad jouw stem kan gekloond worden met een deepfake.
Deepfake technologie had nooit zo maar op straat moeten komen. De enige manier is als software hiervoor aan heel strenge regels moet voldoen.
Ben ergens wel benieuwd of die AI het voor elkaar gaat krijgen mijn dialect na te bootsen, lol.
Mijn eigen collega verstaat me niet eens wanneer ik even naar huis bel.
Waar kom de training data vandaan dan? Hebben ze een tijdje de zoon stiekem opgenomen, is de zoon een streamer?
Alle mensen die hier zeggen “gewoon afspreken dat je nooit over de telefoon om geld zal vragen” of “codewoord afspreken” — de voorgestelde situatie is waar de zoon volledig van streek is, net iemand dood heeft gereden _op de motor_ (zoon zelf zou ook niet onbeschadigd zijn gebleven, zowel fysiek als mentaal). Dat is een situatie waarin je in nood belt. Moet je stevig in je schoenen staan om dan dat soort afspraken te onthouden en na te komen.
Enige vage vind ik dat onderdeel dat ze niemand mocht bellen. Dat zou bij mij alle alarmbellen doen rinkelen. Waarom lieten ze die moeder überhaupt wachten tussen belletjes? Waarom regelden ze het niet gewoon snel in 1x?
Gevaar suggereren en emotie gebruiken werkt om het nadenken tegen te gaan. Dan zo’n stem. Ik denk dat veel mensen er intrappen.
Ik heb laatst nog met het werk het onderwerp aangehaald, en aangegeven dat het soms moeilijk te onderscheiden is.
Eerste reactie was: Ja maar als je de mail checkt kun je zien dat het niet klopt. (heel verhaal over dat als je het goed checkt je het kunt onderscheiden)
Ik laat 2 mailtjes zien beide zouden van DHL zijn over import kosten datum hetzelfde. (had een pakketje vanuit VK ontvangen waarvoor ik ook een scam mail heb gehad)
“kun je zien welke niet klopt?”
meneer wijst de scam mail aan als echt (verduidelijkt)
Heb nog nooit zo snel een groep van 15 man overtuigt dat het niet altijd aan het slachtoffer ligt.
nu ik dit gelezen heb, denk ik dat ik met mijn naasten een codewoord afspreek – mocht iemand dan ooit via telefoon/whatsapp/.. in nood geld vragen, gebruiken we dat codewoord zodat we weten dat het echt een van ons is.
> En vraag dan niet naar de geboortedatum, maar écht iets unieks. Wat hij of zij gisteren heeft gegeten bijvoorbeeld.”
Tenzij hij of zij foto’s van al hun maaltijden ook online post…
Ik heb mijn ouders opzicht goed geïnformeerd over internet oplichting. Met dingen als niet reageren op “te mooi om waar te zijn” mailtjes (u heeft een prijs gewonnen, u krijgt zomaar €10.000) of dreigende mailtjes (uw account verloopt, uw moet uw account verifieren).
Ook heb ik met mijn broer/zus duidelijk gemaakt dat als we een nieuw nummer hebben, of *echt* geld nodig hebben, dat we wel langs komen of bellen. Zo hebben ze al een paar keer een Whatsapp bericht gehad van “HOI MAM, IK HEB MIJN TELEFOON LATEN VALLEN! DIT IS MIJN NIEUWE NUMMER” en gelukkig niet op gereageerd.
Maar ik had ze al gewaarschuwd over dit soort oplichting, waarbij ze een stem kunnen nadoen, en ik vind het moeilijk om dit soort dingen uit te leggen. Met “**Als ik geld nodig heb, bel ik wel**” kom je niet meer weg. Of “*dan kom ik wel langs*” zal ook niet echt lukken met de situatie die hier geschetst is als een soort van “*ik ben gearresteerd en je moet geld overmaken*” scenario
Ik vraag me af hoe zo een programma huilen kopieert. Want als die geen fragment heeft om het uit af te leiden wordt t raden, en als iemand zo een rare hyenahuil heeft valt het programma door de mand
31 comments
Als je zo’n verhaal leest verbaast het je altijd dat mensen daar intrappen, maar als het jezelf overkomt kan je nauwelijks logisch nadenken. Zeker als ze overtuigend een stem na kunnen doen en persoonlijke informatie weten.
Mensen onderschatten vaak hoeveel informatie te achterhalen is met beperkte gegevens.
Ik had mijn ouders er een tijdje geleden al voor gewaarschuwd dat dit eraan zat te komen. Toen dacht ik nog dat het nog wel even zou gaan duren, omdat ik dacht dat de tools die hiervoor gebruikt worden naar mijn idee vooral focussen op talen die groter zijn dan Nederlands, maar dat heb ik blijkbaar mis. De tip van de politie onderaan dit artikel komt wel weer overeen met wat ik voorzien had. Je krijgt een soort situatie als in Harry Potter and the Deathly Hallows, waar iedereen een impostor kan zijn en je enkel identiteit kan verifieren door middel van het stellen van vragen waar je allebei het antwoord op weet.
Je leest vaak gekke verhalen over oplichting maar nu gaan de oplichters wel heel ver. Hoe halen die mensen het in hun hoofd om mensen zo te bedriegen emotioneel te maken en dan geld af te nemen.
Ik snap wel dat als je zo’n verhaal hoort dat je eerste reactie paniek is en dat je niet perse op de details let en vragen gaat stellen. Het alternatief is ook, het is wèl je kind, maar je gelooft hem niet, zoiets zeg je ook natuurlijk niet zomaar.
De technologie gaat alleen maar verder ontwikkelen en voor je het week is er iets ontwikkeld waar ook jij in zou kunnen trappen.
Gave wereld,dit.
Dan voel je je toch extra veilig dat je buitenlander bent en je ouders geen Nederlands spreken!
Mn ouders verteld dat wij te nimmer nooit om geld zullen vragen via de telefoon. Gelukkig weten hun ons rekening nummer en zullen ze niet naar een onbekende overmaken.
Ben ik blij dat mn ouders mij toch die 200 konden voorschieten laatst
>Dat dat nu in Nederland gebeurt, is ‘te gek voor woorden’, zegt een politiewoordvoerder.
lmao ok. Letterlijk iedereen zag dit aankomen. We roepen al decennia dat mensen moeten ophouden met hun hele prive hebben en houwen publiekelijk op internet te gooien omdat deze misbruikt gaan worden maar mensen hebben geen zin om te luisteren.
Oh en mocht iemand het zich afvragen; binnen 2 jaar wordt je via whatsapp gevideobeld door huilende familieleden voor dit soort scams. De AI tools om gezichten in een video aan de hand van wat fotos te vervangen bestaan al een tijdje en zitten bijna op een punt dat ze voor leken niet meer van echt te onderscheiden zijn.
Dit was helaas de logische volgende stap, al ben ik verbaasd dat ze zo snel het Nederlands taalgebied binnenstappen. Heb meteen mijn ouders maar ingelicht hierover, ze zijn al beducht op whatsapp-fraude, maar dit is toch een stapje doortrapter.
Wat mij niet duidelijk wordt van het artikel is hoe criminelen aan een stem komen. Ik begrijp dat je een audiofragment van iemand in een algoritme kunt gooien en kunt klonen maar hoe komen ze uberhaupt aan het originele audiofragment? Komt dat door een malafide app die je stiekem opneemt? Is Whatsapp gehackt en zijn voiceberichten gestolen? Is Vodafone afgetapt? Hoe? Dat lijkt me toch best wel een belangrijke vraag maar staat niet in het artikel.
Totdat die AI kan nabootsen dat ik nooit uit mn fucking woorden kom, ben ik gelukkig veilig maar wel eng ngl
Ik heb m’n ouders geleerd dat er niets is wat niet tot morgen kan wachten.
Waarom dacht ik bij de kop dat dit ging om Marion Koopmans?
Maar dit verhaal is echt griezelig. Nooit aan gedacht dat dit ook een optie voor oplichting zou zijn.
Ik begin mij steeds vaker af te vragen wat nu exact de voordelen van al die nieuwe techniek is geweest. Ik vrees dat ik oud begin te worden.
Ah de toekomst die je wist dat zou komen is hier!
Codewoord afspreken met je ouders.
How did they get enough voice samples to fake his voice tho? Just from social media postings, videos and the like?
Ik heb met mijn ouders een geheime “handshake” afgesproken. Als ik ooit bel met de vraag voor geld, dan zeggen zij een bepaald woord, en als ik dan niet het andere woord terugzeg moeten ze ophangen. Die woorden kan een AI uiteraard wel uitspreken, maar er zijn zoveel woorden.. ze moeten maar net heel toevallig het juiste woord gokken.
Het is veel ingewikkelder om een anoniem bericht via whatsapp te sturen met “help ik ben je zoon stuur geld” dan ergens de stem van de zoon vandaan plukken, dit te manipuleren, het verband te leggen tussen de moeder en de zoon, en het nummer van de moeder achterhalen
Iets zegt me dat moeders een eenmanszaak heeft (telefoon nummer en adress online) en dat moeders en zoon een openbare Facebook of Instagram hebben. Je komt al een heel eind om dit te voorkomen
[Relevante Klikbeet ](https://youtu.be/vD-ne8ERq9k)
Mijn moeke deelt alleen nog maar cash geld uit lol
Over 2 a 3 zal dit de standaardmethode zijn om op te lichten. Ooit een keer iets op youtube geüpload? Pech gehad jouw stem kan gekloond worden met een deepfake.
Deepfake technologie had nooit zo maar op straat moeten komen. De enige manier is als software hiervoor aan heel strenge regels moet voldoen.
Ben ergens wel benieuwd of die AI het voor elkaar gaat krijgen mijn dialect na te bootsen, lol.
Mijn eigen collega verstaat me niet eens wanneer ik even naar huis bel.
Waar kom de training data vandaan dan? Hebben ze een tijdje de zoon stiekem opgenomen, is de zoon een streamer?
Alle mensen die hier zeggen “gewoon afspreken dat je nooit over de telefoon om geld zal vragen” of “codewoord afspreken” — de voorgestelde situatie is waar de zoon volledig van streek is, net iemand dood heeft gereden _op de motor_ (zoon zelf zou ook niet onbeschadigd zijn gebleven, zowel fysiek als mentaal). Dat is een situatie waarin je in nood belt. Moet je stevig in je schoenen staan om dan dat soort afspraken te onthouden en na te komen.
Enige vage vind ik dat onderdeel dat ze niemand mocht bellen. Dat zou bij mij alle alarmbellen doen rinkelen. Waarom lieten ze die moeder überhaupt wachten tussen belletjes? Waarom regelden ze het niet gewoon snel in 1x?
Gevaar suggereren en emotie gebruiken werkt om het nadenken tegen te gaan. Dan zo’n stem. Ik denk dat veel mensen er intrappen.
Ik heb laatst nog met het werk het onderwerp aangehaald, en aangegeven dat het soms moeilijk te onderscheiden is.
Eerste reactie was: Ja maar als je de mail checkt kun je zien dat het niet klopt. (heel verhaal over dat als je het goed checkt je het kunt onderscheiden)
Ik laat 2 mailtjes zien beide zouden van DHL zijn over import kosten datum hetzelfde. (had een pakketje vanuit VK ontvangen waarvoor ik ook een scam mail heb gehad)
“kun je zien welke niet klopt?”
meneer wijst de scam mail aan als echt (verduidelijkt)
Heb nog nooit zo snel een groep van 15 man overtuigt dat het niet altijd aan het slachtoffer ligt.
nu ik dit gelezen heb, denk ik dat ik met mijn naasten een codewoord afspreek – mocht iemand dan ooit via telefoon/whatsapp/.. in nood geld vragen, gebruiken we dat codewoord zodat we weten dat het echt een van ons is.
> En vraag dan niet naar de geboortedatum, maar écht iets unieks. Wat hij of zij gisteren heeft gegeten bijvoorbeeld.”
Tenzij hij of zij foto’s van al hun maaltijden ook online post…
Ik heb mijn ouders opzicht goed geïnformeerd over internet oplichting. Met dingen als niet reageren op “te mooi om waar te zijn” mailtjes (u heeft een prijs gewonnen, u krijgt zomaar €10.000) of dreigende mailtjes (uw account verloopt, uw moet uw account verifieren).
Ook heb ik met mijn broer/zus duidelijk gemaakt dat als we een nieuw nummer hebben, of *echt* geld nodig hebben, dat we wel langs komen of bellen. Zo hebben ze al een paar keer een Whatsapp bericht gehad van “HOI MAM, IK HEB MIJN TELEFOON LATEN VALLEN! DIT IS MIJN NIEUWE NUMMER” en gelukkig niet op gereageerd.
Maar ik had ze al gewaarschuwd over dit soort oplichting, waarbij ze een stem kunnen nadoen, en ik vind het moeilijk om dit soort dingen uit te leggen. Met “**Als ik geld nodig heb, bel ik wel**” kom je niet meer weg. Of “*dan kom ik wel langs*” zal ook niet echt lukken met de situatie die hier geschetst is als een soort van “*ik ben gearresteerd en je moet geld overmaken*” scenario
Ik vraag me af hoe zo een programma huilen kopieert. Want als die geen fragment heeft om het uit af te leiden wordt t raden, en als iemand zo een rare hyenahuil heeft valt het programma door de mand