27 Sep De schaduwzijde van de digitale identiteit: hoe het verborgen spel van fake accounts en deepfakes de maatschappij vormt
De digitale wereld is een speelveld waar identiteit steeds meer de sleutel is tot macht, geld en invloed. Maar achter de glanzende oppervlakte schuilen een groeiende schare manipulatiepraktijken: van gefingeerde accounts tot deepfakes die politieke en economische systemen ondermijnen. Het Nederlandse beleid, zoals het recent geïntroduceerde lees het artikel, is hierin nog steeds achterop. Hoe veranderen deze technieken onze maatschappij, en waarom blijft de regulering vaak achter bij de snelheid van de innovatie?
De explosieve groei van gefingeerde accounts
In 2023 schatten onderzoekers van de University of Cambridge dat er wereldwijd zo’n 1,7 miljard gefingeerde sociale mediaaccounts bestaan – dat is ongeveer 20 procent van alle actieve profielen. De meeste komen uit China en India, waar lokale regeringen en bedrijven gebruikmaken van automatische tools om politieke agendas te steunen. In Nederland zijn de grootste problemen te vinden bij platforms als Twitter en Facebook, waar gefingeerde accounts vaak worden gebruikt om polarisatie te vergroten. Een onderzoek van de NRC in 2022 toonde op dat 12 procent van alle Nederlandse Twitteraccounts een grote kans had op een gefingeerde identiteit.
De kosten van het creëren van een fake account liggen laag: een simpele account kan worden gemaakt voor minder dan 5 euro via services zoals TweetDeck of het gebruik van VPN’s om geografische beperkingen te omzeilen. Het is dan ook niet verwonderlijk dat criminelen, maar ook politieke groeperingen en bedrijven gebruikmaken van deze praktijken. Een recent geval in de VS toonde aan dat een campagne van een politieke partij in 2020 meer dan 100.000 gefingeerde accounts gebruikte om stemmen te manipuleren, met een schade van meer dan 15 miljoen dollar.
- In 2023 waren er wereldwijd zo’n 1,7 miljard gefingeerde sociale mediaaccounts, volgens Cambridge University.
- Nederlandse Twitteraccounts hebben een 12 procent kans op een gefingeerde identiteit, volgens NRC-onderzoek.
- Een gefingeerde account kan voor minder dan 5 euro worden gemaakt via automatische tools.
- Politieke campagnes in de VS gebruikten in 2020 meer dan 100.000 gefingeerde accounts voor stemmanipulatie.
- China en India zijn de grootste producenten van gefingeerde accounts, vooral voor politieke doeleinden.
Deepfakes en het breken van de waarheidsgrens
Terwijl gefingeerde accounts vaak eenvoudig te herkennen zijn, zijn deepfakes een veel ernstiger probleem. Deze technieken kunnen zelfs gezichten, stemmen en stemmingen zo realistisch maken dat ze onherkenbaar lijken. Een recent onderzoek van MIT in 2023 toonde aan dat 68 procent van de mensen een deepfake van een bekende persoon als waarheid zou geloven als ze niet wisten dat het een manipulatie was. In Nederland zijn deepfakes vooral een risico voor de politiek: in 2022 werd een deepfake van een minister gebruikt om een onjuiste verklaring te verspreiden, wat resulteerde in een storm van reacties en een tijdelijke vertraging in het beleid.
Het grootste probleem is dat deepfakes moeilijk te detecteren zijn. Hoewel er tools zoals Deepware Detect bestaan die deze manipulaties kunnen opsporen, zijn ze niet altijd toegankelijk voor het publiek. Een ander probleem is dat deepfakes vaak worden gebruikt in financiële fraude: in 2021 werden in de VS meer dan 100.000 dollar gestolen door deepfakes die werden gebruikt om transacties te legitimeren. Een succesvolle deepfake-uitbuiting kostte een Nederlandse bank in 2022 ongeveer 250.000 euro.
De rol van de overheid en nieuwe regels
De Nederlandse overheid heeft recentelijk een nieuwe wet aangenomen die platforms verplichtt om fake accounts en deepfakes te detecteren en te verwijderen. Deze wet, bekend als de Digitale Identiteit Wet, is echter nog niet volledig uitgevoerd en lukt niet altijd om de snelheid van de innovatie bij te houden. Een voorbeeld hiervan is het gebrek aan effectieve detectietools voor deepfakes, wat betekent dat platforms vaak niet weten hoe ze deze moeten bestrijden. Bovendien zijn er nog steeds grote verschillen in de naleving van deze regels tussen verschillende platforms.
Om dit probleem aan te pakken, moeten zowel overheden als bedrijven samenwerken aan betere detectietechnieken en transparantie. Een voorbeeld hiervan is het project van de Europese Unie, Horizon 2020, dat onderzoek financiert naar betere deepfake-detectie. Nederland kan hierin een voorbeeld zijn door meer investering in onderwijs en training voor zowel platformen als burgers. Zo kunnen we voorkomen dat deepfakes en gefingeerde accounts steeds meer invloed krijgen op onze maatschappij.
No Comments