Successfully reported this slideshow.
We use your LinkedIn profile and activity data to personalize ads and to show you more relevant ads. You can change your ad preferences anytime.

Botlegers: Opmars van de Twitterbots

In verkiezingstijd proberen kwaadwillenden via volledig
geautomatiseerde social-media-robots en trollenlegers
mensen ertoe te bewegen om een bepaalde kandidaat
te kiezen. Hoe groot is dit probleem? En wat kunnen we
ertegen doen?

  • Login to see the comments

  • Be the first to like this

Botlegers: Opmars van de Twitterbots

  1. 1. 22 | de ingenieur 3 | maart 2017 maart 2017 | de ingenieur 3 | 23 # kominverzet. Deze zoge- noemde hashtag wordt veel- vuldig gebruikt op sociale media, onder anderen door Geert Wilders. Het is ook de hashtag die, elke keer als hij wordt gebruikt in een tweet, een robot doet ontwaken. Deze Twitterbot, actief sinds februari 2017, ‘retweet’ elk bericht dat de hashtag bevat. Zonder enige menselijke interventie verspreidt hij de vaak hate- lijke boodschappen van anderen over het internet. Daardoor zien meer men- sen deze boodschappen én wordt de hashtag vaker gebruikt – als hij tot extra retweets leidt, is hij immers de moeite waard. Dat zijn de regels van sociale media; hoe meer het wordt gedeeld, hoe beter. De robot is op de redactie van De Ingenieur gebouwd. Het was heel mak- kelijk; robotisering van tweets is inmid- dels al zo wijdverspreid dat verschil- lende websites een kant-en-klare service leveren. Daarvoor moet je wel je gegevens aan die sites geven, en con- trole over je Twitteraccount. Maar als Robots verspreiden volautomatisch allerlei boze, agressieve of misleidende berichten op sociale media.KUNNEN NEPACCOUNTS VERKIEZINGSUITSLAGEN STUREN? Opmars van de Twitterbots In verkiezingstijd proberen kwaadwillenden via volledig geautomatiseerde social-media-robots en trollen­legers mensen ertoe te bewegen om een ­bepaalde kandidaat te kiezen. Hoe groot is dit probleem? En wat kunnen we ertegen doen? tekst Marc Seijlhouwer MSc het verder toch een nepaccount is, maakt dat weinig uit. Iemand met wat meer programmeerkennis zet met een paar regels code geavanceerdere bots in elkaar, die bijvoorbeeld geautomati- seerd nieuws verspreiden, reageren op bepaalde soorten tweets of zelfs taal gebruiken zoals mensen dat op Twitter doen. Dankzij technieken als deep learn- ing gaat het soms nog verder, totdat een robot op een gegeven moment niet meer van een echte gebruiker is te onder- scheiden. Die bots kunnen een slechte invloed hebben op mensen. Ze kunnen manipuleren, verwarren en in de maling nemen. Nu is hun invloed nog klein, maar de kans is groot dat ze in de toekomst een steeds grotere rol spelen. Twitterbots zijn overal op Twitter en bestaan in mindere mate ook op andere sociale media. Facebook pro- beert ze tegen te houden en slaagt daar beter in dan Twitter, maar het bedrijf heeft er alsnog last van. Twitter is transparant over het feit dát er bots bestaan. Het sociale medium vindt het namelijk niet erg als gebruikers in meer of mindere mate automatisch tweets plaatsen. Het genereren van content is immers belangrijk voor het succes van de dienst. Hoeveel nepaccounts (bots, in­ac- tieve gebruikers en andere accounts waar geen mens achter zit) er zijn op sociale media, is moeilijk te zeggen. ‘Schattingen uit onderzoeken en cij- fers van bedrijven zelf komen uit op zo’n 7 à 8 %’, vertelt dr. Mirko Tobias illustratieKirillMakarov,bewerkingMiekeRoth Schäfer, docent-onderzoeker aan de Universiteit Utrecht en project- leider van de Utrecht Data School, waar wordt gekeken naar de relatie tussen data, overheid en social media. ‘Het verifiëren van die cijfers is echter onmogelijk.’ Er is in elk geval een aanzienlijk aantal nep­ accounts, waarvan een deel valt onder wat men ‘kwaadaardige bots’ kan noemen. Dat sociale-media-bedrijven daar niet meer tegen doen, is misschien begrijpelijk. Een groot bedrijf haalt niet zomaar bijna 10 % van zijn gebruikers weg. Zeker niet als die actief zijn of zelfs, in het geval van Facebook, regelmatig op advertenties klikken en zo de inkomsten verhogen. Pro-Trump-bots Dat betekent niet dat er niks gebeurt. Twitter kreeg regelmatig kri- tiek over de grote hoeveelheid geautomatiseerde accounts. Daarom stelt het bedrijf inmiddels een heleboel voorwaarden aan een bot. Hij mag bijvoorbeeld geen trending topics kopiëren. En iemand die een bot wil bouwen, moet zijn account verifiëren met een telefoon­ nummer. Facebook is in principe nog strenger, wat daar moet een ‘echt’ persoon met naam, voornaam, woonadres en telefoonnummer achter het account zitten. Het probleem is alleen dat er tegenwoordig websites bestaan die uit het niets een neppersoon creëren. Die kun je zelfs op nationaliteit uit- kiezen; een slimme willekeurige generator maakt zo de fraaiste fictieve mensen aan. Klinkt Lysanne Terlingen uit Ede, 27 jaar oud en woon- achtig op de Tollenburg 99 niet als een echt bestaande Nederlandse vrouw? Op die manier valt er dus van alles te omzeilen. En dat gebeurt ook massaal, gezien de schattingen van het aantal fake accounts. Zo’n percentage nepaccounts hoeft niet erg te zijn. Er komen pas ­problemen als de neppers het verpesten voor de echte mensen. Dat is nu over- wegend niet het geval, zegt Schäfer. ‘Veel bots zijn nuttig of grappig, en vaak is het door hun naam of biografie overduidelijk dat het geen menselijke gebruikers zijn. Die machines zijn onschuldig.’ Het probleem komt van de minder frisse bots. Ze houden geheim dat het robots zijn en dienen een specifiek manipulatief doel. Hiervan zijn de politieke bots een voorbeeld. Vlak na de cam- pagne van Donald Trump in 2016 deden geruch- ten de ronde dat hij mede had gewonnen dankzij de aanwezigheid van pro-Trump-bots op Twit- ter. Die tweetten dag en nacht leugens de wereld LEUKE BOTS Lang niet alle bots hebben als doel om chaos, wanorde en misinformatie te verspreiden. Vaak zijn ze nuttig, grappig of fascinerend. Een kleine selectie. @klmfares: Wil je op reis? Tweet je begin- en eindpunt, en de Twitterbot vertelt automatisch de kosten van de vlucht, inclusief link naar een boekingspagina. Een voorbeeld van automatische, snelle klantenservice. @thinkpiecebot: ziet u ook wel eens nét iets te verge- zochte artikelen over de actualiteit, trends onder jonge- ren en andere onzin? Deze bot maakt die belachelijk door een aantal bekende krantenkopconstructies in te vullen met min of meer willekeurig gekozen woorden. @we_didnt_start: een alternatieve manier om het nieuws binnen te krijgen. Dit stukje programmatuur plukt de meestgezochte termen op een dag van ­Google en probeert er een zin van te maken op de wijs van ­Billy Joels hit ‘We Didn’t Start The Fire’. @congressedits: deze bot is niet grappig, maar vervult wel een interessante functie: hij monitort Wikipedia en tweet elke keer als iemand van het Amerikaanse Con- gres een aanpassing doorvoert. Zo is te zien of senato- ren misschien onwelgevallige informatie wegpoetsen of op een andere manier de waarheid proberen te mani- puleren. Darknet Shopper: geen Twitterbot, wel fascinerend. Dit programma koopt willekeurige dingen van het Dark Web, de schaduwkant van het internet waar alles kan. De bot mag 100 dollar per week uitgeven en koopt ­alles wat hij kan vinden. Zo liet hij al een keer drugs bij de makers thuis bezorgen, waarna de politie langs- kwam om ze in beslag te nemen. Een bedrijf haalt niet zomaar bijna 10 % van zijn gebruikers weg
  2. 2. 24 | de ingenieur 3 | maart 2017 maart 2017 | de ingenieur 3 | 25 ten, maken ze geen gebruik van wat De Vries het ‘onethische’ deel van gericht adverteren noemt. ‘Profileren van potentiele kiezers en ze beïnvloe- den lijkt me onethisch, net als je in het debat mengen via sociale bots of trollen. Maar voor­ lopig kopen Nederlandse partijen nog niet mas- saal gegevens in bij databrokers.’ Dat is wel anders in de VS. Daar is de afgelo- pen paar verkiezingen gebleken hoe nuttig het kan zijn om je verschillende kiezersgroepen te kennen. Dat lukte daar mede zo goed doordat de privacywetgeving er anders is dan in Nederland. Hier moeten politieke partijen openheid van zaken geven, ook over het gebruik van datasets. Bovendien mogen bedrijven hier minder opslaan over individuen. ‘In de VS zijn er per persoon ontzettend veel datapunten, naar schatting gemiddeld 1500’, weet De Vries. ‘Daarmee kun je bijvoorbeeld ‘uitrekenen’ wat iemands pressie- punten zijn. Als je het zou willen, kan je daarmee iemand chanteren zodat hij jouw kant kiest.’ De marketingwereld heeft volgens De Vries inmiddels een grote hoeveelheid informatie over het beïnvloeden van mensen. ‘Door die kennis te combineren met steeds slimmere zelflerende algoritmes is er technisch nu al van alles moge- lijk. De politiek loopt alleen achter in de toepas- sing ervan. Maar er zijn partijen die het idee van online invloed oppakken.’ Voorlopig zijn de algo- ritmen echter nog net niet slim genoeg om over te komen als internetgebruikers van vlees en bloed. Daarom is online de boel verzieken vaak nog mensenwerk, waarbij zogenoemde trollen heel fel tegenstanders aanpakken en nieuws ­verspreiden dat een bepaald standpunt ondersteunt. ‘Politieke partij DENK gebruikte een klein aantal trollen en er zijn sterke vermoedens dat Russische trollenlegers invloed uitoefenen in de VS, Nederland en Frankrijk.’ Brutale gebruikers Zoals De Vries het beschrijft, ziet de toekomst er niet bijster rooskleu- rig uit. Maar er is wat aan te doen. ‘Blijf onethisch gedrag van partijen onthullen en informeer mensen over de mogelijkheden van onbe- wuste beïnvloeding. Dat is het beste wat overheid, media en maat- schappij kunnen doen. Het oprollen van dit soort legers is juridisch en praktisch vrijwel onmogelijk, dus dat is geen oplossing.’ Wel vindt De Vries dat partijen zich, zeker in campagnetijd, wat ethischer mogen opstellen. Want ze richten zich, via Facebook, alle- maal al met specifieke advertenties op kleine, specifieke groepen die voldoen aan bepaalde voorwaarden. Die tactiek, narrowcasting, is potentieel zorgelijk. ‘De partijen verschuilen zich achter het algoritme van Facebook, maar ze hebben ook een eigen verantwoordelijkheid. Het is echter lastig om de partijen tot ethisch adverteren te dwingen, omdat online de brutale en onethische gebruikers vaak het best wor- den gehoord.’ Schäfer is het daarmee eens: ‘In het Duits noemen we dit de Schweigespirale; het fenomeen – onderzocht door de Duitse politi- coloog Elisabeth Neille-Neumann – dat een minderheid schreeuwers meer voor elkaar krijgt en de meerderheid zwijgt omdat de ze denken de minderheid te zijn. Aangezien sociale media volledig om emoties draaien, is het logisch dat boosheid van veronge- lijkte mensen sneller scoort. Bots en trollen spe- len daar perfect op in.’ De vraag blijft of de invloed van de robots en algoritmes op de verkiezingen groot is. De sociale wetenschappers geven meteen toe dat die nau- welijks valt te meten; zelfs als er een verband is, hoeft dat niet causaal te zijn. Het feit dat er veel bots tweeten over een bepaalde gebeurtenis, waarna die gebeurtenis veel aandacht krijgt, hoeft niet te betekenen dat de aandacht kwam door de bottweets. De Vries denkt dat opleiding en voorlichting kunnen helpen om de negatieve invloed van deze technologieën te verminderen. Schäfer is het hiermee eens, maar stelt ook voor om verder te gaan: ‘Als ik een politieke partij was, zou ik het gebruik van bots omarmen. Maar dan niet stiekem; ik zou bijvoorbeeld een fact- checkbot bouwen om populistisch ‘nepnieuws’ automatisch te ontkrachten. En dan duidelijk maken dat deze nuttige robot van mijn partij afkomstig is. Maar de partijen gebruiken sociale media nu vooral om onderbuikgevoelens van de achterban aan te spreken. Dat is geen effectief social-media­-gebruik.’ | illustratieTNO/BasvanderSchot in over Hillary Clinton, prezen Trump en gebruikten populaire hashtags om de aanwezigheid van Trump-aanhangers overal voelbaar te maken. Hoeveel het er precies waren, weet niemand. Was hun invloed echt zo groot? Schäfer: ‘De invloed van bots is moeilijk te meten. Maar ik weet vrijwel zeker dat het niet de bots waren die de doorslag gaven.’ Trollenleger Dat Trump hoogstwaarschijnlijk niet won dankzij ‘zijn’ bots, betekent echter niet dat ze niet zijn gebruikt. ‘Maar waarschijnlijk zijn ze niet door zijn campagneteam in gang gezet’, denkt Schäfer. ‘Je kunt als kandi- daat vaak niet bepalen welke groeperingen zich bij je aansluiten en wat ze gaan doen. Er zijn botnets te huur, en een aanhanger van Trump zou zo’n netwerk kunnen inzetten tijdens de campagne. Vaak zorgt de aan- hang van een politieke partij voor meer manipulatie dan de partij zelf.’ Hoewel social-media-invloed bij deze verkiezingen mogelijk nog geen doorslaggevend effect had, kan dat in de toekomst anders zijn, waarschuwt ir. Arnout de Vries, social-media-onderzoeker bij TNO. ‘Bedrijven, maar ook politieke partijen, kunnen tegenwoordig steeds specifiekere datapakketten kopen. Daarin staat allerlei informatie over groepen mensen. Bedrijven kunnen via Facebook heel gericht zo’n groep benaderen. Als een politieke partij dat zou doen, en zich bijvoor- beeld op beïnvloedbare mensen zou richten, kunnen ze denk ik veel teweeg brengen.’ Dat gebeurt nu nog niet; hoewel alle partijen op de een of andere manier de vergaande advertentiemogelijkheden van Facebook benut- Online de boel verzieken is vaak nog mensenwerk ADVERTENTIE Ben jij ingenieur? Heb jij passie voor techniek? Dan ben jij welkom bij TC Solutions! TC Solutions geeft inhoud aan jouw technische carrière! Schrijf je nu in via: www.tcsolutions.nl/actievoorwaarden Bezoek onze stand, nummer 85, tijdens de Nationale Carrièrebeurs op 17 & 18 maart 2017 in de RAI te Amsterdam, en maak kans op een Apple Macbook pro! TCS advertenties 2017.qxp_205x131 27-02-17 15:00 Pagina 1

×