211service.com
Verborgen industrie dupes gebruikers van sociale media
Een speurtocht naar Chinese crowdsourcingwebsites - waar mensen een paar centen kunnen verdienen voor kleine klusjes zoals het labelen van afbeeldingen - heeft een miljoenenindustrie blootgelegd die honderdduizenden mensen betaalt om interacties in sociale netwerken te verstoren en spam te plaatsen.
De auteurs van het rapport, aan de Universiteit van Californië, Santa Barbara, hebben ook bewijs gevonden dat crowdsourcing-sites in de VS op dezelfde manier worden gedomineerd door ethisch twijfelachtige banen. Ze concluderen dat de snelle groei van deze manier van geld verdienen van betaalde shills een serieus beveiligingsprobleem zal maken voor websites en degenen die ze over de hele wereld gebruiken. Er is een paper beschikbaar waarin hun resultaten worden beschreven op de Arxiv pre-print server .
Ben Zhao , een universitair hoofddocent computerwetenschappen aan de UCSB (en een TR35-winnaar in 2006), begon de grotendeels onbekende crowdsourcing-industrie in China te onderzoeken nadat hij nauw had samengewerkt met RenRen, een sociaal netwerk dat soms de Facebook van China wordt genoemd, om kwaadaardige activiteiten op te sporen op de site. Zhao was geïntrigeerd toen hij veel relatief geavanceerde pogingen zag om spam te verzenden en merken te promoten door gebruikers die met specifieke agenda's leken te werken.
Toen hij en collega's de bron van die activiteit onderzochten, was het team verrast door wat het aantrof, zegt Zhao: Evil crowdsourcing op zeer grote schaal. Het beïnvloeden van de publieke opinie met nep-grassroots-activiteiten staat bekend als astroturfing, wat Zhao ertoe bracht de term crowdturfing te gebruiken, omdat dit wordt gedaan via grote crowdsourcing-sites.
De onderzoekers ontdekten dat een groot deel van de verdachte activiteit in China afkomstig was van twee crowdsourcingsites: Zhubajie , de grootste in China, en Sandaha. Daar wordt mensen openlijk het equivalent van tientallen centen aangeboden om dingen te doen zoals het aanmaken van accounts op bepaalde sites, het plaatsen van bevooroordeelde antwoorden over specifieke producten op vraag-en-antwoordsites en het creëren en verspreiden van positieve berichten over producten op sociale netwerken.
De websites zijn erg openbaar en je kunt zien wie eerdere banen heeft aangeboden en wat ze hebben betaald, zegt Zhao. Zijn team toonde met software aan dat Zhubajie en Sandaha respectievelijk voor 88 en 92 procent crowdturfing zijn. Ze ontdekten ook dat Zhubajie momenteel meer dan een miljoen dollar per maand verwerkt voor crowdturfing-taken; het cijfer voor de jongere Sandaha is tienduizenden dollars. Deze industrie is al miljoenen dollars per jaar en [laat] ruwweg exponentiële groei zien, zegt Zhao. Ik denk dat we ons nog in de beginfase van dit fenomeen bevinden.
Het UCSB-team was geschokt door de omvang van de activiteit op de Chinese sites en het potentieel dat ze zouden kunnen worden gebruikt om Amerikaanse sites in gevaar te brengen. Amazon's Mechanical Turk is misschien wel de bekendste, maar er zijn ook andere ontstaan.
De meeste van die andere sites hebben veel crowdturfing, zegt Zhao, en de sites sluiten dergelijke taken niet actief af, zoals Amazon probeert te doen. Korte Taak , de op een na grootste crowdsourcingsite in de VS die is onderzocht, bleek voor 95 procent uit crowdturfing-taken te bestaan en hielp werknemers het afgelopen jaar betaald te krijgen voor meer dan een half miljoen astroturfing-taken. Ondanks de inspanningen van Amazon bleek Mechanical Turk 12 procent aan crowdturfing te doen, een lagere schatting dan de 40 procent die wordt beweerd door een onderzoek van de New York University eind vorig jaar .
Zhao zegt dat deze sites waarschijnlijk de bron van grote problemen zullen worden voor sociale netwerken zoals Twitter en Facebook, net zoals het is geworden voor hun Chinese equivalenten.
Mensen zijn bereid dit voor zulke kleine bedragen te doen en we hebben gezien dat de resultaten erg goed zijn, zegt hij. Zhao denkt dat gunstige economische omstandigheden ertoe zullen leiden dat crowdsourcingsites in China en andere ontwikkelingslanden de Amerikaanse diensten in de weg staan. ShortTask en andere Amerikaanse crowdsourcingsites met een hoog aandeel crowdturfing hebben veel werknemers uit ontwikkelingslanden.
Het ergste is dat dit zo moeilijk te detecteren is, zegt Zhao. Al onze beveiligingsmethoden gaan ervan uit dat er een programma in het spel is, en dat legt beperkingen op die u kunt detecteren. Zhao's groep heeft eerder gewerkt om spam binnen Facebook te ontdekken, meestal als gevolg van softwarebots die controle krijgen over echte gebruikersaccounts. Facebook en andere webbedrijven vertrouwen tegenwoordig op tools zoals Captcha's of relatief eenvoudige regels die gemakkelijk geautomatiseerde accounts kunnen herkennen. Als er een echt mens bij betrokken is die vastberaden is, dan is wat je kunt doen eigenlijk alleen beperkt door de prijs die ze krijgen, zegt Zhao.
Philip Menczer , directeur van het Center for Complex Networks and Systems Research aan de Universiteit van Indiana, werkt aan de ontwikkeling van systemen om politieke astroturfing op Twitter te detecteren. Het is al moeilijk om te doen, en waarschijnlijk zal het nog moeilijker worden, zegt hij, vooral omdat crowdsourcing-services gemakkelijker te gebruiken worden.
De groep van Menczer bouwde eerst een systeem om politieke astroturfing op te sporen in de aanloop naar de meest recente tussentijdse verkiezingen. Het identificeert eerst de politieke discussies die op Twitter circuleren, met behulp van hashtags, links, namen en zinnen. Software die is getraind om zowel legitieme als astroturfing-tweets te herkennen, filtert vervolgens frauduleuze berichten uit die soep van politieke discussies en volgt zelfs hun succes bij het beïnvloeden van echte gebruikers.
Dat systeem was in staat om geautomatiseerde accounts te vinden door zorgvuldig wisselende berichten te sturen waarin bepaalde politieke sites werden gepromoot. Maar Menczer heeft altijd vermoed dat ze een onbekende hoeveelheid subtielere astroturfing-campagnes misten. Kijken naar de oorsprong van crowdsourced astroturfing biedt een ander perspectief, zegt hij.
Het feit dat er websites zijn die bijna zijn toegewijd om het gemakkelijk te maken om mensen in te huren om dit te doen, is een verder bewijs dat dit gebeurt, zegt Menczer, die werkt aan het upgraden van zijn astroturfing-detectiesysteem om de discussie rond de presidentsverkiezingen van volgend jaar te analyseren.
Een mogelijke manier om dergelijke netwerken aan te pakken zou zijn om het geld te volgen, zegt Zhao. Dat zou waarschijnlijk een minder verspreid doelwit aan het licht brengen. Uit een onderzoek eerder dit jaar bleek dat 95 procent van de inkomsten uit spam-e-mail via slechts drie banken loopt, een veel gemakkelijker doelwit dan de miljoenen gecompromitteerde computers die ongevraagde berichten versturen of de schimmige criminelen die ze coördineren.