Machine-learningproject richt zich op desinformatie

In associatie met Qatar Stichting

Er is niets nieuws aan complottheorieën, desinformatie en onwaarheden in de politiek. Wat is nieuw is hoe snel kwaadwillende actoren desinformatie kunnen verspreiden wanneer de wereld nauw verbonden is via sociale netwerken en internetnieuwssites. We kunnen het probleem opgeven en vertrouwen op de platforms zelf om verhalen of berichten te controleren en desinformatie uit te filteren, of we kunnen nieuwe tools bouwen om mensen te helpen desinformatie te identificeren zodra deze op hun scherm verschijnt.

Preslav Nakov is een computerwetenschapper aan het Qatar Computing Research Institute in Doha, gespecialiseerd in spraak- en taalverwerking. Hij leidt een project dat machine learning gebruikt om de betrouwbaarheid van mediabronnen te beoordelen. Hierdoor kan zijn team nieuwsartikelen verzamelen naast signalen over hun betrouwbaarheid en politieke vooroordelen, allemaal in een Google Nieuws-achtig formaat.

Je kunt onmogelijk elke bewering in de wereld op feiten controleren, legt Nakov uit. Richt je in plaats daarvan op de bron. Ik zeg graag dat je het nepnieuws kunt controleren voordat het zelfs maar is geschreven. De tool van zijn team, de Tanbih News Aggregator genaamd, is beschikbaar in het Arabisch en Engels en verzamelt artikelen op gebieden als zaken, politiek, sport, wetenschap en technologie en covid-19.

Business Lab wordt gehost door Laurel Ruma, hoofdredacteur van Insights, de custom publishing-divisie van MIT Technology Review. De show is een productie van MIT Technology Review, met productiehulp van Collective Next.

Deze podcast is gemaakt in samenwerking met de Qatar Foundation.

Toon notities en links

Nieuwsaggregator toevoegen

Qatar Computing Research Institute

Zelfs de beste AI voor het spotten van nepnieuws is nog steeds verschrikkelijk, MIT Technology Review, 3 oktober 2018

Volledig transcript

Laurel Ruma: Van MIT Technology Review, ik ben Laurel Ruma, en dit is Business Lab, de show die bedrijfsleiders helpt om nieuwe technologieën te begrijpen die uit het lab en op de markt komen. Ons onderwerp van vandaag is desinformatie. Van nepnieuws tot propaganda tot diepe vervalsingen, het lijkt misschien alsof er geen verdediging is tegen bewapend nieuws. Wetenschappers onderzoeken echter manieren om desinformatie snel te identificeren om niet alleen regelgevers en technologiebedrijven te helpen, maar ook burgers, aangezien we allemaal samen door deze dappere nieuwe wereld navigeren.

Twee woorden voor jou: infodemic verspreiden.

Mijn gast is Dr. Preslav Nakov, hoofdwetenschapper bij het Qatar Computing Research Institute. Hij leidt het Tanbih-project, dat is ontwikkeld in samenwerking met MIT. Hij is ook de hoofdonderzoeker van een QCRI MIT-samenwerkingsproject op het gebied van Arabische spraak- en taalverwerking voor het zoeken naar informatie in meerdere talen en het verifiëren van feiten. Deze aflevering van Business Lab is tot stand gekomen in samenwerking met de Qatar Foundation. Welkom, Dr. Nakov.

Preslav Nakov: Bedankt dat je me hebt.

Laurel Ruma: Dus waarom worden we nu overspoeld met zoveel online desinformatie? Dit is geen nieuw probleem, toch?

Nakov: Het is natuurlijk geen nieuw probleem. Het is niet zo dat het voor het eerst in de geschiedenis van het universum is dat mensen leugens vertellen of de media leugens. We hadden de gele pers, we hadden al die roddelbladen al jaren. Het werd een probleem door de opkomst van sociale media, toen het ineens mogelijk werd om een ​​boodschap te hebben die je naar miljoenen en miljoenen mensen kunt sturen. En niet alleen dat, u kunt nu verschillende dingen aan verschillende mensen vertellen. Dus je zou mensen kunnen microprofileren en ze een specifiek persoonlijk bericht kunnen bezorgen dat is ontworpen, gemaakt voor een specifieke persoon met een specifiek doel om op een specifieke knop op hen te drukken. Het grootste probleem met nepnieuws is niet dat het vals is. Het grootste probleem is dat het nieuws daadwerkelijk werd bewapend, en dit is iets waar Sir Tim Berners-Lee, de maker van het World Wide Web, over heeft geklaagd: dat zijn uitvinding bewapend was.

Laurier: Ja, Tim Berners-Lee is duidelijk radeloos dat dit is gebeurd, en het is niet alleen in een of ander land. Het is eigenlijk de hele wereld. Dus is er een daadwerkelijk verschil tussen nepnieuws, propaganda en desinformatie?

Nakov: Zeker, dat is er. Ik hou niet van de term nepnieuws. Dit is de term die is opgepikt: het werd uitgeroepen tot woord van het jaar door verschillende woordenboeken in verschillende jaren, kort na de vorige presidentsverkiezingen in de VS. Het probleem met nepnieuws is dat er in de eerste plaats geen duidelijke definitie is. Ik heb woordenboeken bekeken, hoe ze de term definiëren. Een belangrijk woordenboek zei: we gaan de term helemaal niet definiëren, omdat het iets voor zich spreekt - we hebben 'nieuws', we hebben 'nep' en het is nieuws dat nep is; het is compositorisch; het werd gebruikt in de 19e eeuw - er valt niets te definiëren. Verschillende mensen geven hier een andere betekenis aan. Voor sommige mensen is nepnieuws gewoon nieuws dat ze niet leuk vinden, ongeacht of het vals is. Maar het grootste probleem met nepnieuws is dat het mensen, en helaas, zelfs bepaalde grote fact-checking-organisaties, echt misleidt om zich maar op één ding te concentreren, of het nu waar is of niet.

Ik geef de voorkeur, en de meeste onderzoekers die hieraan werken, geven de voorkeur aan de term desinformatie. En dit is een term die wordt gebruikt door grote organisaties zoals de Verenigde Naties, de NAVO, de Europese Unie. En desinformatie is iets dat een heel duidelijke definitie heeft. Het heeft twee componenten. Ten eerste is het iets dat vals is, en ten tweede heeft het een kwaadaardige bedoeling: de bedoeling om kwaad te doen. En nogmaals, de overgrote meerderheid van het onderzoek, de overgrote meerderheid van de inspanningen, veel initiatieven om feiten te controleren, is gericht op de vraag of iets waar is of niet. En het is meestal het tweede deel dat echt belangrijk is. Het deel of er sprake is van kwade opzet. En dit is eigenlijk waar Sir Tim Berners-Lee het over had toen hij voor het eerst sprak over de bewapening van het nieuws. Het grootste probleem met nepnieuws - als je met journalisten praat, zullen ze je dit vertellen - het grootste probleem met nepnieuws is niet dat het vals is. Het probleem is dat het een politiek wapen is.

En propagandamateriaal. Wat is propaganda? Propaganda is een term die haaks staat op desinformatie. Nogmaals, desinformatie heeft twee componenten. Het is vals en het heeft kwade bedoelingen. Propaganda heeft ook twee componenten. Een daarvan is dat iemand ons van iets probeert te overtuigen. En ten tweede is er een vooraf gedefinieerd doel. Nu moeten we opletten. Propaganda is niet waar; het is niet vals. Het is niet goed; het is niet slecht. Dat maakt geen deel uit van de definitie. Dus als een regering een campagne heeft om het publiek over te halen zich te laten vaccineren, kun je stellen dat dat voor een goed doel is, of laten we zeggen dat Greta Thunberg ons bang probeert te maken dat er elke dag honderden soorten uitsterven. Dit is een propagandatechniek: appelleren aan angst. Maar je kunt stellen dat dat voor een goed doel is. Propaganda is dus niet slecht; het is niet goed. Het is niet waar; het is niet vals.

Laurier: Maar propaganda heeft als doel iets te doen. En, en door dat doel af te dwingen, is het echt aantrekkelijk voor die angstfactor. Dus dat is het onderscheid tussen desinformatie en propaganda, is de angst.

Nakov: Nee, angst is slechts een van de technieken. We hebben dit onderzocht. Er is dus veel onderzoek gericht op binaire classificatie. Is dit waar? Is dit vals? Is dit propaganda? Is dit geen propaganda? We hebben wat dieper gekeken. We hebben onderzocht welke technieken zijn gebruikt om propaganda te maken. En nogmaals, je kunt praten over propaganda, je kunt praten over overreding of public relations, of massacommunicatie. Het is eigenlijk hetzelfde. Verschillende termen voor ongeveer hetzelfde. En wat betreft propagandatechnieken zijn er twee soorten. De eerste soort is een beroep op emoties: het kan een beroep doen op angst, het kan een beroep doen op sterke emoties, het kan een beroep doen op patriottische gevoelens, enzovoort, enzovoort. En de andere helft zijn logische drogredenen: zaken als zwart-wit drogredenen. U bent bijvoorbeeld voor of tegen ons. Of bandwagon. Bandwagon is als, oh, de laatste peiling laat zien dat 57% op Hillary gaat stemmen, dus we staan ​​aan de goede kant van de geschiedenis, je moet je bij ons voegen.

Er zijn verschillende andere propagandatechnieken. Er is rode haring, er is opzettelijke verduistering. We hebben er 18 onderzocht: de helft daarvan appelleert aan emoties, en de andere helft gebruikt bepaalde soorten logische denkfouten of gebroken logische redeneringen. En we hebben tools gebouwd om die in teksten op te sporen, zodat je ze echt aan de gebruiker kunt laten zien en expliciet maken, zodat mensen begrijpen hoe ze gemanipuleerd worden.

Laurier: Dus in de context van de covid-19-pandemie zei de directeur-generaal van de Wereldgezondheidsorganisatie, en ik citeer: we bestrijden niet alleen een epidemie; we vechten tegen een infodemie. Hoe definieer je infodemie? Wat zijn enkele van die technieken die we kunnen gebruiken om ook schadelijke inhoud te vermijden?

Nakov: Infodemisch, dit is iets nieuws. Eigenlijk had MIT Technology Review ongeveer een jaar geleden, vorig jaar in februari, een geweldig artikel dat daarover ging. De covid-19-pandemie heeft geleid tot de eerste wereldwijde infodemie op sociale media. En nogmaals, rond dezelfde tijd had de Wereldgezondheidsorganisatie, in februari, op haar website een lijst van top vijf prioriteiten in de strijd tegen de pandemie, en de bestrijding van de infodemie was nummer twee, nummer twee in de lijst van de top vijf prioriteiten. Het is dus zeker een groot probleem. Wat is de infodemie? Het is een samensmelting van een pandemie en de reeds bestaande desinformatie die al aanwezig was op sociale media. Het is ook een vermenging van politieke en gezondheidsdesinformatie. Daarvoor waren het politieke deel, en laten we zeggen de anti-vaxxerbeweging, gescheiden. Nu wordt alles met elkaar vermengd.

Laurier: En dat is een echt probleem. Ik bedoel, de zorg van de Wereldgezondheidsorganisatie zou de bestrijding van de pandemie moeten zijn, maar dan is haar secundaire zorg het bestrijden van desinformatie. Hoop vinden in dat soort angst is erg moeilijk. Dus een van de projecten waar je aan werkt, heet Tanbih. En Tanbih is een nieuwsaggregator, toch? Dat brengt desinformatie aan het licht. Het project zelf heeft dus een aantal doelen. Een daarvan is om houding, vooringenomenheid en propaganda in het nieuws te ontdekken. De tweede is om verschillende gezichtspunten te promoten en gebruikers te betrekken. Maar de derde is om het effect van nepnieuws te beperken. Hoe werkt Tanbih?

Nakov: Tanbih begon inderdaad als een nieuwsaggregator, en het is uitgegroeid tot iets veel groters dan dat, tot een project, dat een megaproject is in het Qatar Computing Research Institute. En het omvat mensen uit verschillende groepen in het instituut, en het is ontwikkeld in samenwerking met MIT. We zijn het project gestart met als doel tools te ontwikkelen die we daadwerkelijk in handen kunnen geven van de eindgebruikers. En we besloten dit te doen als onderdeel van een nieuwsaggregator, denk aan zoiets als Google Nieuws. En terwijl gebruikers het nieuws lezen, signaleren we hen wanneer iets propagandistisch is en geven we hen achtergrondinformatie over de bron. Wat we doen is dat we media vooraf analyseren en mediaprofielen bouwen. Dus we laten zien en vertellen gebruikers in hoeverre de inhoud propagandistisch is. We vertellen ze of het nieuws uit een betrouwbare bron komt of niet, of het bevooroordeeld is: links, midden, rechts. Of het nu extreem is: extreem links, extreem rechts. Ook, of het bevooroordeeld is met betrekking tot specifieke onderwerpen.

En dit is iets dat erg handig is. Dus stel je voor dat je een artikel leest dat sceptisch is over de opwarming van de aarde. Als we je vertellen, kijk, deze nieuwsuitzending is altijd op dezelfde manier erg bevooroordeeld geweest, dan zul je het waarschijnlijk met een korreltje zout nemen. We laten ook het perspectief van de verslaggeving zien, de framing. Als je erover nadenkt, covid-19, Brexit, elke grote gebeurtenis kan vanuit verschillende perspectieven worden gerapporteerd. Laten we bijvoorbeeld covid-19 nemen. Het heeft een gezondheidsaspect, dat is zeker, maar het heeft ook een economisch aspect, zelfs een politiek aspect, het heeft een levenskwaliteitsaspect, het heeft een mensenrechtenaspect, een juridisch aspect. Zo profileren we de media en laten we gebruikers zien wat hun perspectief is.

Wat betreft de mediaprofielen, we stellen ze verder bloot als een browser-plug-in, zodat u, terwijl u verschillende websites bezoekt, op de plug-in kunt klikken en u zeer korte achtergrondinformatie over de website kunt krijgen. En u kunt ook op een link klikken om toegang te krijgen tot een meer gedetailleerd profiel. En dat is heel belangrijk: de focus ligt op de bron. Nogmaals, het meeste onderzoek heeft zich gericht op is deze bewering waar of niet? En is dit nieuws waar of niet? Dat is slechts de helft van het probleem. De andere helft is eigenlijk of het schadelijk is, wat meestal wordt genegeerd.

Het andere is dat we onmogelijk elke bewering in de wereld kunnen controleren. Niet handmatig, niet automatisch. Handmatig is dat niet aan de orde. Ongeveer twee jaar geleden was er een onderzoek van MIT Media Lab, waar ze een groot onderzoek hebben gedaan naar vele, vele tweets. En het is aangetoond dat valse informatie zes keer verder gaat en zich veel sneller verspreidt dan echte informatie. Er was een ander onderzoek dat veel minder bekend is, maar ik vind het erg belangrijk, waaruit blijkt dat 50% van de levenslange verspreiding van zeer viraal nepnieuws in de eerste 10 minuten plaatsvindt. In de eerste 10 minuten! Handmatige feitencontrole duurt een dag of twee, soms een week.

Automatische factcheck? Hoe kunnen we een claim factchecken? Als we geluk hebben, als de bewering is dat de Amerikaanse economie vorig jaar met 10% groeide, dan kunnen we die bewering automatisch gemakkelijk controleren door in Wikipedia of een statistische tabel te kijken. Maar als ze zeggen dat er twee minuten geleden een bom was in dit stadje? Welnu, we kunnen het niet echt op feiten controleren, want om het automatisch te controleren, moeten we ergens informatie vandaan hebben. We willen zien wat de media erover gaat schrijven of hoe gebruikers erop gaan reageren. En beide hebben tijd nodig om zich op te stapelen. Dus eigenlijk hebben we geen informatie om het te controleren. Wat kunnen we doen? Wat we voorstellen is om met een hogere granulariteit te gaan, om ons te concentreren op de bron. En dat is wat journalisten doen. Journalisten onderzoeken: zijn er twee onafhankelijke betrouwbare bronnen die dit beweren?

Dus we analyseren de media. Zelfs als slechte mensen een claim op sociale media plaatsen, zullen ze waarschijnlijk een link plaatsen naar een website waar men een heel verhaal kan vinden. Toch kunnen ze geen nieuwe nepnieuwswebsite maken voor elke nepclaim die ze maken. Die gaan ze hergebruiken. Zo kunnen we monitoren wat de meest gebruikte websites zijn en kunnen we deze vooraf analyseren. En ik zeg graag dat we het nepnieuws kunnen controleren voordat het zelfs maar is geschreven. Want op het moment dat het is geschreven, het moment dat het op social media wordt geplaatst en er een link naar een website is, kunnen we als we deze website in onze groeiende database van continu geanalyseerde websites hebben, direct vertellen of dit een betrouwbare website is of niet. . Natuurlijk kunnen betrouwbare websites ook slechte informatie hebben, goede websites kunnen het soms ook mis hebben. Maar we kunnen je meteen een idee geven.

Naast de nieuwsaggregator zijn we begonnen met het onderzoeken van analyses, maar we ontwikkelen ook tools voor mediageletterdheid die mensen de fijnmazige propagandatechnieken laten zien die in de tekst worden benadrukt: de specifieke plaatsen waar propaganda plaatsvindt en het specifieke type ervan. En tot slot bouwen we tools die factcheckers kunnen ondersteunen bij hun werk. En dat zijn weer problemen die doorgaans over het hoofd worden gezien, maar uiterst belangrijk zijn voor factcheckers. Namelijk, wat in de eerste plaats de moeite van het controleren waard is. Denk aan een presidentieel debat. Er zijn meer dan 1.000 zinnen gezegd. Jij, als factchecker, kunt er misschien 10 of 20 controleren. Welke ga je als eerste factchecken? Wat zijn de meest interessante? We kunnen helpen om dit te prioriteren. Of er zijn dagelijks miljoenen en miljoenen tweets over covid-19. En welke daarvan zou je als factchecker willen factchecken?

Het tweede probleem is het opsporen van eerder op feiten gecontroleerde claims. Een probleem met de huidige technologie voor het controleren van feiten is kwaliteit, maar het tweede deel is het gebrek aan geloofwaardigheid. Stel je een interview voor met een politicus. Kun je de politicus ter plekke zetten? Stelt u zich een systeem voor dat automatisch spraakherkenning uitvoert, dat is eenvoudig, en vervolgens feiten controleert. En plotseling zeg je: Oh, meneer X, mijn AI vertelt me ​​dat je nu 96% waarschijnlijk liegt. Kunt u dat nader toelichten? Waarom lieg je? Dat kun je niet doen. Omdat je het systeem niet vertrouwt. Je kunt de politicus niet in realtime of tijdens een politiek debat ter plaatse brengen. Maar als het systeem terugkomt en zegt: hij heeft net iets gezegd dat door deze vertrouwde factcheckorganisatie is gecontroleerd. En hier is de bewering die hij deed, en hier is de bewering die op feiten is gecontroleerd, en kijk, we weten dat het onjuist is. Dan kun je hem ter plekke neerzetten. Dit is iets dat de journalistiek kan revolutioneren.

Laurier: Dus terugkomend op dat punt over analyses. Om in de technische details te komen, hoe gebruikt Tanbih kunstmatige intelligentie en diepe neurale netwerken om die inhoud te analyseren, als het zoveel gegevens tegenkomt, zoveel tweets?

Nakov: Tanbih was aanvankelijk niet echt gericht op tweets. Tanbih heeft zich voornamelijk gericht op de reguliere media. Zoals ik al zei, analyseren we hele nieuwsuitzendingen, zodat we voorbereid zijn. Want nogmaals, er is een zeer sterke verbinding tussen sociale media en websites. Het is niet voldoende om alleen een claim op het web te zetten en deze te verspreiden. Het kan zich verspreiden, maar mensen zullen het als een gerucht beschouwen omdat er geen bron is, er is geen verdere bevestiging. Dus je wilt toch een website bekijken. En dan, zoals ik al zei, door in de bron te kijken, kun je een idee krijgen of je deze bewering tussen andere informatiebronnen wilt vertrouwen. En andersom: als we media profileren, analyseren we de tekst van wat de media publiceren.

Dus we zouden zeggen, oké, laten we eens kijken naar een paar honderd of een paar duizend artikelen van dit doelnieuwscentrum. Dan zouden we ook kijken hoe dit medium zichzelf vertegenwoordigt in sociale media. Veel van die websites hebben ook social media-accounts: hoe reageren mensen op wat ze op Twitter, op Facebook hebben gepubliceerd? En als de media dan andere soorten kanalen hebben, bijvoorbeeld als ze een YouTube-kanaal hebben, gaan we ernaartoe en analyseren dat ook. Dus we zullen niet alleen kijken naar wat ze zeggen, maar ook hoe ze het zeggen, en dit is iets dat voortkomt uit het spraaksignaal. Als er veel beroep wordt gedaan op emoties, kunnen we dat voor een deel in de tekst ontdekken, maar voor een deel kunnen we dat ook daadwerkelijk uit de toon halen.

We onderzoeken ook wat anderen over dit medium schrijven, bijvoorbeeld wat er op Wikipedia over hen wordt geschreven. En dat brengen we allemaal bij elkaar. We analyseren ook de afbeeldingen die op deze website worden geplaatst. We analyseren de verbindingen tussen de websites. De relatie tussen een website en zijn lezers, de overlap qua gebruikers tussen verschillende websites. En dan gebruiken we verschillende soorten neurale netwerken voor grafieken. Dus in termen van neurale netwerken gebruiken we verschillende soorten modellen. Het is voornamelijk diepgecontextualiseerde tekstrepresentatie op basis van transformatoren; dat is wat je tegenwoordig meestal voor tekst doet. We gebruiken ook grafische neurale netwerken en we gebruiken verschillende soorten convolutionele neurale netwerken voor beeldanalyse. En we gebruiken ook neurale netwerken voor spraakanalyse.

Laurier: Dus wat leren we door dit soort desinformatie regio per regio of per taal te bestuderen? Hoe kan dat overheden en zorgorganisaties daadwerkelijk helpen desinformatie te bestrijden?

Nakov: We kunnen ze in principe geaggregeerde informatie geven over wat er aan de hand is, op basis van een schema dat we hebben ontwikkeld voor analyse van de tweets. We hebben een zeer uitgebreid schema ontworpen. We hebben niet alleen onderzocht of een tweet waar is of niet, maar ook of het paniek zaait, of slechte genezing, of vreemdelingenhaat, racisme bevordert. We detecteren automatisch of de tweet een belangrijke vraag stelt die misschien een bepaalde overheidsinstantie wil beantwoorden. Een van die vragen vorig jaar was bijvoorbeeld: gaat covid-19 in de zomer verdwijnen? Het is iets dat gezondheidsautoriteiten misschien willen beantwoorden.

Andere dingen waren het geven van advies of het bespreken van genomen maatregelen en mogelijke genezingen. We hebben dus niet alleen naar negatieve dingen gekeken, dingen waar je naar zou kunnen handelen, die je zou proberen te beperken, dingen als paniek of racisme, vreemdelingenhaat - dingen zoals geen Chinees eten, geen Italiaans eten. Of zaken als de overheid de schuld geven van hun handelen of nalaten, waar overheden misschien aandacht aan willen besteden en kijken in hoeverre het gerechtvaardigd is en of ze er iets aan willen doen. Ook is het belangrijk dat een beleidsmaker sociale media in de gaten houdt en detecteert wanneer er gesproken wordt over een mogelijke remedie. En als het een goede remedie is, wil je misschien opletten. Als het een slechte remedie is, wil je misschien ook tegen mensen zeggen: gebruik die slechte remedie niet. En bespreking van ondernomen actie, of een oproep tot actie. Als er veel mensen zijn die zeggen sluit de kapperszaken, wil je misschien weten waarom ze dat zeggen en of je wilt luisteren.

Laurier: Rechts. Omdat de overheid deze desinformatie wil monitoren met het expliciete doel om iedereen te helpen die slechte remedies niet te nemen, toch. Ga niet verder op het pad van denken dat deze propaganda of desinformatie waar is. Is het dus een overheidsmaatregel om desinformatie op sociale media te reguleren? Of denk je dat het aan de techbedrijven is om het zelf op te lossen?

Nakov: Dus dat is een goede vraag. Twee jaar geleden werd ik uitgenodigd door de Interparlementaire Unie. Ze hadden drie experts uitgenodigd en er waren 800 parlementsleden uit landen over de hele wereld. En drie uur lang stelden ze ons vragen, in feite rond het centrale onderwerp: wat voor soort wetgeving kunnen zij, de nationale parlementen, aannemen zodat ze eens en voor altijd een oplossing krijgen voor het probleem van desinformatie. En natuurlijk was de consensus aan het einde dat dat een complex probleem is en dat er geen gemakkelijke oplossing is.

Bepaalde wetgeving speelt zeker een rol. In veel landen zijn bepaalde soorten haatzaaiende uitlatingen illegaal. En in veel landen zijn er bepaalde soorten regelgeving als het gaat om verkiezingen en advertenties tijdens verkiezingstijd die van toepassing zijn op reguliere media en zich ook uitstrekken tot de webruimte. En er zijn veel recente verzoeken om regelgeving geweest in het VK, in de Europese Unie, zelfs in de VS. En dat is een zeer verhit debat, maar dit is een complex probleem en er is geen gemakkelijke oplossing. En daar zijn belangrijke spelers en die spelers moeten samenwerken.

Dus bepaalde wetgeving? Ja. Maar je hebt ook de medewerking van de socialemediabedrijven nodig, want de desinformatie gebeurt op hun platforms. En ze bevinden zich in een zeer goede positie, de beste positie eigenlijk, om de verspreiding te beperken of om iets te doen. Of om hun gebruikers te leren, om hen voor te lichten, dat ze waarschijnlijk niet alles moeten verspreiden wat ze lezen. En dan de niet-gouvernementele organisaties, journalisten, alle inspanningen om de feiten te controleren, dit is ook erg belangrijk. En ik hoop dat de inspanningen die wij als onderzoekers leveren om dergelijke tools te bouwen, ook in dat opzicht nuttig zouden zijn.

Een ding waar we op moeten letten, is dat we bij regelgeving door middel van wetgeving niet per se moeten nadenken over wat we aan dit of dat specifieke bedrijf kunnen doen. We moeten meer op de lange termijn denken. En we moeten voorzichtig zijn om de vrijheid van meningsuiting te beschermen. Het is dus een soort delicaat evenwicht.

In termen van nepnieuws, desinformatie. Het enige geval waarin iemand de overwinning heeft uitgeroepen, en de enige oplossing die we hebben zien werken, is het geval van Finland. In mei 2019 heeft Finland officieel verklaard dat ze de oorlog tegen nepnieuws hebben gewonnen. Ze hebben er vijf jaar over gedaan. Daar zijn ze na de gebeurtenissen op de Krim mee aan de slag gegaan; ze voelden zich bedreigd en begonnen een zeer ambitieuze mediawijsheidscampagne. Ze richtten zich vooral op scholen, maar ook op universiteiten en alle lagen van de samenleving. Maar natuurlijk vooral scholen. Ze leerden studenten hoe ze konden zien of iets visachtig was. Als het je te boos maakt, klopt er misschien iets niet. Hoe, laten we zeggen, afbeeldingen zoeken om te controleren of deze afbeelding die wordt getoond daadwerkelijk van dit evenement is of ergens anders vandaan komt. En in vijf jaar hebben ze de overwinning uitgeroepen.

Dus voor mij is mediageletterdheid de beste langetermijnoplossing. En daarom ben ik bijzonder trots op onze tool voor fijnmazige propaganda-analyse, omdat het de gebruikers echt laat zien hoe ze worden gemanipuleerd. En ik kan je vertellen dat ik hoop dat nadat mensen een beetje interactie hebben gehad met een platform als dit, ze die technieken zullen leren. En de volgende keer zullen ze ze vanzelf herkennen. Ze hebben het platform niet nodig. En het is mij overkomen en verschillende andere onderzoekers die aan dit probleem hebben gewerkt, het is ons overkomen, en nu kan ik het nieuws niet meer goed lezen. Elke keer als ik het nieuws lees, herken ik deze technieken omdat ik ze ken en kan herkennen. Als meer mensen dat niveau kunnen halen, is dat goed.

Misschien kunnen sociale-mediabedrijven zoiets doen wanneer een gebruiker zich op hun platform registreert, ze de nieuwe gebruikers kunnen vragen een korte cursus digitale geletterdheid te volgen en dan zoiets als een examen halen. En dan, natuurlijk, misschien zouden we dergelijke overheidsprogramma's moeten hebben. Het geval van Finland laat zien dat, als de overheid ingrijpt en de juiste programma's invoert, het nepnieuws iets is dat kan worden opgelost. Ik hoop dat nepnieuws de weg van spam gaat inslaan. Het wordt niet uitgeroeid. Spam is er nog steeds, maar het is niet het soort probleem dat het 20 jaar geleden was.

Laurier: En dat is mediawijsheid. En zelfs als het vijf jaar duurt om dit soort desinformatie uit te roeien of het maatschappelijk begrip van mediageletterdheid en wat desinformatie is, te verbeteren, komen er vrij vaak verkiezingen voor. En dat zou dus een geweldige plek zijn om na te denken over hoe dit probleem te stoppen. Zoals je al zei, als het op spam wordt, wordt het iets waar je elke dag mee te maken hebt, maar waar je eigenlijk niet meer aan denkt of je zorgen over maakt. En het zal de democratie niet volledig omdraaien. Dat lijkt mij een zeer haalbaar doel.

Laurier: Dr. Nakov, heel erg bedankt dat je vandaag bij ons bent gekomen voor wat een fantastisch gesprek was op het Business Lab.

Nakov: Bedankt dat je me hebt.

Laurier: Dat was Dr. Preslav Nakov, een hoofdwetenschapper aan het Qatar Computing Research Institute, met wie ik sprak vanuit Cambridge, Massachusetts, de thuisbasis van MIT en MIT Technology Review, met uitzicht op de Charles River.

Dat was het voor deze aflevering van Business Lab. Ik ben je gastheer, Laurel Ruma. Ik ben de Director of Insights, de custom publishing-divisie van MIT Technology Review. We zijn in 1899 opgericht aan het Massachusetts Institute of Technology. En je kunt ons elk jaar in print, op het web en op evenementen over de hele wereld vinden. Voor informatie over ons en de show kunt u terecht op onze website op technologyreview.com.

De show is overal beschikbaar waar je je podcasts vandaan haalt.

Als je deze podcast leuk vond, hopen we dat je even de tijd wilt nemen om ons te beoordelen en te beoordelen. Business Lab is een productie van MIT Technology Review. Deze aflevering is geproduceerd door Collective Next.

Deze podcastaflevering is geproduceerd door Insights, de afdeling voor aangepaste inhoud van MIT Technology Review. Het is niet geproduceerd door de redactie van MIT Technology Review.

zich verstoppen