I Was There When: Facebook stelt winst boven veiligheid

Vorige maand, de primaire bron voor de Facebook-bestanden van Wall Street Journal , onthulde haar identiteit in een aflevering van 60 minuten . Frances Haugen, een voormalig productmanager bij het bedrijf, zegt dat ze naar voren kwam nadat ze zag dat het leiderschap van Facebook herhaaldelijk prioriteit gaf aan winst boven veiligheid. Daarna verscheen ze voor wetgevers in de VS en het VK om te praten over wat ze had geleerd tijdens haar tijd bij het bedrijf.

Maar Haugen was niet de eerste Facebook-klokkenluider die alarm sloeg over het onvermogen - of onwil - van het bedrijf om ernstige problemen aan te pakken die worden veroorzaakt door de algoritmen van het platform. In 2020 hoorden we over Sophie Zhang, die officieel als low-level datawetenschapper bij het bedrijf was aangesteld. Toen ze stopte, onthulde haar blockbuster-memo van 8.000 woorden dat ze tientallen landen had geïdentificeerd, waaronder India, Mexico, Afghanistan en Zuid-Korea, waar nepaccounts en likes politici in staat stelden het publiek te misleiden en aan de macht te komen. Het onthulde ook hoe weinig het bedrijf had gedaan om het probleem te verhelpen, ondanks de herhaalde pogingen van Zhang om het onder de aandacht van de leiding te brengen.

In de laatste aflevering van Ik was daar toen , een nieuw oral history-project van de podcast In Machines We Trust, spreken we met Zhang over haar inspanningen.

Credits:

Deze aflevering is geproduceerd door Jennifer Strong, Anthony Green en Emma Cillekens. Het is bewerkt door Michael Reilly en Mat Honan. Het is gemixt door Garret Lang, met sounddesign en muziek van Jacob Gorski.

Volledig transcript:

[TR-ID]

SOT: Frances Haugen: Tijdens mijn tijd bij Facebook realiseerde ik me een verwoestende waarheid. Bijna niemand buiten Facebook weet wat er binnen Facebook gebeurt.

Jennifer: Frances Haugen is een voormalig productmanager bij Facebook. Ze heeft klachten ingediend bij de federale wetshandhaving en beweert dat het leiderschap van de sociale-mediagigant herhaaldelijk winst boven veiligheid heeft gesteld.

SOT: Frances Haugen: Het bedrijf verbergt opzettelijk essentiële informatie voor het publiek, voor de Amerikaanse regering en voor regeringen over de hele wereld.

Jennifer: Haar klachten kwamen met een schat aan documenten die Haugen verzamelde voordat ze stopte... in een poging om aan te tonen dat het bedrijf er bewust voor had gekozen de problemen op zijn platform niet op te lossen.

Onder hen... dat algoritmen zoals die achter je Facebook-nieuwsfeed haat, verkeerde informatie en politieke onrust versterken.

En ze is niet de enige klokkenluider die het bedrijf ervan beschuldigt een oogje dicht te knijpen voor desinformatiecampagnes op het platform.

Sophie Zhang werkte als datawetenschapper op Facebook... en totdat ze werd ontslagen, hield ze zich bezig met het vinden en verwijderen van nepaccounts, opmerkingen en likes die werden gebruikt om wereldwijde verkiezingen te beïnvloeden. Haar blockbuster exit-memo was 8-duizend woorden ... en het onthulde hoe weinig Facebook had gedaan om het probleem te verminderen.

Ik ben Jennifer Strong, en dit is Ik was daar toen .

Het is een oral history-project met de verhalen over hoe keerpunten in kunstmatige intelligentie en informatica plaatsvonden... zoals verteld door de mensen die er getuige van waren.

[Toon ID]

Sophie Zhang: Ik ben Sophie Zhang. Bij Facebook was ik data scientist en werkte ik in het engagementteam. Met nep bedoel ik bijvoorbeeld nepaccounts, maar ook gehackte accounts. En met engagement bedoel ik likes, comments, shares, et cetera. Maar in mijn vrije tijd, toen ik begon te rommelen op het gebied van het vinden van niet-authentieke politieke activiteit. Vaak zeer verfijnde, niet-authentieke politieke activiteit. Ik zou kunnen beweren dat dit ook nep-engagement was, maar het was niet waar ik aan moest werken.

Toen ik begon te kijken naar de kruisingen tussen nep-engagement en burgeractiviteit, vond ik heel snel resultaten over de hele wereld. Ik vond resultaten in Brazilië, in India, in Indonesië, in veel landen, maar ook in Honduras, nogal wat in Honduras eigenlijk in verhouding tot zijn grootte. En ik was bezig met het opstellen van een rapport voor leiderschap over het probleem. Ik wilde een screenshot maken van de pagina van de belangrijkste ontvanger in Honduras, Juan Orlando Hernández, die nadat ik hem had opgezocht de president van Honduras bleek te zijn.

Ik ging naar zijn pagina om een ​​screenshot te maken toen ze plotseling stopten, omdat ik iets heel ongewoons opmerkte omdat de mensen die dat waren, die zijn pagina leuk vonden en commentaar gaven, velen van hen helemaal geen mensen waren. Het waren pagina's die zich voordeden als gebruikers. En om hier even een stap terug te doen, wat zijn pagina's? Wat zijn gebruikers? Pagina's zijn een Facebook-functie bedoeld voor publieke figuren, openbare organisaties, enz. MIT Tech Review heeft bijvoorbeeld een Facebook-pagina. MIT Tech Review is geen persoon. De pagina wordt beheerd door iemand anders op Facebook.

En dus is de bedoeling van hoe Facebook-pagina's zijn, dat ze openbare entiteiten moeten weerspiegelen en dat een enkele gebruiker vele pagina's kan beheren. Dus dezelfde beheerder kan bijvoorbeeld de CNN-pagina beheren, evenals CNN, Filippijnen en CNN Europe, enzovoort. Maar niets weerhield een gebruiker ervan honderden pagina's op te zetten, ze namen en profielfoto's te geven als echte mensen en ze als echte mensen te laten optreden. In feite was het voor hen gemakkelijker omdat ze vrij gemakkelijk tussen deze pagina's konden schakelen zonder elke keer in en uit te hoeven loggen.

Al snel realiseerde ik me dat deze neppagina's die zich voordeden als gebruikers, er duizenden waren in Honduras. En een paar honderd van hen werden persoonlijk geleid door de paginabeheerder van de president van Honduras. Dit was iemand die op sociale media duidelijk veel vertrouwen had in de Hondurese regering. En ze verstopten niet eens het feit dat ze duizenden nep-activa gebruikten om hun eigen burgers te manipuleren.

En dus was ik vanaf het begin erg naïef. Ik dacht dat, oké, ik heb dit gevonden. Deze mensen waren dom. We hebben ze gevangen. Ik zal ze aan anderen overhandigen. Ze zullen het overnemen. Ik kan bezuinigen op mijn eigenlijke werk en alles komt goed. Het was in plaats daarvan het begin van een sisyphean-beproeving van twee jaar, want wat er gebeurde toen ik opvoedde, was iedereen het erover eens dat dit verschrikkelijk was. Het was niet controversieel dat dit slecht was. Iedereen was het erover eens dat dit niet mag, maar de vraag was: wat doen we eraan? Hebben we het vermogen om ernaar te handelen? Is het binnen ons beleid om ernaar te handelen, enzovoort. Vanaf het begin sprak ik erover met iedereen die ermee te maken leek te hebben. Ik sprak erover met Pages Integrity, met Groups Integrity. Ik heb erover gesproken met het team burgerzaken. Ik probeerde dreigingsinformatie te interesseren. Uiteindelijk sprak ik met iedereen die maar wilde luisteren. Ik sprak met iedereen tot en met vice-president Guy Rosen. In wezen was het alsof je tegen de wind praat, alsof je de oceaan probeert leeg te maken met een vergiet. Uiteindelijk kwam ik erachter dat de beste manier om resultaten te krijgen, vaak niet was om via de juiste kanalen te proberen, maar door binnen het bedrijf publiekelijk te klagen op Workplace, wat in wezen Facebook voor het kantoor is, en door Workplace berichten te plaatsen over de situatie die anderen bij het bedrijf kon zien. En velen van hen waren daar natuurlijk boos over omdat dit niet het soort bedrijf was waarvoor ze dachten te werken en wilden werken. Ik weet niet of het op deze manier was, door anderen, maar uiteindelijk haalde Facebook eindelijk de operatie van de Hondurische regering neer, wat internationaal nieuws was.

Een paar weken later kwam de operatie terug met een andere methode. Toen we de take down in Honduras kregen, was ik in het begin nog naïef en idealistisch. Ik dacht, oké, daarvoor zei iedereen dat we geen precedent hadden, we wisten niet wat we moesten doen, maar nu hebben we het precedent. Nu kunnen we zeggen dat we dit precedent hebben gecreëerd om dit te doen. We kunnen het in deze methode oplossen. En dus dacht ik, oké, ik kan ze over alle anderen sturen die ik heb gevonden. Zij zouden ervoor zorgen. Ze zorgden er niet voor. Toen ik de juiste kanalen gebruikte om ze door te sturen, gingen ze in wezen in een zwarte doosvernietiger waar ze werden genegeerd.

In de tweede helft van 2019 heb ik ongeveer drie dozijn andere netwerken van niet-authentieke politieke activiteiten aangewakkerd en gemarkeerd, van Afghanistan tot Albanië, van Brazilië tot Bolivia, van India tot Indonesië. En dus duurde het even om de juiste manier te vinden om daadwerkelijk resultaten te krijgen en mensen ertoe te brengen daadwerkelijk te reageren. Het hing ervan af of ze gebonden waren aan politici en prominente figuren, want als iets aan een politieke figuur was gebonden, werd het veel moeilijker om het neer te halen. Ik ga je nu een nummer geven dat ik niet verliet toen ze het voor het eerst zagen. Omdat Azerbeidzjan zeker minder dan 3% van de wereldbevolking heeft, veel kleiner, produceerde zijn netwerk elke maand misschien een miljoen reacties. En dit vormde ongeveer 3% van alle opmerkingen van pagina's op berichten van andere pagina's wereldwijd, wereldwijd, maatschappelijke of niet-burgerlijke.

Maar zelfs toen ik de Azerbeidzjaanse regering op heterdaad betrapte, duurde het meer dan een jaar voordat de operatie werd neergehaald. Toen ik ontdekte dat de Azerbeidzjaanse regering een enorme tolheffing had opgezet van betaalde agenten om de oppositie massaal lastig te vallen. Dit was heel duidelijk slecht. Het was heel duidelijk verbonden met de Azerbeidzjaanse regering. En het was enorm in omvang. Maar toen we het neerhaalden, ik weet zeker dat er ergens op Facebook een team was dat erg overstuur was over waarom de cijfers plotseling daalden zonder reden die ze konden achterhalen. tussen mijn ontdekking en de vernietiging had Azerbeidzjan de oppositie hard aangepakt, niet-verbeterde oppositiefiguren gearresteerd en een oorlog met Armenië begonnen.

Het werd steeds stressvoller om aan het probleem te werken. Het is moeilijk om individueel te zien welke impact dit had, maar het werd al snel duidelijk dat het verband hield met activiteiten in landen die het moeilijk hadden omdat er zoveel gaande was. En ik was degene die persoonlijk beslissingen nam over wat belangrijk was. Het was in wezen geheel aan mij wat ik koos om verder te gaan, wat ik koos om prioriteit te geven en aandacht voor te krijgen. En ik heb ervoor gekozen om Bolivia geen prioriteit te geven omdat het objectief gezien erg klein en niet erg slim was. Ruim na de verkiezingen waren er massale protesten die escaleerden tot wat ook wel een staatsgreep werd genoemd of een volksopstand die resulteerde in de val van de Boliviaanse regering. Ik weet dat dit niet mijn persoonlijke verantwoordelijkheid had moeten zijn, maar uiteindelijk was er niemand anders die optrad. En dus koos ik ervoor om het zelf te doen. En omdat ik mezelf in deze positie had gebracht, was het in wezen aan mezelf, wat belangrijk genoeg was om op te focussen, en ik wil duidelijk zijn. Er waren altijd anderen die dat waren, die de leiding hadden over het verfijnen van mijn bevindingen en die aan het eind de leiding hadden over het verwijderen ervan.

Ik besloot vanaf het begin dat ik alleen de aanklager zou zijn, in wezen zou ik mijn best doen om nooit rechter, jury en beul te zijn, omdat ik al te veel macht in handen had. Ik denk niet dat iemand in de positie zou moeten zijn om te beslissen of Albanië belangrijker is dan Azerbeidzjan of dat soort vragen. Want in dat boek vonden ze ook rekeningen die waren gekoppeld aan ondersteunende leden van de Albanese regering. Maar wat ik in Azerbeidzjan aantrof, was objectief slechter in termen van grootte en schaal. En dus wist ik dat ik alleen het politieke kapitaal had om er heel langzaam een ​​voor een doorheen te dringen. En dus koos ik ervoor om me op Azerbeidzjan te concentreren. Het is nog steeds aan de gang in Albanië. Albanië had eerder dit jaar algemene verkiezingen en die waren toen nog aan de gang. Ik bedoel, meer dan twee jaar nadat ik het ontdekte, heeft Facebook nog steeds niets gedaan.

En ik kan alleen maar uitgebreid mijn excuses aanbieden aan het Albanese volk. Ik had niet in een positie moeten verkeren waarin ik moest kiezen of Albanië of Azerbeidzjan belangrijker was. Ik blijf bij mijn besluit, want wat ze in Azerbeidzjan vonden, was objectief gezien erger, maar toch mag geen enkele persoon de leiding hebben over dit soort vragen. Er zijn veel nieuwsberichten geweest over hoe Facebook te weinig middelen heeft op het gebied van integriteit. Ik heb geen nieuwsberichten gezien die klagen dat Facebook te weinig middelen heeft voor advertentiemarketing. En ik denk dat dat boekdelen zegt over de prioriteiten van het bedrijf aan het eind.

Wat ik het moeilijkst vond, was in bepaalde autoritaire landen. De democratische oppositie profiteerde van het gebruik van hartige tactieken. En over die gevallen dacht ik het meest na. Maar ik haalde ze toch zonder aarzelen neer, omdat ik er vast van overtuigd was dat ik trouw was aan de ideeën van democratie en de rechtsstaat. En die fundamentele democratie kan niet op een bed van leugens staan. Als een zeer laaggeplaatste werknemer in mijn eigen vrije tijd, zonder enig toezicht, persoonlijk beslissingen nam die rechtstreeks van invloed waren op de nationale regeringen.

Het is een moeilijke vraag om te beantwoorden wat ik denk dat er zou moeten gebeuren, want een deel ervan is zoiets als vragen of je de lucht elke kleur zou kunnen geven, welke kleur zou je willen hebben? Omdat het een is, is het een overwegend theoretische vraag en je antwoord heeft geen echt effect op de echte wereld.

Ik kan Mark niet van gedachten doen veranderen, net zo min als zij de lucht van de ene op de andere dag roze kunnen maken. Dit is aan de mensen die naar mij luisteren, aan mensen zoals jij, want ik kan zelf niets veranderen. Ik heb maar zoveel macht als anderen mij geven. Als u wilt dat de zaken veranderen, moet u dit persoonlijk aan uw vertegenwoordigers vragen, omdat dit uiteindelijk een probleem is dat niet door een paar alleenstaanden wordt ervaren. Dit is het probleem waarbij de kosten worden gedragen door de samenleving, door de democratie, door het maatschappelijk discours als geheel. En als bedrijf heeft Facebook geen enkele reden om dit op te lossen, meer dan we hadden verwacht dat Philip Morris niet-verslavende sigaretten zou ontwikkelen.

Jennifer: Ik was daar toen is een oral history-project met de verhalen van mensen die getuige zijn geweest van doorbraken in kunstmatige intelligentie en computergebruik.

Heeft u een verhaal te vertellen? Ken je iemand die dat doet? Stuur ons een e-mail naar podcasts op technology review dot com.

[MIDROLL]

[CREDITS]

Jennifer: Deze aflevering is door mij geproduceerd met hulp van Anthony Green en Emma Cillekens. We zijn bewerkt door Niall Firth en Mat Honan. Onze mix engineer is Garret Lang... en onze themamuziek is van Jacob Gorski.

Bedankt voor het luisteren, ik ben Jennifer Strong.

[TR-ID]

zich verstoppen