211service.com
Algoritme Bewustzijn
Het zijn steeds vaker algoritmen die kiezen welke producten ze ons aanbevelen en algoritmen die beslissen of we een nieuwe creditcard moeten krijgen. Maar deze algoritmen zijn begraven buiten onze waarneming. Hoe begin je deze mysterieuze verborgen krachten te begrijpen?
Karrie Karahalios
De vraag kreeg onlangs weerklank toen Facebook een wetenschappelijk onderzoek naar emotiebesmetting onthulde dat was uitgevoerd via zijn nieuwsfeed. Uit het onderzoek bleek dat het weergeven van minder positieve updates in de feeds van mensen ervoor zorgt dat ze zelf minder positieve en meer negatieve berichten plaatsen. Dit resultaat is interessant maar verontrustend en onthult de volledige kracht van de algoritmische invloed van Facebook en zijn bereidheid om het te gebruiken.
Om de kwestie van algoritmisch bewustzijn te onderzoeken, hebben drie collega's en ik in 2013 een tool gebouwd die mensen helpt te begrijpen hoe hun Facebook-nieuwsfeed werkt.
Met behulp van Facebook's eigen programmeerinterface, toonde onze tool een lijst met verhalen die in iemands nieuwsfeed aan de linkerhelft van het scherm verschenen. Aan de rechterkant zagen gebruikers een lijst met verhalen die door hun hele vriendennetwerk waren gepost, dat wil zeggen, ze zagen de onvervalste feed zonder algoritmische curatie of manipulatie.
Een derde panel liet zien welke berichten van vrienden voornamelijk verborgen waren en welke berichten van vrienden het vaakst verschenen. Ten slotte konden gebruikers met de tool handmatig kiezen welke berichten ze wilden zien en welke berichten ze wilden verwijderen.
We hebben 40 mensen gerekruteerd - een kleine steekproef maar één die nauw aansluit bij de demografie van de VS - om deel te nemen aan een onderzoek om te zien hoe ze hun nieuwsfeed begrepen. Sommigen waren geschokt toen ze hoorden dat hun voer überhaupt was gemanipuleerd. Maar aan het einde van ons onderzoek, toen deelnemers kozen welke berichten ze wilden zien, vonden ze waarde in de feed die ze hadden samengesteld.
Toen we maanden later follow-up gaven, zeiden velen dat ze zich gesterkt voelden. Sommigen hadden hun Facebook-instellingen gewijzigd, zodat ze de feed zelf konden manipuleren. Van de 40 deelnemers stopte één persoon helemaal met het gebruik van Facebook omdat het een verwachting schendde van hoe een feed zou moeten werken.
De publieke verontwaardiging over de emotie-studie van Facebook toonde aan dat maar weinig mensen echt begrijpen hoe algoritmen de wereld die we ervaren vormgeven. En ons onderzoek toont aan hoe belangrijk het is om mensen in staat te stellen de controle over die ervaring over te nemen.
We verdienen het om de macht te begrijpen die algoritmen over ons hebben, ten goede of ten kwade.
Karrie Karahalios is universitair hoofddocent informatica aan de Universiteit van Illinois.