211service.com
YouTube experimenteert met manieren om het algoritme nog verslavender te maken
Afbeelding van YouTube-interface met ASMR-video's mevrouw Tech; Afbeeldingen: screenshots van YouTube | Gibi ASMR/ASMR Darling/W magazine/ASMR Glow
Aanbevelingsalgoritmen behoren tegenwoordig tot de krachtigste machine learning-systemen vanwege hun vermogen om de informatie die we consumeren vorm te geven. Vooral het algoritme van YouTube heeft een buitensporige invloed. Het platform wordt geschat op de tweede plaats na Google in webverkeer, en 70% van wat gebruikers kijken, wordt hen via aanbevelingen gegeven.
In de afgelopen jaren is deze invloed zwaar onder de loep genomen. Omdat het algoritme is geoptimaliseerd om mensen te betrekken bij video's, biedt het meestal keuzes die versterken wat iemand al leuk vindt of gelooft, wat een verslavende ervaring kan creëren die andere weergaven buitensluit. Dit beloont vaak ook de meest extreme en controversiële video's, die studies hebben aangetoond dat het mensen snel kan pushen diepe konijnenholen van inhoud en leiden tot politieke radicalisering .
Hoewel YouTube publiekelijk heeft gezegd dat het werkt aan het oplossen van deze problemen, nieuw papier van Google, dat eigenaar is van YouTube, lijkt een ander verhaal te vertellen. Het stelt een update voor van het algoritme van het platform dat bedoeld is om gebruikers nog meer gerichte inhoud aan te bevelen om de betrokkenheid te vergroten.
Zo werkt het aanbevelingssysteem van YouTube werkt momenteel . Om de zijbalk met aanbevolen video's te vullen, stelt het eerst een shortlist van enkele honderden video's samen door degene te vinden die overeenkomen met het onderwerp en andere kenmerken van degene die je aan het bekijken bent. Vervolgens rangschikt het de lijst op basis van de voorkeuren van de gebruiker, die het leert door al uw klikken, vind-ik-leuks en andere interacties in een algoritme voor machine learning in te voeren.
Onder de voorgestelde updates richten de onderzoekers zich specifiek op een probleem dat zij identificeren als impliciete vooringenomenheid. Het verwijst naar de manier waarop aanbevelingen zelf het gedrag van gebruikers kunnen beïnvloeden, waardoor het moeilijk te ontcijferen is of je op een video hebt geklikt omdat je deze leuk vond of omdat deze sterk werd aanbevolen. Het effect is dat het systeem gebruikers na verloop van tijd steeds verder weg kan duwen van de video's die ze eigenlijk willen bekijken.
Om deze vooringenomenheid te verminderen, stellen de onderzoekers een aanpassing aan het algoritme voor: elke keer dat een gebruiker op een video klikt, wordt ook de positie van de video in de aanbevelingszijbalk meegerekend. Video's die zich bijna bovenaan de zijbalk bevinden, krijgen minder gewicht wanneer ze worden ingevoerd in het algoritme voor machine learning; video's diep in de ranglijst, waarvoor een gebruiker moet scrollen, krijgen meer. Toen de onderzoekers de veranderingen live op YouTube testten, ontdekten ze aanzienlijk meer gebruikersbetrokkenheid.
Hoewel de krant niet zegt of het nieuwe systeem permanent zal worden geïmplementeerd, zei Guillaume Chaslot, een ex-YouTube-technicus die nu AlgoTransparency.org beheert, dat hij er vrij zeker van was dat het relatief snel zou gebeuren: ze zeiden dat het de wachttijd verhoogt tijd met 0,24%. Als je het bedrag berekent, denk ik dat dat misschien tientallen miljoenen dollars is.
Verschillende experts die de paper beoordeelden, zeiden dat de veranderingen perverse effecten zouden kunnen hebben. In ons onderzoek hebben we ontdekt dat de algoritmen van YouTube een geïsoleerde extreemrechtse gemeenschap hebben gecreëerd, gebruikers naar video's van kinderen hebben geduwd en verkeerde informatie hebben gepromoot, zei Jonas Kaiser, een filiaal bij het Berkman Klein Center for Internet & Society. In de periferie zou deze verandering de vorming van meer geïsoleerde gemeenschappen kunnen bevorderen dan we al hebben gezien. Jonathan Albright, de directeur van het digitale forensische initiatief bij het Tow Center for Digital Journalism, zei dat hoewel het verminderen van positievooroordeel een goed begin is om de feedbacklus van lage kwaliteit inhoud te vertragen, de verandering in theorie ook extreme inhoud zou kunnen bevorderen.
Becca Lewis, een voormalig onderzoeker bij Data & Society die online extremisme bestudeert, zei dat het moeilijk was om te weten hoe de veranderingen zouden uitpakken. Dat geldt ook intern voor YouTube, zei ze. Er zijn zoveel verschillende communities op YouTube, verschillende manieren waarop mensen YouTube gebruiken, verschillende soorten inhoud, dat de implicaties in zoveel gevallen anders zullen zijn. We worden proefpersonen voor YouTube.
Toen hij werd bereikt voor commentaar, zei een YouTube-woordvoerder dat zijn ingenieurs en productteams hadden vastgesteld dat de wijzigingen niet zouden leiden tot filterbubbels. Het bedrijf verwacht daarentegen dat de veranderingen deze zullen verminderen en de aanbevelingen in het algemeen zullen diversifiëren.
Alle drie de externe onderzoekers waarmee MIT Technology Review contact heeft opgenomen, bevelen aan dat YouTube meer tijd besteedt aan het onderzoeken van de impact van algoritmische veranderingen door middel van methoden zoals interviews, enquêtes en gebruikersinvoer. YouTube heeft dit tot op zekere hoogte gedaan, zei de woordvoerder en werkte aan het verwijderen van extreme inhoud in de vorm van haatzaaiende uitlatingen op zijn platform.
YouTube zou meer energie moeten steken in het begrijpen van welke actoren hun algoritmen prefereren en versterken dan hoe ze gebruikers op het platform kunnen houden, zei Kaiser.
Het frustrerende is dat het niet in het zakelijke belang van YouTube is om dat te doen, voegde Lewis eraan toe. Maar er is een ethische noodzaak.
Correcties: De impact van de verandering van YouTube zou waarschijnlijk in de orde van tientallen miljoenen zijn, niet miljarden dollars. Het verhaal is ook bijgewerkt op 27 september 2019 om 15.30 uur ET om de reactie van YouTube weer te geven.
Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.