211service.com
DeepMind vraagt hoe AI heeft geholpen om internet in een echokamer te veranderen
MEVR. TECH | FOTO'S: YOUTUBE Mevr. Tech | Foto's: YouTube
Een van de meest voorkomende toepassingen van machine learning is tegenwoordig in aanbevelingsalgoritmen. Netflix en YouTube gebruiken ze om je nieuwe shows en video's te pushen; Google en Facebook gebruiken ze om de inhoud in uw zoekresultaten en nieuwsfeed te rangschikken. Hoewel deze algoritmen veel gemak bieden, hebben ze enkele ongewenste bijwerkingen. Je hebt er vast wel eens van gehoord: filterbubbels en echokamers.
Bezorgdheid over deze effecten is niet nieuw. In 2011 waarschuwde Eli Pariser, nu de CEO van Upworthy, voor filterbubbels op het TED-podium. Zelfs daarvoor, in zijn boek republic.com , Cass Sunstein, professor in de rechten van Harvard, voorspelde nauwkeurig een groepspolarisatie-effect, aangedreven door de opkomst van internet, dat uiteindelijk een gezonde democratie zou uitdagen. Facebook zou nog drie jaar niet bestaan.
Beide ideeën werden snel populair in de nasleep van de Amerikaanse verkiezingen van 2016, wat leidde tot een toename van relevant onderzoek. Nu voegt Google's eigen AI-dochteronderneming, DeepMind, toe aan de hoeveelheid wetenschap. (Beter laat dan nooit, toch?)
In een nieuw papier , analyseerden onderzoekers hoe verschillende aanbevelingsalgoritmen beide fenomenen, die de onderzoekers afzonderlijk definiëren, kunnen versnellen of vertragen. Echokamers, zeggen ze, versterken de interesses van gebruikers door herhaalde blootstelling aan vergelijkbare inhoud. Ter vergelijking: filterbubbels verkleinen de reikwijdte van de inhoud waaraan gebruikers worden blootgesteld. Beide zijn academisch gesproken voorbeelden van gedegenereerde feedbackloops. Een hogere mate van degeneratie verwijst in dit geval naar een sterker filterbubbel- of echokamereffect.
Ze voerden simulaties uit van vijf verschillende aanbevelingsalgoritmen, die verschillende prioriteit gaven aan het nauwkeurig voorspellen van precies waarin de gebruiker geïnteresseerd was, in plaats van het willekeurig promoten van nieuwe inhoud. De algoritmen die nauwkeurigheid belangrijker vonden, leidden tot een veel snellere degeneratie van het systeem. Met andere woorden, de beste manier om filterbubbels of echokamers te bestrijden, is door de algoritmen zo te ontwerpen dat ze meer verkennend zijn en u dingen laten zien die minder zeker uw interesse wekken. Het kan ook helpen om de algemene verzameling informatie waaruit de aanbevelingen zijn afgeleid uit te breiden.
Joseph A. Konstan, een professor in computerwetenschappen aan de Universiteit van Minnesota, die eerder leiding gaf aan Onderzoek op filterbubbels, zegt dat de resultaten van de analyse van DeepMind niet verrassend zijn. Onderzoekers begrijpen al lang de spanning tussen nauwkeurige voorspelling en effectieve verkenning in aanbevelingssystemen, zegt hij.
Ondanks eerdere onderzoeken die aantoonden dat gebruikers lagere nauwkeurigheidsniveaus tolereren om voordeel te halen uit diverse aanbevelingen, hebben ontwikkelaars nog steeds een ontmoediging om hun algoritmen op die manier te ontwerpen. Het is altijd makkelijker om 'gelijk te hebben' door veilige keuzes aan te bevelen, zegt Konstan.
Konstan bekritiseert ook de DeepMind-studie voor het benaderen van filterbubbels en echokamers als simulaties voor machinaal leren in plaats van interactieve systemen waarbij mensen betrokken zijn - een beperking die de onderzoekers ook opmerkten. Ik maak me altijd zorgen over werk dat zich beperkt tot simulatiestudies (of offline data-analyses), zegt hij. Mensen zijn complex. Aan de ene kant weten we dat ze diversiteit waarderen, maar aan de andere kant weten we ook dat als we de aanbevelingen te ver oprekken - tot het punt waarop gebruikers denken dat we niet betrouwbaar zijn - we de gebruikers volledig kunnen verliezen.
Correctie: De kop is bijgewerkt om de reikwijdte van het onderzoek beter weer te geven.