211service.com
Ons rare gedrag tijdens de pandemie knoeit met AI-modellen
Getty
In de week van 12-18 april waren de top 10 zoektermen op Amazon.com: toiletpapier, gezichtsmasker, handdesinfecterend middel, papieren handdoeken, Lysol-spray, Clorox-doekjes, masker, Lysol, maskers voor kiembescherming en N95-masker . Mensen waren niet alleen aan het zoeken, ze kochten ook - en in bulk. De meerderheid van de mensen die op zoek waren naar maskers, kochten uiteindelijk de nieuwe Amazon #1 bestseller, gezichtsmasker, pak van 50 .
Toen covid-19 toesloeg, begonnen we dingen te kopen die we nog nooit eerder hadden gekocht. De verschuiving was plotseling: de pijlers van Amazon's top tien - telefoonhoesjes, telefoonopladers, Lego - werden in slechts een paar dagen van de hitlijsten geslagen. Nozzle, een in Londen gevestigd adviesbureau gespecialiseerd in algoritmische reclame voor Amazon-verkopers, legde de snelle verandering vast in deze eenvoudige grafiek.
Het duurde eind februari minder dan een week voordat de top 10 Amazon-zoektermen in meerdere landen vol waren met producten die verband houden met covid-19. Je kunt de verspreiding van de pandemie volgen door waar we naar hebben gewinkeld: de items bereikten het eerst een hoogtepunt in Italië, gevolgd door Spanje, Frankrijk, Canada en de VS. Het VK en Duitsland blijven iets achter. Het is een ongelooflijke overgang in een tijdsbestek van vijf dagen, zegt Rael Cline, CEO van Nozzle. De rimpeleffecten zijn waargenomen in de toeleveringsketens van de detailhandel.
Maar ze hebben ook invloed gehad op kunstmatige intelligentie, waardoor hikken ontstaan voor de algoritmen die achter de schermen worden uitgevoerd bij voorraadbeheer, fraudedetectie, marketing en meer. Modellen voor machinaal leren die zijn getraind op normaal menselijk gedrag, ontdekken nu dat normaal is veranderd en sommige werken niet meer zoals ze zouden moeten.
Hoe erg de situatie is, hangt af van met wie je praat. Volgens Pactera Edge, een wereldwijd AI-adviesbureau, is automatisering in een neerwaartse spiraal terechtgekomen. Anderen zeggen dat ze geautomatiseerde systemen nauwlettend in de gaten houden die het bijna volhouden, en indien nodig een handmatige correctie uitvoeren.
Wat duidelijk is, is dat de pandemie heeft onthuld hoe verweven ons leven is met AI, waardoor een delicate wederzijdse afhankelijkheid wordt blootgelegd waarin veranderingen in ons gedrag veranderen hoe AI werkt, en veranderingen in hoe AI werkt ons gedrag veranderen. Dit herinnert er ook aan dat menselijke betrokkenheid bij geautomatiseerde systemen essentieel blijft. Je kunt nooit gaan zitten en vergeten wanneer je in zulke buitengewone omstandigheden bent, zegt Cline.
Meer over het coronavirus
Onze meest essentiële dekking van covid-19 is gratis, waaronder:
Wat is kudde-immuniteit?
Hoe werkt het coronavirus?
Wat zijn de mogelijke behandelingen?
Welke medicijnen werken het beste?
Wat is de juiste manier om aan social distancing te doen?
Andere veelgestelde vragen over het coronavirus
---
Nieuwsbrief: Coronavirus Tech Report
Zoomshow: Radio Corona
Zie ook:
Al onze covid-19 dekking
Het covid-19 speciale nummer
Klik hier om u te abonneren en onze non-profit journalistiek te steunen.
Machine learning-modellen zijn ontworpen om te reageren op veranderingen. Maar de meeste zijn ook kwetsbaar; ze presteren slecht wanneer de invoergegevens te veel verschillen van de gegevens waarop ze zijn getraind. Het is een vergissing om aan te nemen dat je een AI-systeem kunt opzetten en weg kunt lopen, zegt Rajeev Sharma, global vice president bij Pactera Edge: AI is een levende, ademende motor.
Sharma heeft met verschillende bedrijven gesproken die worstelen met eigenzinnige AI. Een bedrijf dat sauzen en specerijen levert aan retailers in India had hulp nodig bij het repareren van zijn geautomatiseerde voorraadbeheersysteem toen bulkorders de voorspellende algoritmen braken. De verkoopprognoses van het systeem waarop het bedrijf vertrouwde om de voorraad bij te bestellen, kwamen niet meer overeen met wat er daadwerkelijk werd verkocht. Het is nooit getraind op een dergelijke piek, dus het systeem was in de war, zegt Sharma.
Een ander bedrijf gebruikt een AI om het sentiment van nieuwsartikelen te beoordelen en geeft dagelijkse investeringsaanbevelingen op basis van de resultaten. Maar aangezien het nieuws op dit moment somberder is dan normaal, zal het advies erg scheef zijn, zegt Sharma. En een groot streamingbedrijf dat een plotselinge toestroom van contenthongerige abonnees heeft gehad, heeft ook problemen met zijn aanbevelingsalgoritmen, zegt hij. Het bedrijf gebruikt machine learning om relevante en gepersonaliseerde inhoud aan kijkers voor te stellen, zodat ze blijven terugkomen. Maar de plotselinge verandering in abonneegegevens maakte de aanbevelingen van het systeem minder nauwkeurig.
Veel van deze problemen met modellen ontstaan doordat meer bedrijven systemen voor machinaal leren kopen, maar niet over de interne knowhow beschikken om ze te onderhouden. Omscholing van een model kan deskundige menselijke tussenkomst vereisen.
De huidige crisis heeft ook aangetoond dat het nog erger kan worden dan de redelijk vanille-worstscenario's die in trainingssets zijn opgenomen. Sharma vindt dat meer AI's moeten worden getraind, niet alleen op de ups en downs van de afgelopen jaren, maar ook op buitenissige gebeurtenissen zoals de Grote Depressie van de jaren dertig, de Black Monday-beurscrash in 1987 en de financiële crisis van 2007-2008. Een pandemie als deze is een perfecte trigger om betere modellen voor machine learning te bouwen, zegt hij.
Toch kun je je niet op alles voorbereiden. Als een machine learning-systeem niet ziet wat het verwacht te zien, dan heb je over het algemeen problemen, zegt David Excell, oprichter van Featurespace, een bedrijf voor gedragsanalyse dat AI gebruikt om creditcardfraude te detecteren. Misschien verrassend, Featurespace heeft zijn AI niet al te slecht zien raken. Mensen kopen nog steeds dingen op Amazon en abonneren zich op Netflix zoals ze voorheen waren, maar ze kopen geen dure items of besteden niet op nieuwe plaatsen, wat het gedrag is dat argwaan kan wekken. Het bestedingsgedrag van mensen is een samentrekking van hun oude gewoontes, zegt Excell.
De ingenieurs van het bedrijf hoefden alleen maar in te grijpen om zich aan te passen aan een golf van mensen die tuinapparatuur en elektrisch gereedschap kochten, zegt Excell. Dit zijn de soorten abnormale aankopen voor de middenprijs die algoritmen voor fraudedetectie kunnen oppikken. Ik denk dat er zeker meer toezicht is, zegt Excell. De wereld is veranderd en de gegevens zijn veranderd.
De toon goed krijgen
Het in Londen gevestigde Phrasee is een ander AI-bedrijf dat hands-on is. Het gebruikt natuurlijke taalverwerking en machine learning om namens zijn klanten e-mailmarketingkopieën of Facebook-advertenties te genereren. Ervoor zorgen dat het de juiste toon krijgt, is een deel van zijn werk. De AI werkt door veel mogelijke zinnen te genereren en deze vervolgens door een neuraal netwerk te leiden dat de beste kiest. Maar omdat het genereren van natuurlijke taal erg fout kan gaan, laat Phrasee mensen altijd controleren wat er in en uit de AI gaat.
Toen covid-19 toesloeg, realiseerde Phrasee zich dat meer gevoeligheid dan normaal nodig zou kunnen zijn en begon extra taal uit te filteren. Het bedrijf heeft specifieke uitdrukkingen, zoals viraal gaan, verboden en staat geen taal toe die verwijst naar ontmoedigde activiteiten, zoals feestkleding. Het heeft zelfs emoji's geselecteerd die als te vrolijk of te alarmerend kunnen worden gelezen. En het heeft ook termen laten vallen die angst kunnen opwekken, zoals OMG, wees voorbereid, sla een voorraad in en zet je schrap. Mensen willen niet dat marketing hen angstig en angstig maakt - weet je, deze deal loopt bijna af, druk druk druk, zegt Parry Malm, de CEO van het bedrijf.
Als microkosmos voor de detailhandel als geheel kun je Amazon echter niet verslaan. Het is ook waar enkele van de meest subtiele aanpassingen achter de schermen worden gemaakt. Omdat Amazon en de 2,5 miljoen externe verkopers die het ondersteunt, worstelen om aan de vraag te voldoen, maakt het kleine aanpassingen aan zijn algoritmen om de belasting te helpen spreiden.
De meeste Amazon-verkopers vertrouwen op Amazon om hun bestellingen uit te voeren. Verkopers slaan hun artikelen op in een Amazon-magazijn en Amazon zorgt voor alle logistiek, bezorging bij mensen thuis en afhandeling van retouren. Vervolgens promoot het verkopers wiens bestellingen het zelf uitvoert. Als u bijvoorbeeld naar een specifiek item zoekt, zoals een Nintendo Switch, is het resultaat dat bovenaan verschijnt, naast de prominente knop Toevoegen aan winkelmandje, eerder afkomstig van een leverancier die gebruikmaakt van de logistiek van Amazon dan van een leverancier die dat niet doet. 't.
Maar de afgelopen weken heeft Amazon dat omgedraaid, zegt Cline. Om de vraag naar zijn eigen magazijnen te verminderen, lijken de algoritmen nu meer kans te hebben om verkopers te promoten die hun eigen leveringen afhandelen.
Volatiele markten
Dit soort aanpassingen zou moeilijk zijn zonder handmatige tussenkomst. De situatie is zo volatiel, zegt Cline. Je probeert vorige week te optimaliseren voor toiletpapier, en deze week wil iedereen puzzels of fitnessapparatuur kopen.
De aanpassingen die Amazon aan zijn algoritmen aanbrengt, hebben vervolgens een domino-effect op de algoritmen die verkopers gebruiken om te beslissen wat ze aan online advertenties uitgeven. Elke keer dat een webpagina met advertenties wordt geladen, vindt er een supersnelle veiling plaats waarbij automatische bieders onderling beslissen wie elke advertentiebox mag vullen. Het bedrag dat deze algoritmen besluiten te besteden aan een advertentie hangt af van een groot aantal variabelen, maar uiteindelijk is de beslissing gebaseerd op een schatting van hoeveel u, de oogbollen op de pagina, voor hen waard bent. Er zijn veel manieren om het gedrag van klanten te voorspellen, waaronder niet alleen gegevens over uw eerdere aankopen, maar ook het hokje waarin advertentiebedrijven u hebben geplaatst op basis van uw online activiteiten.
Maar nu is een van de beste voorspellers of iemand die op een advertentie klikt, uw product zal kopen, hoe lang u zegt dat het zal duren om het te leveren, zegt Cline. Dus Nozzle praat met klanten over het aanpassen van hun algoritmen om hier rekening mee te houden. Als u bijvoorbeeld denkt dat u niet sneller kunt leveren dan een concurrent, is het misschien niet de moeite waard om te proberen hen te overbieden in een advertentieveiling. Aan de andere kant, als u weet dat uw concurrent geen voorraad meer heeft, kunt u goedkoop gokken dat ze niet zullen bieden.
Dit alles is alleen mogelijk met een toegewijd team dat alles in de gaten houdt, zegt Cline. Hij denkt dat de huidige situatie een eye-opener is voor veel mensen die ervan uitgingen dat alle geautomatiseerde systemen zichzelf zouden kunnen draaien. Je hebt een data science-team nodig dat de verbinding kan leggen tussen wat er in de wereld gebeurt en wat er in de algoritmen gebeurt, zegt hij. Een algoritme zou dit soort dingen nooit oppikken.
Nu alles met elkaar verbonden is, is de impact van een pandemie wijd en zijd gevoeld, ontroerende mechanismen die in meer typische tijden verborgen blijven. Als we op zoek zijn naar een zilveren randje, dan is het nu tijd om de balans op te maken van die nieuw blootgestelde systemen en te vragen hoe ze beter kunnen worden ontworpen en veerkrachtiger kunnen worden gemaakt. Als machines te vertrouwen zijn, moeten we ze bewaken.