Prijsalgoritmen kunnen leren om met elkaar samen te werken om prijzen te verhogen

Categorie: Kunstmatige intelligentie Geplaatst 12 februari

Als u winkelt op Amazon, bepaalt waarschijnlijk een algoritme in plaats van een mens de prijs van de service of het item dat u hebt gekocht. Prijsalgoritmen zijn alomtegenwoordig geworden in de online detailhandel, aangezien geautomatiseerde systemen steeds betaalbaarder en gemakkelijker te implementeren zijn geworden. Maar terwijl bedrijven zoals luchtvaartmaatschappijen en hotels al lang machines gebruiken om hun prijzen vast te stellen, zijn prijssystemen geëvolueerd. Ze zijn overgestapt van op regels gebaseerde programma's naar programma's voor versterking, waarbij de logica van het bepalen van de prijs van een product niet langer binnen de controle van een mens ligt.

Als u zich herinnert, is versterkingsleren een subset van machine learning die straffen en beloningen gebruikt om een ​​AI-agent aan te sporen tot een specifiek doel. AlphaGo gebruikte het om de beste menselijke spelers te verslaan in het oude bordspel Go. Binnen een prijscontext krijgen deze systemen een doel zoals het maximaliseren van de totale winst; vervolgens experimenteren ze met verschillende strategieën in een gesimuleerde omgeving om de optimale te vinden. een nieuwe papier suggereert nu dat deze systemen een enorm probleem kunnen vormen: ze leren snel samen te spannen.

Onderzoekers van de Universiteit van Bologna in Italië hebben twee eenvoudige prijsalgoritmen op basis van versterkingsleren gemaakt en deze losgelaten in een gecontroleerde omgeving. Ze ontdekten dat de twee volledig autonome algoritmen leerden te reageren op elkaars gedrag en snel de prijs van goederen trokken boven waar het zou zijn geweest als het alleen had gewerkt.

Wat het meest verontrustend is, is dat de algoritmen geen spoor van gezamenlijke actie achterlaten, schreven de onderzoekers. Ze leren samen te spannen met vallen en opstaan, zonder voorkennis van de omgeving waarin ze opereren, zonder met elkaar te communiceren en zonder specifiek ontworpen of geïnstrueerd te zijn om samen te spannen. Dit kan de prijs van goederen opdrijven en uiteindelijk de consumenten schaden.

Dit verscheen oorspronkelijk in onze AI-nieuwsbrief The Algorithm. Om het direct in je inbox te krijgen, kun je je hier gratis aanmelden.