AI heeft een cultureel bevooroordeeld wereldbeeld dat Google van plan is te veranderen

Categorie: Kunstmatige intelligentie Geplaatst 02 december

Google heeft een Inclusieve afbeeldingenwedstrijd , een poging om de culturele vloeiendheid van beeldherkenningssoftware uit te breiden. De taak voor deelnemers: verminder de vertekening in een computervisiesysteem dat is getraind op een cultureel bevooroordeelde beeldgegevensset.

De context: Machines moeten worden getraind op enorme hoeveelheden beeldgegevens om objecten te herkennen. Recente sprongen in beeldherkenning vielen samen met de release van grote, openbaar beschikbare datasets, waaronder: ImageNet en Afbeeldingen openen .

Het probleem: De meest populaire datasets zijn echter gericht op de VS en het Westen, simpelweg omdat die westerse afbeeldingen het internet domineerden toen de datasets werden samengesteld. Als gevolg hiervan slagen systemen die erop zijn getraind er vaak niet in om scènes uit andere culturen en locaties nauwkeurig te beschrijven. Neem als voorbeeld trouwfoto's. Een standaard beeldherkenningssysteem, getraind op open-source datasets, kan een bruid in een witte jurk herkennen, in overeenstemming met de klassieke westerse traditie. Maar het zal een bruid in een sari niet herkennen tijdens een Indiase ceremonie.

De uitdaging: Een manier om dit probleem te verhelpen, is door meer diverse en representatieve beeldgegevenssets te bouwen. Hoewel Google deze benadering nastreeft, gelooft het bedrijf ook in een andere manier: door de machine-learning-algoritmen zelf aan te passen om meer inclusief te zijn bij het leren van imperfecte gegevens.

De resultaten: De wedstrijd, die werd georganiseerd in samenwerking met de Neural Information Processing Systems (NeurIPS)-conferentie, een van de grootste jaarlijkse bijeenkomsten voor AI-onderzoek, ontving inzendingen van meer dan 100 deelnemers. Google Brain-onderzoeker Pallavi Baljekar merkte tijdens een conferentiegesprek op zondag 2 december op dat het eerstejaars winnaars van de wedstrijd kleine stappen konden zetten naar meer inclusieve systemen. Maar slechts één van de vijf beste benaderingen herkende met succes een Indiase bruid. Het is duidelijk dat er meer werk moet worden verzet.