Een AI-bondgenoot om pesten in virtuele werelden te bestrijden

Saiman Chow

In elk gefictionaliseerd universum kan het onderscheid tussen speels antagonisme en ernstige intimidatie moeilijk te onderscheiden zijn. Uitschelden tussen vrienden die samen een videogame spelen, is vaak een vorm van kameraadschap. Tussen vreemden nemen soortgelijke woorden echter een andere, lastiger kwaliteit aan. Het kunnen onderscheiden van de twee is cruciaal voor elke maker van videogames die een gastvrije gemeenschap wil koesteren.

Spirit AI hoopt ontwikkelaars te helpen spelers te ondersteunen en pestgedrag te ontmoedigen met een misbruikdetectie- en interventiesysteem genaamd Ally. De software bewaakt interacties tussen spelers - wat mensen tegen elkaar zeggen en hoe ze zich gedragen - via de beschikbare acties binnen een game of sociaal platform. Het kan verbale intimidatie en ook non-verbale provocatie detecteren, bijvoorbeeld wanneer een speler de avatar van een ander stalkt of rapportagetools misbruikt.

We kijken naar interactiepatronen, gecombineerd met classificaties in natuurlijke taal, in plaats van te vertrouwen op een lijst met individuele trefwoorden, legt Ruxandra Dariescu, een van Ally's ontwikkelaars, uit. Intimidatie is een genuanceerd probleem.

Wanneer Ally mogelijk misbruik identificeert, controleert het of de potentiële misbruiker en de andere speler eerdere interacties hebben gehad. Waar Ally verschilt van bestaande moderatiesoftware is dat in plaats van simpelweg een waarschuwing naar de ontwikkelaars van de game te sturen, het een computergestuurd virtueel personage kan sturen om in te checken bij de speler - een die, via de natuurlijke taaltools van Spirit AI, is in staat om te converseren in de toon en stijl van het spel (zie Een videogame-algoritme om online misbruik op te lossen).

Verwant verhaal

Lees volgende Hoe een team van psychologen en wetenschappers van Riot Games het geheim ontsluit om misbruik binnen een online videogame te elimineren.

Ally's bot zou kunnen zeggen: ik heb gemerkt dat jij en speler 42 vreemden lijken te zijn. Ze hebben misschien iets ongepasts tegen je gezegd, dus ik wilde gewoon controleren of je in orde bent? De speler kan dan op de bot reageren, zegt Dariescu. Als de interactie wordt afgedaan als vriendelijk geklets, registreert het systeem dit en werkt het de regels bij, zodat het in de toekomst niet meer ingrijpt bij soortgelijk gedrag. Als de gebruiker zich beledigd voelt, grijpt het systeem in bij de boosdoener.

Ally is compatibel met alle online games en Spirit AI werkt aan het toevoegen van mogelijkheden aan politiegedrag in virtual reality-games (zie The War on the Disturbingly Real Trolls in Virtual Reality). De tool kan op verschillende manieren worden geconfigureerd om met spelers te communiceren en verschillende soorten acties uit te voeren. Spirit AI ziet Ally als een manier om het communitymanagementteam van een game uit te breiden, dat de activiteit in een dashboard kan volgen.

Het bedrijf, dat officieel werd opgericht in 2016 en momenteel 15 medewerkers heeft, wil niet onthullen met welke game-ontwikkelaars het momenteel werkt, maar de software heeft de aandacht getrokken in de gamewereld. Op het eenvoudigste niveau kunnen door AI ondersteunde tools voor communitybeheer het bereik van het team vergroten, zegt Imre Jele, een ervaren ontwerper van enorme online multiplayer-games zoals RuneScape. Maar waar ik het meest enthousiast over ben, zijn AI-systemen die verder gaan dan het identificeren en bestraffen van regelovertredend gedrag. Uiteindelijk zou het doel van deze AI-teamleden moeten zijn om uit de politie te stappen en positieve interacties vorm te geven en gezondere gemeenschappen op te bouwen.

Verwant verhaal

Lees volgende Wanneer u het gevoel heeft dat u zich echt in een virtueel lichaam bevindt, is het belangrijk om uw persoonlijke ruimte te beschermen.

Spirit is zeker van plan dat de software meer biedt dan alleen een gedigitaliseerde politiemacht die kan worden opgeroepen voor online games. We hebben het potentieel voor deze technologie geïdentificeerd om niet alleen slecht gedrag te voorkomen, maar ook om goed, prosociaal gedrag aan te moedigen, zegt Dariescu. De software kan ook ambient afluisteren gebruiken om bredere problemen te identificeren die spelers kunnen hebben met het ontwerp van een game, waardoor de ontwikkelaar inzicht krijgt in hoe de algehele spelerservaring kan worden verbeterd.

Er zijn echter beperkingen als het gaat om AI-interventies bij intimidatie, aldus Jele. Veel interacties tussen communitymanagement en spelersondersteuningsteams vereisen diepe empathie en sympathie, zegt hij: De spelers steunden de ontwikkelaars met hun geld en verdienen de best mogelijke zorg, die op dit moment alleen mensen kunnen bieden.

zich verstoppen