Perceptieve algoritmen vechten om meer giftige inhoud van het web te ontdekken

Categorie: Geen categorie Geplaatst 20 dec

Een nieuwe competitie zou kunnen helpen het internet op te schonen. Kaggle, een site waarmee organisaties datawetenschapswedstrijden kunnen houden, heeft zojuist zijn nieuwste project onthuld, waarin concurrenten worden gevraagd AI's te bouwen die plek giftige opmerkingen .

Concurrenten wordt gevraagd een systeem te bouwen dat verschillende soorten toxiciteit kan aanpakken, zoals bedreigingen, obsceniteit, beledigingen en op identiteit gebaseerde haat. De concurrentie wordt ondersteund door Jigsaw, een onderdeel van Alphabet, dat een onderzoeksinitiatief genaamd Conversation AI runt om het online discours te verbeteren. Om de prijs van $ 35.000 op Kaggle te winnen, moet een inzending de resultaten verslaan van een systeem gebouwd door Jigsaw, genaamd Perspective API. Sinds de lancering op dinsdag hebben 199 teams meegedaan aan de competitie.

Het internet zou zeker meer en betere hulpmiddelen kunnen gebruiken om bedreigingen en haatzaaiende uitlatingen op te ruimen. Facebook, YouTube en Twitter hebben in het verleden allemaal moeite gehad om dergelijke inhoud te controleren, en de meeste grote technologiebedrijven staan ​​erop dat AI hen kan helpen deze in de toekomst op te schonen. Maar geen van hen heeft het nog voor elkaar gekregen, en regeringen zijn ontevreden over het feit dat haatzaaiende uitlatingen niet snel worden verwijderd.

Grote technologiebedrijven proberen het echter wel. Facebook lanceerde in 2016 een tool genaamd Deeptext om sentiment in opmerkingen te detecteren en ongepaste inhoud uit te roeien. Het duurt ongeveer 66.000 reacties een week, maar er zijn nog steeds duizenden mensen die de feeds in de gaten houden. Twitter ondertussen deze week aangekondigd dat het accounts zal verbieden die dreigende tweets en berichten sturen.

Misschien zal de Kaggle-competitie helpen om het probleem eindelijk op te lossen.