Als chatbots beter worden, moeten ze je misschien beledigen

Categorie: Kunstmatige intelligentie Geplaatst 22 februari

AI's zijn beter geworden in het voeren van een gesprek, maar technologiebedrijven zijn op hun hoede om ze uit te rollen uit angst voor PR-nachtmerries.

Betere bots: De New York Times zegt recente AI-ontwikkelingen hielpen Microsoft en Facebook een nieuw soort chatbots te bouwen die zorgvuldig kiezen hoe ze willen praten. Microsoft heeft er bijvoorbeeld een gebouwd die de meest menselijk klinkende zin kiest uit een aantal kanshebbers om nauwkeurige en vertrouwde antwoorden te creëren.

Maar: Net als de rampzalig racistische Tay-bot van Microsoft gaan ze nog steeds fout. Facebook zegt dat 1 op de 1.000 uitingen van zijn chatbots racistisch, agressief of in het algemeen onwelkom zijn. Dat is bijna onvermijdelijk als ze worden getraind met beperkte gegevens, omdat er ongetwijfeld onsmakelijke tekst in online gesprekken zit die als trainingssets worden gebruikt.

Waarom het uitmaakt: Als de bots blijven verbeteren, moeten ze voor echte gebruikers gaan staan. Maar technologiebedrijven zijn bang voor PR-rampen als de software het verkeerde zegt. We moeten misschien meer fouten accepteren als we willen dat de bots beter worden.