211service.com
Kookboeken, Wikipedia en automatisch gegenereerde Spanglish: de eigenzinnige manieren waarop AI-onderzoekers gegevens verzamelen
Joe Raedle/Getty Images
Gegevens zijn de olie die de ontwikkeling van AI voedt, en het geeft ons veel van de vooruitgang die we als vanzelfsprekend beschouwen: YouTube-ondertitels, Spotify-muziekaanbevelingen, die enge advertenties die je overal op internet volgen.
Maar als het gaat om het verzamelen van nuttige gegevens, moeten AI-experts vaak creatief zijn. Neem natuurlijke-taalverwerking (NLP), een deelgebied van AI dat zich richt op het leren van computers om menselijke taal te ontleden. Op de jaarlijkse Conferentie over empirische methoden in NLP presenteerden experts een breed scala aan onderzoek dat gebruik maakte van informatie die op een aantal ingenieuze manieren was verzameld. We hebben hieronder vier van onze favoriete projecten samengevat.
SPANGLISH
Onder de papers over meertalige NLP dit jaar, Microsoft presenteerde een die zich richtte op het verwerken van code-gemengde taal - tekst of spraak die vloeiend tussen twee talen schakelt. Aangezien meer dan de helft van de wereldbevolking meertalig is, is dit onderbelichte gebied belangrijk.
De onderzoekers begonnen met Spanglish (Spaans en Engels), maar ze misten voldoende Spanglish-tekst om de machine te trainen. Zo gewoon als code-mixing is in meertalige conversaties, wordt het zelden gevonden in tekst. Om die uitdaging te overwinnen, schreven de onderzoekers een programma om Engels in de Microsoft Bing-vertaler te laten komen en enkele zinnen uit de Spaanse vertaling terug in de originele tekst te weven. Het programma zorgde ervoor dat de woorden en zinnen die werden verwisseld dezelfde betekenis hadden. Zo konden ze net zoveel Spanglish maken als ze nodig hadden.
Het resulterende NLP-model presteerde beter dan eerdere modellen die afzonderlijk in Spaans en Engels waren getraind. De onderzoekers hopen dat hun werk uiteindelijk zal helpen bij het ontwikkelen van meertalige chatbots die op natuurlijke wijze in code-gemixte taal kunnen spreken.
KOOKBOEKEN
Recepten zijn geweldig voor het maken van voedsel, maar ze kunnen ook voor voedsel zorgen voor machines. Ze volgen allemaal een vergelijkbaar stapsgewijs patroon en bevatten vaak afbeeldingen die overeenkomen met de tekst - een uitstekende bron van gestructureerde gegevens om machines te leren tekst en afbeeldingen tegelijkertijd te begrijpen. Daarom onderzoekers van Hacettepe University in Turkije een gigantische dataset samengesteld van ongeveer 20.000 geïllustreerde kookrecepten. Ze hopen dat het een nieuwe bron zal zijn voor het benchmarken van de prestaties van het gezamenlijke beeld-tekstbegrip.
Wat zij RecipeQA noemen, bouwt voort op eerder onderzoek dat zich richtte op begrijpend lezen en visueel begrip afzonderlijk. In het eerste geval moet de machine een vraag en een verwante passage begrijpen om het antwoord te vinden; in de laatste zoekt het in plaats daarvan naar het antwoord in een gerelateerde foto. Het naast elkaar plaatsen van tekst en foto's vergroot de complexiteit van de taak omdat de foto's en tekst aanvullende of overbodige informatie kunnen delen.
KORTE ZINNEN
Google wil dat AI je proza opfleurt. Daartoe hebben onderzoekers daar de grootste dataset ooit voor het opsplitsen van lange zinnen in kleinere met dezelfde betekenis. Waar zou je enorme hoeveelheden bewerkingsgegevens vinden? Wikipedia natuurlijk.
Uit de rijke bewerkingsgeschiedenis van Wikipedia heeft het onderzoeksteam gevallen geëxtraheerd waarin mensen lange zinnen splitsen. Het resultaat: 60 keer meer duidelijke zin-split-voorbeelden en 90 keer meer woordenschatwoorden dan werden gevonden in de vorige benchmarkgegevensset voor deze taak. De dataset omvat ook meerdere talen.
Toen ze een machine learning-model trainden op hun nieuwe gegevens, bereikte het een nauwkeurigheid van 91%. (Hier geeft het percentage het percentage zinnen weer dat hun betekenis en grammaticale correctheid behield nadat ze waren herschreven.) Ter vergelijking: een model dat was getraind op eerdere gegevens bereikte slechts een nauwkeurigheid van 32%. Toen ze beide datasets combineerden en een ander model trainden, bereikte het een nauwkeurigheid van 95%. De onderzoekers concluderen dat toekomstige verbeteringen mogelijk zijn door nog meer gegevensbronnen te vinden.
SOCIALE-MEDIA VOORINSPANNING
Studies hebben aangetoond dat de taal die we genereren een goede voorspeller kan zijn van ons ras, geslacht en leeftijd, zelfs als die informatie nooit expliciet wordt vermeld. Met dat in gedachten probeerden onderzoekers van de Bar-Ilan University in Israël en het Allen Institute for Artificial Intelligence AI te gebruiken om tekst te ontkrachten door het verwijderen van die ingesloten indicatoren .
Om voldoende gegevens te verzamelen die de taalpatronen in verschillende demografische groepen zouden kunnen vertegenwoordigen, wendden ze zich tot Twitter. Ze verzamelden een heleboel tweets van gebruikers die gelijk verdeeld waren tussen niet-Spaanse blanken en niet-Spaanse zwarten; tussen mannen en vrouwen; en tussen mensen in de leeftijdsgroepen 18-34 en boven de 35 jaar.
Vervolgens gebruikten ze een vijandige benadering - waarbij ze twee neurale netwerken tegen elkaar uitzetten - om te zien of ze de inherente demografische indicatoren in de tweets automatisch konden verwijderen. Het ene neurale netwerk probeerde de demografische gegevens te voorspellen, terwijl het andere de tekst probeerde aan te passen om volledig neutraal te zijn, met als doel de voorspellingsnauwkeurigheid van het eerste model terug te brengen tot 50% (of kans). De aanpak verzachtte uiteindelijk de indicatoren voor ras, geslacht en leeftijd aanzienlijk, maar niet helemaal.