Podcast: wanneer AI kinderspel wordt

Ondanks hun populariteit bij kinderen, zijn tablets en andere verbonden apparaten gebouwd op systemen die niet zijn ontworpen om gemakkelijk te begrijpen of te navigeren. Maar het aanpassen van algoritmen om met een kind te communiceren is niet zonder complicaties, aangezien geen enkel kind precies hetzelfde is als een ander. De meeste herkenningsalgoritmen zoeken naar patronen en consistentie om objecten met succes te identificeren. Maar kinderen zijn notoir inconsequent. In deze aflevering onderzoeken we de relatie die AI heeft met kinderen.

We ontmoeten:

• Judith Danovitch, universitair hoofddocent psychologische en hersenwetenschappen aan de Universiteit van Louisville.
• Lisa Anthony, universitair hoofddocent computerwetenschappen aan de Universiteit van Florida.
• Tanya Basu, senior verslaggever bij MIT Technology Review.

Credits:

Deze aflevering werd gerapporteerd en geproduceerd door Jennifer Strong, Anthony Green en Tanya Basu met Emma Cillekens. We zijn bewerkt door Michael Reilly.

Jennifer: Het is nog niet zo lang geleden dat hinkelen, bordspellen of theefeestjes houden met poppen de norm was voor kinderen....

Hier en daar wat tv... een dagje naar het park... fietsen.

Maar... we hebben hinkelen zien veranderen in TikTok... bordspellen worden videogames... en poppen op theekransjes... doen meer dan alleen maar terugpraten

[Upsot: Barbie ad Barbie.. Dit is mijn digitale make-over.. Ik steek mijn eigen Ipad erin en open mijn app.. en de spiegel licht op.. Ik doe mijn oogschaduw lippenstift en blush.. Hoe geweldig is dat?]

Jennifer: Kinderen worden bijna vanaf de geboorte blootgesteld aan apparaten en weten vaak hoe ze een touchscreen moeten gebruiken voordat ze kunnen lopen.

Het punt is... deze systemen zijn niet echt ontworpen voor kinderen.

Dus... wat betekent het om Alexa uit te nodigen voor het feest?

[ Upsot.. 1'30-1'40 Hallo en welkom bij Amazon storytime. Je kunt alles kiezen, van piraten tot prinsessen. Zin in!]

Jennifer: En... Wat gebeurt er als speelgoed is verbonden met internet en kinderen ze alles kunnen vragen... en ze zullen niet alleen antwoorden... maar ook van uw kinderen leren en hun gegevens verzamelen.

Jennifer: Ik ben Jennifer Strong en in deze aflevering onderzoeken we de relatie die AI heeft met kinderen.

Judith: Mijn naam is Judith Danovitch. Ik ben een universitair hoofddocent psychologische en hersenwetenschappen aan de Universiteit van Louisville. Dus ik ben geïnteresseerd in hoe kinderen denken, en specifiek, ik ben geïnteresseerd in hoe kinderen denken over informatiebronnen. Als ze bijvoorbeeld ergens een vraag over hebben, hoe zoeken ze dan uit waar ze het antwoord kunnen vinden en welke antwoorden ze kunnen vertrouwen.

Jennifer: Dus toen ze haar zoon op een middag alleen zag zitten praten met Siri... wekte het meteen haar interesse. Ze zegt dat hij vier jaar oud was toen hij vragen begon te stellen.

Judith: Zoals, wat is mijn naam? En het leek alsof hij haar een soort van testte om te zien wat ze als reactie zou zeggen. Zoals, wist ze deze dingen eigenlijk over hem? Het grappige was dat het apparaat van mijn man was, wiens naam Nick is. En toen hij zei, wat is mijn naam? Ze zei, Niek. En hij zei: nee, dit is David. Dus, weet je, het was aannemelijk. Het was niet eens dat ze net zei, ik weet het niet, ze zei echt iets, maar het was verkeerd.

Jennifer: Toen... begon hij vragen te stellen die... weren’t gewoon over zichzelf...

Judith: Wat echt interessant was, omdat het leek alsof hij echt probeerde te achterhalen, houdt dit apparaat me op de een of andere manier in de gaten en kan het me nu zien? En toen ging hij verder met het stellen van wat ik alleen kan omschrijven als een heel breed scala aan vragen. Sommige herken ik als onderwerpen waar we het over hadden. Dus hij vroeg haar bijvoorbeeld: eten adelaars slangen? En ik denk dat hij en mijn man de laatste tijd over Adelaars en slangen hadden gesproken, maar toen stelde hij haar ook een paar heel diepgaande vragen die hij ons niet echt had gesteld. Dus op een gegeven moment vroeg hij waarom dingen sterven? Wat, weet je, nogal zwaar is voor een vierjarige om Siri te vragen.

Jennifer: En terwijl dit verder ging... ze begon hem stiekem op te nemen .

David: Hoe kom je uit Egypte?

Is billen een slecht woord?

... En waarom gaan dingen dood?

Judith: Later die dag, nadat ik stopte met het opnemen van hem en hij zijn interesse in deze activiteit een beetje had verloren, vroeg ik hem nog wat meer en hij vertelde me dat hij dacht dat er echt een klein mensje daarbinnen was. Dat is wie Siri was. Ze was een klein mensje in de iPad. En dat was degene die zijn vragen beantwoordde. Hij had niet zo'n goed inzicht in waar ze haar antwoorden vandaan haalde. Dus hij kon niet zeggen: Oh, ze komen van internet. En dat is een van de dingen waar ik erg in geïnteresseerd ben geraakt, als kinderen deze apparaten horen, wat, waar denken ze dan dat deze informatie vandaan komt? Is het een klein mensje of is het, je weet wel, iets anders. En, en dat sluit aan bij vragen van, gelooft u het? Rechts? Dus, moet u vertrouwen op wat het apparaat u vertelt als antwoord op uw vraag?

Jennifer: Het is het soort vertrouwen dat kleine kinderen stellen in hun ouders en leraren.

Judith: Anekdotisch denk ik dat ouders denken van, oh, kinderen zijn goedgelovig en ze zullen alles vertrouwen wat ze op internet zien. Maar wat we eigenlijk hebben gevonden, zowel met onderzoek in de Verenigde Staten als met onderzoek met kinderen in China, is dat jonge kinderen in de voorschoolse leeftijd van ongeveer vier tot zes jaar eigenlijk heel sceptisch staan ​​​​tegenover internet en als ze de keuze krijgen, raadplegen ze liever een persoon .

Jennifer: Maar ze zegt dat dat zou kunnen veranderen naarmate spraakgestuurde apparaten steeds gebruikelijker worden.

Judith: En we hebben geprobeerd uit te vinden of kinderen soortgelijke intuïties hebben over de apparaten als over internet in het algemeen, maar we zien vergelijkbare patronen bij jonge kinderen, waarbij jonge kinderen die de keuze krijgen, zeggen: ik zou liever ga een persoon om informatie vragen tenminste als die informatie met feiten te maken heeft. Zoals, weet je, waar leeft iets, waar, waar komen deze dingen vandaan? En het grootste deel van ons onderzoek was gericht op feiten.

Jennifer: Ze ziet wel een verschuiving rond 7 of 8 wanneer kinderen internet en stemassistenten meer gaan vertrouwen. Maar ze wil duidelijk zijn - dit is vroeg onderzoek... En het is niet zo dat kinderen honderd procent van de tijd apparaten geloven als ze ouder worden, ze geloven ze gewoon meer vaak.

Maar waarom zijn de jongste kinderen... degenen met een grote fantasie... meer sceptisch dan oudere kinderen?

Judith: Ik denk dat jongere kinderen eerlijk gezegd sceptisch zijn, want dit zijn nogal vreemde objecten, toch? In sommige opzichten zijn ze net mensen, toch? Het praat met je. Het heeft een soort heen en weer gesprek. Maar op andere manieren lijken deze apparaten helemaal niet op een persoon, toch? Het is deze vreemde doos. Het heeft geen gezicht of ogen of iets dergelijks, dat suggereert dat het een levend object is en dat is het natuurlijk niet, toch? Dus, weet je, voor jonge kinderen zou dat eigenlijk best moeilijk moeten zijn om erachter te komen, en het is logisch dat ze er voorzichtig mee zijn, dat ze zouden kunnen zeggen, nou ja, misschien kun je sommige dingen doen, maar ik' Ik ga met de veilige gok om mijn moeder of mijn leraar te vragen over dit soort vreemde onbekende dingen.

Jennifer: Alexa heeft meer dan 80.000 vaardigheden in de VS... en er is ondersteuning door ontwikkelaars voor vaardigheden die op kinderen zijn gericht.

[Schoolbel gaat. Geluiden van babbelende kinderen als mompelen onder volgende VO.]

Jennifer: Sesamstraat heeft er een ontworpen voor kinderen om verstoppertje te spelen met Elmo...

Elmo: Tijd om te raden waar Elmo zich verstopt!

Jennifer: Nickelodeon heeft een manier om ze onder de zee te krijgen met Spongebob Squarepants...

[SpongeBob Squarepants-themamuziek]

Jennifer: En dan is er een spel genaamd Kids Court. Het is een app ontwikkeld door Pretzel Labs voor ouders die Alexa laat oordelen over de ruzies van hun kinderen.

Alexa: Welkom bij de kinderrechtbank waar alles wat oneerlijk is eindelijk voor het gerecht wordt gebracht. Allemaal opstaan ​​voor de eervolle rechter, Lexi. Wilt u een zaak schikken of horen over eerdere processen?

Kind: Regel een zaak.

Alexa: Aanklager, vertel de rechtbank alstublieft wat er is gebeurd.

Kind: Brianna heeft mijn dagboek gelezen!

Alexa: Kinderrechtbank is gemaakt voor dit soort gevallen. Is de gedaagde aanwezig of afwezig?

Kind: aanwezig.

Alexa: Beklaagde, u zit in de problemen. Wat pleit u? Zeg schuldig als je het hebt gedaan of niet schuldig als je het deed.

Brianna: Niet schuldig!

[Muziek overgang]

Jennifer: Er zijn veel bedrijven die verbonden ervaringen aanbieden die zijn ontworpen voor kinderen. Onder hen zijn stemgames gericht op ouders die op hun hoede zijn voor schermtijd. Eén systeem heet Yoto, maar het heeft veel meer gemeen met een cassettespeler dan met een slimme luidspreker. Nieuwe inhoud zoals muziek of verhalen kan aan het systeem worden toegevoegd via kaarten die, wanneer ze in de luidspreker worden gestoken, een download van Yoto's servers activeren.

Er is niet veel aan. Er is geen stemassistent, geen camera, geen microfoon... en het gepixelde scherm is eigenlijk alleen bedoeld om de tijd of een cartoonachtig beeld weer te geven met betrekking tot wat er wordt afgespeeld.

Kate Daniëls: Het beste eraan is dat het zo simpel is. Ik bedoel, onze jongste is gisteren twee geworden en hij weet al een jaar hoe hij het moet gebruiken. Je weet wel? Ik denk niet dat het allemaal fancy hoeft te zijn.

Jennifer: Kate en Brian Daniels zijn net verhuisd van New York City naar Boston met hun drie kinderen op sleeptouw, die allemaal fervente gebruikers van Yoto zijn.

Parker Daniëls: Een songalbum dat mijn vader opzette is Hamilton. Euh, ik vind het echt leuk.

Jennifer: Dat is hun 6-jarige zoon Parker. Hij gaat door een map gevuld met kaarten... die worden gebruikt om het apparaat te bedienen.

Parker Daniëls: Um, en ik ben nu... Ik zoek de rest en ik heb een heel, net boek.

Charlotte Daniëls: En op sommige kaarten staan ​​veel liedjes en op andere staan ​​veel verhalen, maar verschillende hoofdstukken.

Jennifer: En dat is zijn jongere zus, Charlotte.

Brian Daniëls: Dus we kunnen ook verhalen opnemen en ze op aangepaste kaarten zetten, zodat de kinderen de verhalen kunnen spelen die ik verzin. En ze vinden het leuk als ik ze verhalen vertel, maar ik ben niet altijd beschikbaar, weet je, ik werk vanuit huis en heb het druk. Zo kunnen ze die verhalen op elk moment afspelen.

Jennifer: Schermloze entertainmentopties zijn essentieel voor dit gezin…. Die... afgezien van pizza op vrijdagavond en een film... niet veel tijd doorbrengen rond de tv. Maar naast het beperken van de schermtijd (zolang dat nog kan), zeggen mama en papa dat ze ook gemoedsrust hebben dat de kinderen geen directe verbinding met Google hebben.

Kate Daniëls: We hebben volledige controle over waar ze toegang toe hebben, en dat is nog iets geweldigs. We hadden een tijdje een Alexa die iemand ons had gegeven en het werkte niet goed voor ons omdat ze konden zeggen, Alexa, ons erover konden vertellen, en ze konden kiezen wat ze wilden en we wisten niet wat er terug zou komen zodat we echt kunnen bepalen waar ze naar mogen luisteren en ervaren.

Jennifer: Toch geven ze toe dat ze er nog niet helemaal achter zijn hoe ze moeten navigeren door meer geavanceerde technologie te introduceren als de tijd daar is.

Kate Daniëls: Ik denk dat dat een hele moeilijke vraag is. Weet je, wij, als ouders, willen echt alles beheren waaraan ze worden blootgesteld, maar uiteindelijk zullen we dat niet kunnen doen. Zelfs met alle software die er is om [00:18:06] Big Brother, hun eigen telefoons en elk sms-bericht te bekijken en alles wat ze surfen. Ik niet, het is een grote vraag en ik denk dat we het antwoord nog niet hebben.

--

Vragen: Een andere reden waarom deze stemspelletjes steeds populairder worden, is dat ze schermvrij zijn, wat erg interessant en belangrijk is. Gezien het feit dat kinderen meestal wordt aangeraden niet meer dan twee uur schermtijd per dag te hebben. En dan zijn ze ongeveer vier of vijf.

Hallo, mijn naam is Tanya Basu, ik ben een senior verslaggever bij MIT Technology Review en ik behandel mensen en technologie.

Vooral jongere kinderen mogen niet zoveel schermtijd krijgen. En op audio gebaseerd entertainment lijkt vaak gezonder voor ouders, omdat het hen het vermogen geeft om vermaakt te worden, om opgeleid te worden, om op een andere manier over dingen na te denken zonder dat er in feite een scherm voor hun gezicht nodig is en mogelijk later problemen veroorzaakt. op de weg die we nu gewoon niet kennen.

Jennifer: Maar het ontwerpen van deze systemen... is niet zonder complicaties.

Vragen: Veel ervan is dat kinderen leren praten, weet je, jij en ik voeren dit gesprek nu, we begrijpen wat een dialoog is op een manier die kinderen niet hebben. Dus dat is er duidelijk. Er is ook het feit dat kinderen niet echt stil zitten. Dus, weet je, iemand kan ver weg zijn of schreeuwen of een woord anders zeggen. En dat heeft natuurlijk invloed op de manier waarop ontwikkelaars deze games maken. En een groot ding dat veel mensen met wie ik sprak, noemden, was het feit dat kinderen geen universeel publiek zijn. En ik denk dat veel mensen dat vergeten, vooral degenen die deze spellen ontwikkelen...

Jennifer: Toch zegt ze dat het vermogen van kinderen om complexiteit te begrijpen niet mag worden onderschat.

Vragen: Het verbaast me oprecht dat er niet meer games voor kinderen zijn. En het verbaast me vooral dat de spellen die er zijn, meestal verhaalachtige spellen zijn en niet, weet je, een bordspel of iets dat visueel representatief is. We zien met roblox en veel van de meer populaire videogames die tijdens de pandemie uitkwamen, hoe complex ze zijn, en het feit dat kinderen complexe verhaallijnen, complexe games en complexe bewegingen aankunnen. Maar veel van deze stemspelletjes zijn zo eenvoudig. En veel daarvan is omdat de technologie er gewoon niet is. Maar het verbaast me dat de verbeeldingskracht om te zien waar deze games naartoe gaan tot nu toe vrij beperkt is. Dus ik ben erg benieuwd hoe deze games zich de komende jaren ontwikkelen.

Jennifer: We komen terug, direct hierna.

[MIDROLL]

Toevoegen: Het is altijd een uitdaging om technologie naar kinderen te gooien en gewoon te verwachten dat ze zich aanpassen. En ik denk dat het tweerichtingsverkeer is.

Jennifer: Lisa Anthony is universitair hoofddocent informatica aan de Universiteit van Florida. Haar onderzoek richt zich op het ontwikkelen van interactieve technologieën die ontworpen zijn voor gebruik door kinderen.

Toevoegen: We willen niet per se systemen die groei alleen maar in de weg staan. Weet je, we willen dat kinderen blijven groeien en zich ontwikkelen en niet per se de AI gebruiken als een kruk voor al dat proces, maar we willen wel dat de AI misschien helpt. Het zou onderweg een betere ondersteuning kunnen zijn. Als we rekening houden met de ontwikkelingsbehoeften, verwachtingen en capaciteiten van kinderen bij het ontwerpen van deze systemen.

Jennifer: Ze werkt met kinderen om te begrijpen hoe ze zich anders gedragen met apparaten dan volwassenen.

Toevoegen: Dus als ze het aanraakscherm aanraken of op het aanraakscherm tekenen, hoe ziet dat er dan uit vanuit softwareoogpunt, zodat we onze algoritmen kunnen aanpassen om die interacties nauwkeuriger te herkennen en te interpreteren. // Dus sommige van de uitdagingen die je ziet, zijn echt inzicht krijgen in de behoeften, verwachtingen en vaardigheden van kinderen met betrekking tot technologie, en het zal allemaal sterk worden aangedreven door hun motorische vaardigheden, de voortgang van hun ontwikkeling, je weet wel, hun cognitieve vaardigheden , sociaal-emotionele vaardigheden en hoe ze met de wereld omgaan, zullen allemaal transitief worden toegepast op hoe ze met technologie omgaan.

Jennifer: De meeste kinderen missen bijvoorbeeld gewoon het niveau van behendigheid en motoriek dat nodig is om op een kleine knop op een touchscreen te tikken, ondanks hun kleine vingers.

Toevoegen: Dus een volwassene kan zijn vinger op het aanraakscherm leggen, een vierkant tekenen en één vloeiende streek, alle vier de zijden en het optillen, een kind, vooral een jong kind, laten we zeggen vijf, zes jaar oud zal waarschijnlijk kiezen op elke hoek hun vinger opsteken. Misschien zelfs midden in een haal en dan weer neerleggen om zichzelf te corrigeren en af ​​te maken. En dat soort kleine verschillen in hoe ze die vorm maken, kunnen een grote impact hebben op de vraag of het systeem die vorm kan herkennen als dat soort gegevens nooit als onderdeel van het trainingsproces zijn gebruikt.

Jennifer: Het is van cruciaal belang om dit in AI-modellen te programmeren, omdat handschriftherkenning en intelligente bijlessystemen steeds vaker in de klas opduiken.

De meeste herkenningsalgoritmen zoeken naar patronen en consistentie om objecten te identificeren. En kinderen... zijn notoir inconsequent. Als je een kind de opdracht zou geven om vijf vierkanten op een rij te tekenen, ziet elk vierkant er anders uit dan een algoritme.

De behoeften van kinderen veranderen naarmate ze groeien... dat betekent dat algoritmen ook moeten veranderen.

Dus, onderzoekers zijn op zoek naar lessen die zijn geleerd van kinderprogramma's... zoals hoe kinderen sociale banden aangaan met geanimeerde karakters die op mensen lijken.

Toevoegen: Dat betekent dat ze waarschijnlijk sociale verwachtingen toeschrijven aan hun interacties met dat personage. Ze voelen warm aan voor het personage. Ze hebben het gevoel dat het personage op voorspelbare sociale manieren zal reageren. En dit kan een voordeel zijn als uw systeem daar klaar voor is, maar het kan ook een uitdaging zijn. Als je systeem daar niet klaar voor is, komt het over als hout. Het komt onnatuurlijk over. De kinderen zullen daardoor worden uitgeschakeld.

Jennifer: Ze zegt dat haar onderzoek ook heeft aangetoond dat kinderen reageren op AI-systemen die transparant zijn en samen met het kind problemen kunnen oplossen.

Toevoegen: Dus kinderen wilden dat het systeem zou kunnen herkennen dat het het antwoord op hun vraag niet wist, of niet genoeg informatie kende om uw vraag te beantwoorden of een interactie afrondde en gewoon zei: ik weet het niet, of vertel het me , weet je, deze informatie die me zal helpen te beantwoorden. En ik denk dat wat we zagen, nou ja, we nog steeds de neiging hebben om in feite een ontwerptrend te zien voor AI-systemen waarbij het AI-systeem op een elegante manier probeert te herstellen van fouten of gebrek aan informatie zonder citaat te verwijderen, wat de gebruiker hindert, toch. Zonder ze er echt bij te betrekken of te onderbreken, in een poging om op een elegante manier op de achtergrond te bestaan. Kinderen waren veel toleranter ten opzichte van fouten en wilden het behandelen als een gezamenlijk probleem, een oplossing, een ervaring

Jennifer: Toch geeft ze toe dat er nog een lange weg te gaan is in het ontwikkelen van systemen met contextueel bewustzijn over interactie met kinderen.

Toevoegen: Vaak retourneert Google Home een soort van uittreksel uit de zoekresultaten van Google en het kan van alles zijn dat terugkomt, toch. En de kinderen moeten dan op de een of andere manier naar deze lange en soort obscure paragraaf luisteren en dan uitzoeken of hun antwoord ooit ergens in die paragraaf heeft gestaan. En ze zouden de hulp van hun ouders moeten krijgen om de informatie te interpreteren en een thema dat je veel ziet in dit soort werk en in het algemeen kinderen en technologieën, ze willen het zelf kunnen doen. Ze willen niet echt hun ouders om hulp moeten vragen, omdat ze onafhankelijk willen zijn en in hun eentje met de wereld bezig willen zijn.

Jennifer: Maar in hoeverre we AI een rol laten spelen bij het ontwikkelen van die onafhankelijkheid... is aan ons.

Toevoegen: Willen we bijvoorbeeld dat AI in de richting van auto's gaat, waar de meesten van ons een auto hebben, geen idee hebben hoe het onder de motorkap werkt, hoe we het kunnen repareren, hoe we het kunnen verbeteren. Wat zijn de implicaties van dit ontwerpbesluit of dat ontwerpbesluit? Of willen we dat AI iets is waar mensen... ze echt bevoegd zijn en het potentieel hebben om deze grote verschillen, deze grote beslissingen te begrijpen. Dus ik denk dat dat de reden is waarom voor mij kinderen en AI-onderwijs erg belangrijk zijn, omdat we ervoor willen zorgen dat ze het gevoel hebben dat dit niet alleen een black box mysterie-element van technologie in hun leven is, maar iets dat ze echt kunnen begrijpen, denken kritisch over verandering beïnvloeden en wellicht ook bijdragen aan het bouwen.

[CREDITS]

Jennifer: Deze aflevering is gerapporteerd en geproduceerd door mij, Anthony Green en Tanya Basu met Emma Cillekens. We zijn bewerkt door Michael Reilly.

Bedankt voor het luisteren, ik ben Jennifer Strong.

zich verstoppen