Waarom kinderen speciale bescherming nodig hebben tegen de invloed van AI

Ludovic Toinel / Unsplash

Algoritmen kunnen de loop van het leven van kinderen veranderen. Kinderen communiceren met Alexa's die hun spraakgegevens kunnen opnemen en hun spraak en sociale ontwikkeling kunnen beïnvloeden. Ze bingen video's op TikTok en YouTube die hen worden aangeboden door aanbevelingssystemen die uiteindelijk hun wereldbeeld vormen.

Algoritmen worden ook steeds vaker gebruikt om te bepalen hoe hun opleiding eruit ziet, of ze gezondheidszorg krijgen en zelfs of ze hun ouders worden geschikt geacht om voor hen te zorgen . Dit kan soms verwoestende gevolgen hebben: afgelopen zomer bijvoorbeeld duizenden studenten hun toelating tot de universiteit verloren na algoritmen - gebruikt in plaats van door pandemie geannuleerde gestandaardiseerde tests - voorspelden onnauwkeurig hun academische prestaties.

Met andere woorden, kinderen lopen vaak voorop als het gaat om het gebruiken en gebruiken door AI, en dat kan hen in een positie brengen om gewond te raken. Omdat ze zich intellectueel, emotioneel en fysiek ontwikkelen, zijn ze heel vormbaar, zegt Steve Vosloo, beleidsspecialist digitale connectiviteit bij Unicef, het Kinderfonds van de Verenigde Naties.

Vosloo leidde het opstellen van een nieuwe reeks richtlijnen van Unicef ​​ontworpen om overheden en bedrijven te helpen bij het ontwikkelen van AI-beleid dat rekening houdt met de behoeften van kinderen. De negen nieuwe richtlijnen, die op 16 september zijn uitgebracht, zijn het resultaat van verschillende consultaties met beleidsmakers, onderzoekers op het gebied van kinderontwikkeling, AI-beoefenaars en kinderen over de hele wereld. Ze houden ook rekening met het VN-Verdrag inzake de Rechten van het Kind, een mensenrechtenverdrag dat in 1989 werd geratificeerd.

De richtlijnen zijn niet bedoeld als de zoveelste set AI-principes, waarvan er vele al dezelfde dingen zeggen. In januari van dit jaar, een recensie van Harvard Berkman Klein Center van 36 van de meest prominente documenten die de nationale en bedrijfs-AI-strategieën begeleiden, vonden acht gemeenschappelijke thema's, waaronder privacy, veiligheid, eerlijkheid en verklaarbaarheid.

De Unicef-richtlijnen zijn eerder bedoeld om deze bestaande thema's aan te vullen en op kinderen af ​​te stemmen. AI-systemen moeten bijvoorbeeld niet alleen verklaarbaar zijn, ze moeten ook aan kinderen kunnen worden uitgelegd. Ze moeten ook rekening houden met de unieke ontwikkelingsbehoeften van kinderen. Kinderen hebben meer rechten dan volwassenen, zegt Vosloo. Ze zijn ook goed voor ten minste een derde van de online gebruikers. We hebben het hier niet over een minderheidsgroep, benadrukt hij.

Naast het beperken van AI-schade, is het doel van de principes om de ontwikkeling van AI-systemen aan te moedigen die de groei en het welzijn van kinderen kunnen verbeteren. Als ze bijvoorbeeld goed zijn ontworpen, is aangetoond dat op AI gebaseerde leerhulpmiddelen: het kritisch denken en probleemoplossend vermogen van kinderen verbeteren , en ze kunnen nuttig zijn voor kinderen met leerproblemen. Emotionele AI-assistenten, hoewel relatief jong, kunnen geestelijke gezondheidsondersteuning bieden en het is aangetoond dat ze de sociale vaardigheden van autistische kinderen verbeteren. Gezichtsherkenning, gebruikt met zorgvuldige beperkingen, kan helpen bij het identificeren van kinderen die zijn ontvoerd of verhandeld.

Kinderen moeten ook worden voorgelicht over AI en worden aangemoedigd om deel te nemen aan de ontwikkeling ervan. Het gaat er niet alleen om ze te beschermen, zegt Vosloo. Het gaat erom ze empowerment te geven en hen het bureau te geven om hun toekomst vorm te geven.

Over achtergestelde groepen gesproken, kinderen zijn natuurlijk de meest achtergestelde groepen.

Yi Zeng

Unicef ​​is niet de enige die erover nadenkt. De dag voordat deze ontwerprichtlijnen uitkwamen, heeft de Beijing Academy of Artificial Intelligence (BAAI), een organisatie die wordt gesteund door het Chinese ministerie van Wetenschap en Technologie en de gemeentelijke overheid van Peking, vrijgegeven een reeks AI-principes ook voor kinderen.

De aankondiging volgt een jaar na de release van BAAI de Beijing AI-principes , beschouwd als de leidende waarden voor de nationale AI-ontwikkeling van China. De nieuwe principes die specifiek voor kinderen zijn geschetst, zijn bedoeld als een concrete implementatie van de meer algemene, zegt Yi Zeng, de directeur van het AI Ethics and Sustainable Development Research Center bij BAAI, die het ontwerp leidde. Ze sluiten nauw aan bij de richtlijnen van Unicef ​​en hebben ook betrekking op privacy, eerlijkheid, verklaarbaarheid en het welzijn van kinderen, hoewel sommige details specifieker zijn voor de zorgen van China. Een richtlijn om de fysieke gezondheid van kinderen te verbeteren, omvat bijvoorbeeld het gebruik van AI om milieuvervuiling aan te pakken.

Hoewel de twee inspanningen formeel geen verband houden, is de timing ook niet toevallig. Na een stortvloed van AI-principes in de afgelopen jaren, zeggen beide hoofdopstellers dat het creëren van meer op maat gemaakte richtlijnen voor kinderen een logische volgende stap was. Over achtergestelde groepen gesproken, kinderen zijn natuurlijk de meest achtergestelde groepen, zegt Zeng. Daarom hebben we echt speciale zorg nodig voor deze groep mensen. De teams overlegden met elkaar bij het opstellen van hun respectieve documenten. Toen Unicef ​​een consultatieworkshop hield in Oost-Azië, was Zeng aanwezig als spreker.

Unicef ​​is nu van plan een reeks proefprogramma's met verschillende partnerlanden uit te voeren om te zien hoe praktisch en effectief hun richtlijnen zijn in verschillende contexten. BAAI heeft een werkgroep gevormd met vertegenwoordigers van enkele van de grootste bedrijven die de nationale AI-strategie van het land aansturen, waaronder onderwijstechnologiebedrijf TAL, consumentenelektronicabedrijf Xiaomi, computervisiebedrijf Megvii en internetgigant Baidu. De hoop is om hen ertoe te brengen de principes in hun producten in acht te nemen en andere bedrijven en organisaties te beïnvloeden hetzelfde te doen.

Zowel Vosloo als Zeng hopen dat door het verwoorden van de unieke zorgen die AI voor kinderen met zich meebrengt, de richtlijnen het bewustzijn van deze problemen zullen vergroten. We komen hierin met open ogen, zegt Vosloo. We begrijpen dat dit voor veel overheden en bedrijven een soort nieuw terrein is. Dus als we in de loop van de tijd meer voorbeelden zien van kinderen die worden opgenomen in de AI- of beleidsontwikkelingscyclus, meer aandacht besteden aan hoe hun gegevens worden verzameld en geanalyseerd - als we zien dat AI duidelijker wordt gemaakt voor kinderen of hun verzorgers - zou dat een overwinning zijn voor ons.

zich verstoppen