211service.com
Evolueren naar een meer rechtvaardige AI
In associatie met Verkoopsteam
De pandemie die het afgelopen jaar over de hele wereld heeft gewoed, heeft een koud, hard licht op veel dingen geworpen: de verschillende niveaus van paraatheid om te reageren; collectieve houding ten opzichte van gezondheid, technologie en wetenschap; en enorme financiële en sociale ongelijkheid. Terwijl de wereld door de covid-19-gezondheidscrisis blijft navigeren, en sommige plaatsen zelfs beginnen met een geleidelijke terugkeer naar werk, school, reizen en recreatie, is het van cruciaal belang om de concurrerende prioriteiten op te lossen om de volksgezondheid op een billijke manier te beschermen en tegelijkertijd de privacy te waarborgen.
De langdurige crisis heeft geleid tot snelle veranderingen in werk en sociaal gedrag, evenals tot een grotere afhankelijkheid van technologie. Het is nu belangrijker dan ooit dat bedrijven, overheden en de samenleving voorzichtigheid betrachten bij het toepassen van technologie en het omgaan met persoonlijke informatie. De uitgebreide en snelle acceptatie van kunstmatige intelligentie (AI) laat zien hoe adaptieve technologieën de neiging hebben om mensen en sociale instellingen te kruisen op potentieel riskante of onrechtvaardige manieren.
Onze relatie met technologie als geheel zal na de pandemie drastisch zijn veranderd, zegt Yoav Schlesinger, directeur van de ethische AI-praktijk bij Salesforce. Er komt een onderhandelingsproces tussen mensen, bedrijven, overheid en technologie; hoe hun datastromen tussen al die partijen opnieuw worden onderhandeld in een nieuw social data-contract.
AI in actie
Toen de covid-19-crisis zich begin 2020 begon te ontvouwen, keken wetenschappers naar AI om een verscheidenheid aan medische toepassingen te ondersteunen, zoals het identificeren van potentiële kandidaat-geneesmiddelen voor vaccins of behandeling, het helpen opsporen van mogelijke covid-19-symptomen en het toewijzen van schaarse middelen zoals intensieve -bedden op de verpleegafdeling en ventilatoren. Ze leunden met name op de analytische kracht van AI-verbeterde systemen om geavanceerde vaccins en behandelingen te ontwikkelen.
Hoewel geavanceerde tools voor gegevensanalyse kunnen helpen om inzichten uit een enorme hoeveelheid gegevens te halen, is het resultaat niet altijd rechtvaardiger geweest. In feite kunnen AI-gestuurde tools en de datasets waarmee ze werken inherente vooringenomenheid of systemische ongelijkheid in stand houden. Tijdens de pandemie hebben instanties zoals de Centers for Disease Control and Prevention en de Wereldgezondheidsorganisatie enorme hoeveelheden gegevens verzameld, maar de gegevens vertegenwoordigen niet noodzakelijk een nauwkeurige weergave van populaties die onevenredig en negatief zijn getroffen, waaronder zwarte, bruine en inheemse mensen, en sommige van de diagnostische vorderingen die ze hebben gemaakt, evenmin, zegt Schlesinger.
Biometrische wearables zoals Fitbit of Apple Watch zijn bijvoorbeeld veelbelovend in hun vermogen om mogelijke covid-19-symptomen te detecteren, zoals veranderingen in temperatuur of zuurstofsaturatie. Maar die analyses zijn gebaseerd op vaak gebrekkige of beperkte datasets en kunnen vooringenomenheid of oneerlijkheid introduceren die onevenredig grote gevolgen heeft voor kwetsbare mensen en gemeenschappen.
Er is wat onderzoek dat aantoont dat groen LED-licht heeft een moeilijkere tijd om de puls en zuurstofsaturatie te lezen op donkere huidtinten, zegt Schlesinger, verwijzend naar de halfgeleiderlichtbron. Dus het is misschien niet even goed om covid-symptomen op te vangen voor mensen met een zwarte en bruine huid.
AI is effectiever gebleken bij het analyseren van enorme datasets. Een team van de Viterbi School of Engineering aan de University of Southern California heeft een AI-raamwerk ontwikkeld om te helpen bij het analyseren van covid-19-vaccinkandidaten. Na het identificeren van 26 potentiële kandidaten, verkleinde het het veld tot 11 die de meeste kans van slagen hadden. De gegevensbron voor de analyse was de Immune Epitope Database, die meer dan 600.000 besmettingsdeterminanten van meer dan 3.600 soorten bevat.
Andere onderzoekers van Viterbi passen AI toe om culturele codes nauwkeuriger te ontcijferen en de sociale normen die etnisch en raciaal groepsgedrag sturen beter te begrijpen. Dat kan een aanzienlijke impact hebben op hoe een bepaalde bevolking het doet tijdens een crisis zoals de pandemie, als gevolg van religieuze ceremonies, tradities en andere sociale zeden die de verspreiding van virussen kunnen vergemakkelijken.
Hoofdwetenschappers Kristina Lerman en Fred Morstatter hebben hun onderzoek gebaseerd op: Theorie van morele grondslagen , die de intuïtieve ethiek beschrijft die de morele constructies van een cultuur vormen, zoals zorgzaamheid, eerlijkheid, loyaliteit en autoriteit, en helpt bij het informeren van individueel en groepsgedrag.
Ons doel is om een raamwerk te ontwikkelen dat ons in staat stelt de dynamiek te begrijpen die het besluitvormingsproces van een cultuur op een dieper niveau stuurt, zegt Morstatter in een rapport uitgebracht door USC . En door dit te doen, genereren we meer cultureel geïnformeerde voorspellingen.
Het onderzoek gaat ook na hoe AI op een ethische en eerlijke manier kan worden ingezet. De meeste mensen, maar niet alle, zijn geïnteresseerd in het verbeteren van de wereld, zegt Schlesinger. Nu moeten we naar het volgende niveau: welke doelen willen we bereiken en welke resultaten zouden we graag zien? Hoe gaan we succes meten en hoe ziet het eruit?
Ethische zorgen wegnemen
Het is van cruciaal belang om de aannames over verzamelde gegevens en AI-processen in twijfel te trekken, zegt Schlesinger. We praten over het bereiken van rechtvaardigheid door middel van bewustzijn. Bij elke stap van het proces maak je waardeoordelen of aannames die je resultaten in een bepaalde richting zullen wegen, zegt hij. Dat is de fundamentele uitdaging bij het bouwen van ethische AI, namelijk kijken naar alle plaatsen waar mensen bevooroordeeld zijn.
Een deel van die uitdaging is het kritisch onderzoeken van de datasets die AI-systemen informeren. Het is essentieel om de databronnen en de samenstelling van de data te begrijpen en vragen te beantwoorden als: Hoe zijn de data opgebouwd? Omvat het een divers scala aan belanghebbenden? Wat is de beste manier om die gegevens in een model in te zetten om vooringenomenheid te minimaliseren en eerlijkheid te maximaliseren?
Nu mensen weer aan het werk gaan, kunnen werkgevers nu met behulp van detectietechnologieën met ingebouwde AI , inclusief thermische camera's om hoge temperaturen te detecteren; audiosensoren om hoesten of stemverheffing te detecteren, die bijdragen aan de verspreiding van ademhalingsdruppels; en videostreams om de procedures voor het wassen van de handen, voorschriften voor fysieke afstand en maskervereisten te controleren.
Dergelijke monitoring- en analysesystemen hebben niet alleen technische nauwkeurigheidsproblemen, maar vormen ook kernrisico's voor: mensenrechten , privacy, veiligheid en vertrouwen . De aanzet voor meer toezicht is een verontrustend neveneffect van de pandemie. Overheidsinstanties hebben bewakingscamerabeelden, locatiegegevens van smartphones, aankoopgegevens van creditcards en zelfs passieve temperatuurscans in drukke openbare ruimtes zoals luchthavens gebruikt om bewegingen te helpen traceren van mensen die mogelijk zijn opgelopen of zijn blootgesteld aan covid-19 en om virusoverdracht vast te stellen kettingen.
De eerste vraag die moet worden beantwoord, is niet alleen kunnen we dit doen, maar moeten we dat ook doen? zegt Schlesinger. Het scannen van individuen op hun biometrische gegevens zonder hun toestemming roept ethische bezwaren op, zelfs als het wordt gepositioneerd als een voordeel voor het grotere goed. We zouden als samenleving een stevig gesprek moeten voeren over de vraag of er een goede reden is om deze technologieën in de eerste plaats te implementeren.
Hoe de toekomst eruit ziet
Nu de samenleving terugkeert naar iets dat bijna normaal is, is het tijd om de relatie met gegevens fundamenteel opnieuw te evalueren en nieuwe normen vast te stellen voor het verzamelen van gegevens, evenals het juiste gebruik - en mogelijk misbruik - van gegevens. Bij het bouwen en inzetten van AI zullen technologen die noodzakelijke aannames blijven maken over data en de processen, maar de onderbouwing van die data moet in twijfel worden getrokken. Zijn de gegevens legitiem afkomstig? Wie heeft het samengesteld? Op welke aannames is het gebaseerd? Wordt het nauwkeurig weergegeven? Hoe kan de privacy van burgers en consumenten worden gewaarborgd?
Aangezien AI op grotere schaal wordt ingezet, is het essentieel om na te denken over hoe je ook vertrouwen kunt wekken. Het gebruik van AI om de menselijke besluitvorming te vergroten, en niet volledig om menselijke input te vervangen, is een benadering.
Er zullen meer vragen komen over de rol die AI zou moeten spelen in de samenleving, de relatie met de mens, en wat passende taken zijn voor mensen en wat passende taken zijn voor een AI, zegt Schlesinger. Er zijn bepaalde gebieden waar de capaciteiten van AI en het vermogen om de menselijke capaciteiten te vergroten, ons vertrouwen en onze afhankelijkheid zullen vergroten. Op plaatsen waar AI de mens niet vervangt, maar hun inspanningen vergroot, is dat de volgende horizon.
Er zullen altijd situaties zijn waarin een mens bij de besluitvorming moet worden betrokken. In gereguleerde sectoren, zoals de gezondheidszorg, het bankwezen en de financiële sector, moet er een mens zijn om de naleving te handhaven, zegt Schlesinger. Je kunt AI niet zomaar inzetten om zorgbeslissingen te nemen zonder de inbreng van een arts. Hoe graag we ook zouden willen geloven dat AI in staat is om dat te doen, AI heeft nog geen empathie en zal dat waarschijnlijk ook nooit doen.
Het is van cruciaal belang dat gegevens die door AI worden verzameld en gemaakt, ongelijkheid niet verergeren maar minimaliseren. Er moet een balans zijn tussen het vinden van manieren voor AI om de menselijke en sociale vooruitgang te helpen versnellen, het bevorderen van rechtvaardige acties en reacties, en simpelweg erkennen dat bepaalde problemen menselijke oplossingen vereisen.
Deze inhoud is geproduceerd door Insights, de aangepaste inhoudstak van MIT Technology Review. Het is niet geschreven door de redactie van MIT Technology Review.