211service.com
Harvard-onderzoekers willen congres over AI onderwijzen
Foto van Harvard Square Chensiyuan/Wikimedia commons
Toen Facebook-topman Mark Zuckerberg voor het Amerikaanse congres getuigde, realiseerden technologie-experts zich al snel hoe slecht geïnformeerd zijn ondervragers waren. Hoe graag het Congres de technische gigant ook wilde reguleren, het was duidelijk dat ze geen idee hadden hoe. In plaats daarvan lieten ze hem wegkomen met grootse beweringen over hoe AI alle problemen van het bedrijf zou oplossen.
Voor Dipayan Ghosh, een research fellow aan de Harvard Kennedy School (HKS), benadrukte de hoorzitting de dringende noodzaak om Amerikaanse beleidsmakers op de hoogte te brengen van belangrijke technologische kwesties – en AI in het bijzonder.
AI is een geweldige technologie, maar er zijn echt opvallende problemen waarvan we hebben gezien dat ze een eigen leven gaan leiden in de samenleving, zegt Ghosh, die beleidsadviseur technologie was in de regering-Obama. We moeten mensen in machtsposities informeren over hoe deze systemen echt werken, zodat ze de volgende keer dat ze een regelgevende inspanning lanceren, niet slecht geïnformeerd zijn.
Ghosh regisseert een nieuw AI-beleidsinitiatief , vandaag gelanceerd, met Tom Wheeler, een senior research fellow bij HKS en de voorzitter van de Amerikaanse Federal Communications Commission onder Obama.
Het initiatief, gefinancierd door het Shorenstein Center on Media, Politics and Public Policy van HKS, zal zich richten op het uitbreiden van de juridische en academische wetenschap rond AI-ethiek en -regelgeving. Het zal ook een bootcamp organiseren voor leden van het Amerikaanse Congres om hen te helpen meer over de technologie te weten te komen. De hoop is dat met deze gecombineerde inspanningen het Congres en andere beleidsmakers beter toegerust zullen zijn om de groeiende impact van AI op de samenleving effectief te reguleren en te begeleiden.
Het afgelopen jaar hebben een reeks spraakmakende technische schandalen de gevolgen van slecht geïmplementeerde AI steeds duidelijker gemaakt. Dit omvat het gebruik van machine learning om desinformatie te verspreiden via sociale media en de automatisering van bevooroordeelde en discriminerende praktijken door middel van gezichtsherkenning en andere geautomatiseerde systemen.
In oktober, tijdens het jaarlijkse AI Now Symposium, benadrukten technologen, mensenrechtenactivisten en juridische experts herhaaldelijk de noodzaak van systemen om AI verantwoordelijk te houden.
De regering heeft een langetermijnvisie, zei Sherrilyn Ifill, president en directeur-adviseur van het NAACP Legal Defense Fund. Ze hebben in veel opzichten de verantwoordelijkheid om geschiedenis te communiceren aan de bedrijven en andere bedrijven die deze technologieën ontwikkelen.
Maar de overheid mist de kennis om deze verantwoordelijkheid te dragen, zegt Ghosh. Als je een congreslid vraagt of AI deel uitmaakt van het desinformatieprobleem, zou hij kunnen zeggen: 'Ik denk het niet' of 'Ik weet het niet', zegt hij.
Als onderdeel van het initiatief hebben Ghosh en Wheeler ongeveer 30 vooraanstaande experts op het gebied van computerwetenschap, filosofie, economie en andere gebieden gevraagd om mee te denken over kwesties als discriminatie, eerlijkheid, transparantie en aansprakelijkheid.
Die perspectieven zullen in de komende maanden worden gepubliceerd, te beginnen met drie deze week: Catherine Tucker, een professor aan de MIT Sloan School of Management, over de economische context van algoritmische vooringenomenheid; MC Elish en Danah Boyd, respectievelijk onderzoeksleider en oprichter van het Data & Society Research Institute, over de ethiek van wanneer en hoe AI-systemen moeten worden gebruikt zonder bestaande onrechtvaardigheid te verergeren; en Joseph Turow, een professor aan de Annenberg School for Communication, over de discriminerende gevolgen van hypergepersonaliseerde marketing.
Het initiatief organiseert in februari in Washington DC een bootcamp voor leden van het Congres en hun technologiebeleidsmedewerkers om de artikelen te helpen vertalen in productieve beleidsdiscussies. Het kamp zal onderzoeken wat het betekent om AI ethisch te ontwerpen en welke regelgevende maatregelen kunnen worden genomen om de schade te beperken en de voordelen ervan te bevorderen.
Ghosh erkent dat het huidige politieke klimaat het moeilijk maakt om beide partijen op één lijn te brengen met welk doel dan ook, maar hij heeft goede hoop dat ze overeenstemming zullen bereiken over de urgentie van de kwestie.