211service.com
Wat te doen als een robot de schuldige is?
Moet de overheid kunstmatige intelligentie reguleren? Dat was de centrale vraag van de eerste workshop Witte Huis over de juridische en bestuurlijke implicaties van AI, die dinsdag in Seattle werd gehouden.
We zien problemen rond AI en machine learning overal in de regering opduiken, zei Ed Felten, plaatsvervangend chief technology officer van het Witte Huis. We zijn nog lang niet op het punt om AI in grote lijnen te reguleren … maar de uitdaging is hoe ervoor te zorgen dat AI veilig, beheersbaar en voorspelbaar blijft naarmate het slimmer wordt.
Een van de belangrijkste doelstellingen van de workshop, zei een van de organisatoren, professor in de rechten van de Universiteit van Washington Ryan Calo , was om het publiek te helpen begrijpen waar de technologie nu is en waar deze naartoe gaat. Het idee is niet dat de overheid ingrijpt en AI reguleert, maar eerder om de vele andere hefbomen te gebruiken, zoals coördinatie tussen de agentschappen en inkoopmacht, zei hij. De aanwezigen waren onder meer technologie-ondernemers, academici en leden van het publiek.
In een keynote speech merkte Oren Etzioni, CEO van het Allen Institute for Artificial Intelligence, op dat we ons nog steeds in de donkere middeleeuwen van machine learning bevinden, met AI-systemen die over het algemeen alleen goed werken bij goed gestructureerde problemen zoals bordspellen en rijden op de snelweg. Hij pleitte voor een gezamenlijke aanpak waarbij AI mensen kan helpen veiliger en efficiënter te worden. Ziekenhuisfouten zijn de op twee na belangrijkste doodsoorzaak in de VS, zei hij. AI kan hierbij helpen. Elk jaar sterven er mensen omdat we AI niet goed gebruiken in ziekenhuizen.
Oren Etzioni, CEO van het Allen Institute for Artificial Intelligence, vertrok, sprak met aanwezigen bij de workshop van het Witte Huis over kunstmatige intelligentie.
Toch vindt Etzioni het veel te vroeg om te praten over het reguleren van AI: Deep learning is nog steeds voor 99 procent mensenwerk en menselijk vernuft. ‘Mijn robot heeft het gedaan’ is geen excuus. We moeten verantwoordelijkheid nemen voor wat onze robots, AI en algoritmen doen.
Een panel over kunstmatige wijsheid gericht op wanneer deze mens-AI-interacties fout gaan, zoals in het geval van een algoritme ontworpen om toekomstige criminele overtreders te voorspellen dat lijkt raciaal bevooroordeeld te zijn. Het probleem gaat niet over de AI-agenten zelf, het gaat over mensen die technologische hulpmiddelen gebruiken om andere mensen te onderdrukken in financiën, strafrecht en onderwijs, zei Jack Balkin van Yale Law School.
Verschillende academici steunden het idee van een informatiefiduciair: mensen die big data verzamelen en AI gebruiken, de wettelijke plichten van goede trouw en betrouwbaarheid te geven. Technologen kunnen bijvoorbeeld verantwoordelijk worden gehouden als ze gegevens van slechte kwaliteit gebruiken om AI-systemen te trainen, of als ze vooroordelen op basis van ras, leeftijd of geslacht verstarren in de algoritmen die ze ontwerpen.
Aangezien overheidsinstellingen in toenemende mate afhankelijk zijn van AI-systemen voor besluitvorming, zullen die instellingen personeel nodig hebben dat de beperkingen en vooroordelen die inherent zijn aan data en AI-technologie begrijpt, Kate Crawford , een sociaal wetenschapper bij Microsoft Research. Ze stelde voor om studenten naast programmeervaardigheden ook ethiek bij te brengen.
Bryant Walker Smith van de Universiteit van South Carolina stelde flexibiliteit voor in de regelgeving voor snel evoluerende technologieën, zoals auto's zonder bestuurder. Individuele bedrijven zouden een publieke zaak moeten maken voor de veiligheid van hun autonome voertuigen, zei hij. Ze moeten maatregelen vaststellen en deze vervolgens monitoren gedurende de levensduur van hun systemen. We hebben een diversiteit aan benaderingen nodig om het publieke debat te informeren.
Dit was de eerste van vier workshops die gepland waren voor de komende maanden. Twee zullen AI behandelen voor sociaal welzijn en kwesties rond veiligheid en controle, terwijl de laatste dieper ingaat op de sociale en economische implicaties van de technologie. Felten kondigde ook aan dat het Witte Huis binnenkort een verzoek om informatie zal uitbrengen om het grote publiek de kans te geven om mee te wegen over de toekomst van AI.
De olifant in de kamer waren natuurlijk de presidentsverkiezingen van november. In een blogpost eerder deze maand onthulde Felten een nieuwe subcommissie van de National Science and Technology Council on Machine Learning and Artificial Intelligence, gericht op het gebruik van AI om de overheidsdiensten tussen nu en het einde van de administratie te verbeteren.