211service.com
Wie gaat AI reguleren? Het zou jou kunnen zijn.
Van de rol van Facebook bij het verspreiden van verkeerde informatie tot nieuwe Europese auteursrechtwetten, het is momenteel het hotste onderwerp in technologie. Hoe moeten technologiebedrijven worden gereguleerd? Hoe houdt die regelgeving gelijke tred met opkomende technologieën zoals AI? En wie zorgt ervoor dat nieuwe wetten innovatie niet in de weg staan?
Het is waar dat wetgevers vaak moeite hebben om technische basisconcepten te begrijpen, terwijl bedrijven de technologie veel sneller ontwikkelen dan overheden en het rechtssysteem aankunnen. Tijdens een toespraak op EmTech Digital, de AI-conferentie van MIT Technology Review, suggereerde een groep vooraanstaande experts op het gebied van AI en beleid dat nieuwe normen en samenwerking nodig waren.
Terwijl Google-beleidschef Kent Walker kondigde de vorming aan van een nieuwe externe adviesraad voor AI-ontwikkeling , Rashida Richardson, directeur beleidsonderzoek bij the AI Now Instituut , zei dat de nadruk moet liggen op technologen en toonaangevende bedrijven die optreden om misbruik van de systemen die ze bouwen te voorkomen.
Wie draagt de last om ervoor te zorgen dat opkomende technologieën niet discriminerend zijn? zij vroeg.
Onbedoelde gevolgen - bijvoorbeeld wanneer gezichtsherkenningssystemen valse positieven maken - zijn te gevaarlijk voor veel groepen mensen, zei ze, en systemen die op slechte gegevens zijn getraind, versterken uiteindelijk de reeds bestaande vooringenomenheid. Maar misstanden voorkomen en tegelijkertijd ontwikkeling stimuleren is duidelijk iets waar de wet mee worstelt.
De bedrijven en personen die verantwoordelijk zijn voor het creëren van opkomende technologieën hebben een verplichting. Ze moeten hun due diligence doen - diep de context onderzoeken waarin een dataset is gemaakt, bijvoorbeeld, zei Richardson. In andere gevallen kunnen bedrijven merken dat hun technologie niet discriminatiebestendig kan worden gemaakt en zullen ze een moeilijke beslissing moeten nemen of ze dat product op de markt moeten brengen.
Brendan McCord, een adviseur van het Amerikaanse ministerie van Defensie, zei dat de grootste en meest invloedrijke bedrijven hun immense macht moeten gebruiken en een actievere rol moeten spelen bij het vormgeven van regelgevingsinspanningen.
Maatschappelijke organisaties doen goed werk door te proberen het bewustzijn van deze problemen te vergroten, zei hij. Maar bedrijven hebben een enorme capaciteit om dit gesprek op gang te brengen.
McCord, die eerder aan het controversiële Project Maven van het Pentagon werkte, suggereerde dat een consortium van toonaangevende bedrijven zou kunnen helpen bij het vaststellen van industrienormen of zelfs met wetgevers zou kunnen werken om toekomstbestendige benaderingen te ontwerpen voor het reguleren van AI, machine learning en andere snel evoluerende technologieën.
Ik denk dat een goede strategie is dat bedrijven [zoals Google] samenwerken met andere bedrijven en momentum creëren, een duwtje in de rug voor de juiste soort regelgeving creëren en dat laten vastleggen, wat een heilzame cyclus in gang zet waarin andere bedrijven aan die regelgeving moeten voldoen , hij zei.
Dit zou echter vereisen dat bedrijven veel harder werken om het belang van het publiek boven hun eigen winst te stellen, voegde hij eraan toe.
Walker van Google zei dat er veel voorbeelden waren van bedrijven die goede beslissingen namen - en dat Google zelf aan het overwegen was welke elementen van de nieuwe Europese wetgeving inzake gegevensprivacy het in de VS zou kunnen importeren.
Maar het bewijs suggereert dat de huidige benaderingen van zelfregulering veel zwakke punten hebben laten zien - en zich vaak alleen manifesteren in het licht van bedreigingen van regeringen of rechtbanken. Facebook kondigde minder dan een week geleden aan dat het zou stoppen met het toestaan van adverteerders om zich bijvoorbeeld op ras, geslacht en leeftijd te richten. Die beslissing kwam echter pas na een reeks rechtszaken waarin werd beschuldigd dat het bedrijf de burgerrechtenwetten die in de jaren zestig waren vastgesteld, had geschonden.
Richardson van AI Now zei dat het moeilijk is om opkomende technologieën te reguleren omdat ze zo snel evolueren en vaak belangrijke belanghebbenden buiten beschouwing laten.
Er is zeer dubbelzinnige retoriek rond gelijkheid, zei ze. Het is echt moeilijk om te zeggen: 'We zullen mensen geen kwaad doen met deze technologie'. Wie neemt die beslissing?
Het is moeilijker te reguleren, omdat je of een volledig moratorium hebt totdat we het begrijpen, of je leeft in de wereld waarin we nu leven, waarin je probeert in te halen.