211service.com
Tech-reuzen worstelen met de ethische zorgen die zijn geuit door de AI-boom
Met grote macht komt grote verantwoordelijkheid - en kunstmatige-intelligentietechnologie wordt veel krachtiger. Bedrijven die voorop lopen bij het ontwikkelen en inzetten van machine learning en AI beginnen nu openlijk te praten over ethische uitdagingen die worden veroorzaakt door hun steeds slimmere creaties.
We bevinden ons op een keerpunt voor AI, zei Eric Horvitz, directeur van Microsoft Research, op MIT Technology Review ’s EmTech-conferentie deze week. We hebben een ethische verplichting om AI in te zetten voor bescherming en behoud in de loop van de tijd.
Horvitz sprak met onderzoekers van IBM en Google over soortgelijke problemen. Een gedeelde zorg was dat recente ontwikkelingen ertoe leiden dat bedrijven software in posities plaatsen met zeer directe controle over mensen, bijvoorbeeld in de gezondheidszorg.
Francesca Rossi , een onderzoeker bij IBM, gaf het voorbeeld van een machine die hulp of gezelschap biedt aan ouderen. Deze robot zal culturele normen moeten volgen die cultuurspecifiek en taakspecifiek zijn, zei ze. [En] als je zou inzetten in de VS of Japan, zou dat gedrag heel anders moeten zijn.
Dergelijke robots zijn misschien nog ver weg, maar de ethische uitdagingen die AI met zich meebrengt, zijn er al. Omdat bedrijven en overheden meer afhankelijk zijn van machine learning-systemen om beslissingen te nemen, kunnen blinde vlekken of vooroordelen in de technologie effectief leiden tot discriminatie van bepaalde soorten mensen.
Uit een ProPublica-onderzoek van vorig jaar bleek bijvoorbeeld dat een risicoscoresysteem dat in sommige staten wordt gebruikt om strafrechtelijke veroordelingen te informeren, bevooroordeeld tegen zwarten . Evenzo beschreef Horvitz hoe een emotieherkenningsservice die bij Microsoft is ontwikkeld voor gebruik door bedrijven aanvankelijk onnauwkeurig was voor kleine kinderen omdat deze was getraind met een grabbelton met foto's die niet goed was samengesteld.
Maya Gupta, een onderzoeker bij Google, riep de industrie op om harder te werken aan het ontwikkelen van processen om ervoor te zorgen dat gegevens die worden gebruikt om algoritmen te trainen, niet scheef staan. Vaak worden deze datasets op een enigszins geautomatiseerde manier gemaakt, zei Gupta. We moeten meer nadenken over: nemen we genoeg steekproeven van minderheidsgroepen om er zeker van te zijn dat we het goed genoeg hebben gedaan?
Het afgelopen jaar zijn er in de academische wereld en de industrie veel inspanningen geleverd om de ethische uitdagingen van machine learning en AI te onderzoeken. de Universiteit van Californië, Berkeley; Harvard; en de universiteiten van Oxford en Cambridge zijn allemaal programma's of instituten gestart om te werken aan ethiek en veiligheid in AI. In 2016 richtten Amazon, Microsoft, Google, IBM en Facebook samen een non-profitorganisatie op genaamd Partnerschap op AI om aan het probleem te werken (Apple trad in januari toe).
Bedrijven nemen ook individuele maatregelen om beveiligingen rond hun technologie te bouwen. Gupta benadrukte onderzoek bij Google dat manieren test om vooringenomen modellen voor machinaal leren te corrigeren, of te voorkomen dat ze in de eerste plaats scheef worden. Horvitz beschreef Microsoft's interne ethische raad voor AI, genaamd AETHER, die zaken beschouwt als nieuwe beslissingsalgoritmen die zijn ontwikkeld voor de in-cloud-services van het bedrijf. Hoewel het bedrijf momenteel bevolkt is met Microsoft-medewerkers, hoopt het in de toekomst ook externe stemmen toe te voegen. Google is een eigen AI-ethiekraad begonnen.
Het is misschien niet verwonderlijk dat de bedrijven die dergelijke programma's maken over het algemeen beweren dat ze de noodzaak van nieuwe vormen van overheidsregulering van kunstmatige intelligentie ondervangen. Maar bij EmTech moedigde Horvitz ook de discussie aan over extreme uitkomsten die ertoe zouden kunnen leiden dat sommige mensen het tegenovergestelde concluderen.
In februari belegde hij een workshop waar experts in detail uiteenzetten hoe AI de samenleving kan schaden door dingen te doen als knoeien met de aandelenmarkt of verkiezingsresultaten. Als je proactief bent, kun je met haalbare resultaten komen en mechanismen instellen om ze nu te verstoren, zei Horvitz.
Dat soort praatjes leek sommigen van degenen met wie hij het podium deelde in San Francisco van zijn stuk te brengen. Gupta van Google moedigde mensen aan om ook na te denken over hoe het nemen van sommige beslissingen uit de handen van mensen de wereld moreel zou kunnen maken dan het nu is.
Machine learning is controleerbaar en nauwkeurig en meetbaar met statistieken, zei ze. Er zijn zoveel mogelijkheden voor meer eerlijkheid en meer ethische resultaten.