211service.com
Tech Titans bundelen hun krachten om te voorkomen dat AI zich slecht gedraagt
Als het gaat om het controleren van kunstmatige intelligentie, denken technologieleiders dat veiligheid in cijfers zit.
Een nieuwe organisatie genaamd de Partnerschap op het gebied van kunstmatige intelligentie ten voordele van mens en samenleving zal trachten de publieke dialoog te bevorderen en richtlijnen te creëren voor de ontwikkeling van AI, zodat systemen zich niet misdragen. De betrokken bedrijven zijn onder meer Google en haar dochteronderneming DeepMind, Facebook, Amazon, Microsoft en IBM. Het partnerschap is gebaseerd op acht principes of principes, waaronder het idee dat AI zoveel mogelijk mensen ten goede moet komen; dat het publiek bij de ontwikkeling ervan moet worden betrokken; dat onderzoek op een open manier moet gebeuren; en dat AI-systemen hun redenering moeten kunnen uitleggen.
Dat zulke felle rivalen op deze manier samenkomen, laat zien hoe belangrijk de bedrijven het vinden om publieke bezorgdheid en speculatie over de mogelijke effecten van AI te voorkomen. Deze bedrijven plukken allemaal enorme vruchten van de vooruitgang in AI, en ze willen niet dat hun sector wordt onderworpen aan strikte overheidsregulering, die de vooruitgang van de technologie op een cruciaal moment in de evolutie zou kunnen vertragen of veranderen. Maar tegelijkertijd hebben de snelle recente ontwikkelingen zorgen gewekt over het potentieel voor AI-systemen om mensen te discrimineren, te benadelen en te verdrijven.
We delen allemaal de plicht om het veld vooruit te helpen op een doordachte, positieve en, belangrijker nog, ethische manier, zegt Mustafa Suleyman, medeoprichter van Google DeepMind en interim-medevoorzitter van de organisatie. De positieve effecten van AI zullen niet alleen afhangen van de kwaliteit van onze algoritmen, maar ook van het niveau van publieke betrokkenheid, transparantie en ethische discussie die eromheen plaatsvindt.
AI vordert met zo'n razend tempo dat er legitieme zorgen zijn dat het wordt ingezet op manieren die onbedoelde of ongewenste effecten hebben. Een systeem voor machinaal leren dat is ontworpen om ziekten te identificeren die vooringenomen gegevens bevatten, kan bijvoorbeeld discriminerend zijn voor bepaalde mensen. De bedrijven die betrokken zijn bij het partnerschap erkennen dat er een reactie zou kunnen ontstaan als reactie op dergelijke effecten.
AI is een ongelooflijk belangrijke technologie voor Amazon, zegt Rolf Herbrich, directeur machine learning voor de e-commercegigant. [En] de grootste troef in de klantervaring is het vertrouwen van de klant.
Het is onduidelijk hoe de organisatie precies zal omgaan met het publiek of degenen die AI ontwikkelen. Volgens Suleyman zal het niet zozeer proberen zijn richtlijnen af te dwingen als wel een open discussie te voeren.
Er zijn ook legitieme zorgen over het potentieel van AI en aanverwante technologieën zoals robotica om mensen te verplaatsen en ongelijkheid te vergroten (zie Hoe technologie banen vernietigt). Maar recente vooruitgang heeft geleid tot meer bizarre en futuristische waarschuwingen over het potentieel voor AI om een existentiële bedreiging voor de mensheid te vormen (zie Onze angst voor kunstmatige intelligentie). Een zorg onder technologen is dat deze waarschuwingen ongerechtvaardigde publieke verontwaardiging zouden kunnen opwekken en onnodige overheidsregulering zouden kunnen inspireren.
Met alle hyperbool over AI in de afgelopen twee tot vier jaar, is er bezorgdheid geweest dat in die echokamer van angst de overheid zelf verkeerd zal worden geïnformeerd, zegt Eric Horvitz, directeur van Microsoft Research en de andere co-voorzitter van de organisatie.
De overheid heeft aangegeven er belang bij te hebben dat kunstmatige intelligentie geen ongewenste gevolgen heeft, coördinerend een reeks workshops dit jaar gericht op het verkennen van de mogelijke effecten.
Sommige ethische raadsels met betrekking tot AI zullen moeilijker op te lossen zijn dan andere. Het kan bijvoorbeeld een uitdaging zijn om systemen te bedenken die rekening houden met verschillende ethische perspectieven. Deze kwestie is op een grotendeels theoretische manier aan de orde gesteld met betrekking tot de gedrag van zelfrijdende auto's . Hoe AI-systemen transparanter en verantwoordelijker kunnen worden gemaakt, is ook een open vraag, en een die zelf vooruitgang in de technologie kan vereisen (zie AI's taalprobleem).
Het idee voor de samenwerking ontstond tijdens een evenement dat in januari door Facebook in New York werd gecoördineerd om ethische kwesties rond AI te bespreken. Andere bedrijven en organisaties die betrokken zijn bij de ontwikkeling van AI, zoals Apple en het Allen Institute for Artificial Intelligence, hebben besproken om op een of andere manier betrokken te raken bij de inspanning, zeggen de oprichtende leden.
Oren Etzioni, CEO van het Allen Institute for Artificial Intelligence, zegt dat het belangrijk zal zijn voor de organisatie om de kwestie aan te snijden hoe AI banen kan wegnemen. En hij voegt eraan toe dat de grootste uitdaging misschien wel het vinden van een manier is waarop concurrenten effectief kunnen samenwerken. Dit zijn enkele van de toonaangevende hightechbedrijven ter wereld, zegt hij. Ze zullen hier moeten samenwerken.