211service.com
Laten we in 2020 stoppen met het ethisch wassen van AI en echt iets doen
AI ethische keuzes Getty
Vorig jaar, net toen ik kunstmatige intelligentie begon te behandelen, kreeg de AI-wereld een grote wake-up call. Er waren een aantal ongelooflijke vorderingen in AI-onderzoek in 2018 - van versterkend leren tot generatieve adversariële netwerken (GAN's) tot beter begrip van natuurlijke taal. Maar het jaar zag ook verschillende spraakmakende illustraties van de schade die deze systemen kunnen veroorzaken als ze te snel worden ingezet.
Een Tesla crashte op automatische piloot , het doden van de bestuurder, en een zelfrijdende Uber crashte , het doden van een voetganger. Commerciële gezichtsherkenningssystemen presteerden verschrikkelijk in audits Aan mensen met een donkere huidskleur , maar technische giganten bleven ze hoe dan ook verkopen, aan klanten, waaronder wetshandhavers. Toen ik begin dit jaar over deze gebeurtenissen nadacht, schreef ik een resolutie voor de AI-gemeenschap: stop met het behandelen van AI als magie en neem de verantwoordelijkheid voor het creëren, toepassen en reguleren ervan op ethische wijze.
In zekere zin is mijn wens uitgekomen. In 2019 was er meer sprake van AI-ethiek dan ooit tevoren. Tientallen organisaties hebben ethische richtlijnen voor AI opgesteld; bedrijven haastten zich om verantwoordelijke AI-teams op te richten en deze voor de media te paraderen. Het is moeilijk om een AI-gerelateerde conferentie meer bij te wonen zonder dat een deel van de programmering is gewijd aan een ethische boodschap: hoe beschermen we de privacy van mensen wanneer AI zoveel gegevens nodig heeft? Hoe versterken we gemarginaliseerde gemeenschappen in plaats van ze uit te buiten? Hoe blijven we de media vertrouwen in het licht van algoritmisch gecreëerde en verspreide desinformatie?
Maar praten is precies dat - het is niet genoeg. Ondanks alle lippendienst aan deze problemen, blijven de ethische richtlijnen voor AI van veel organisaties vaag en moeilijk te implementeren. Er zijn maar weinig bedrijven die tastbare veranderingen kunnen laten zien in de manier waarop AI-producten en -diensten worden geëvalueerd en goedgekeurd. We lopen in een val van ethiek-wassen, waar echte actie wordt vervangen door oppervlakkige beloften. In het meest acute voorbeeld vormde Google een nominale AI-ethiekraad zonder daadwerkelijk vetorecht over twijfelachtige projecten, en met een paar leden wiens opname controverse veroorzaakte. Een terugslag leidde onmiddellijk tot de ontbinding ervan.
Ondertussen is de behoefte aan meer ethische verantwoordelijkheid alleen maar urgenter geworden. Dezelfde vooruitgang die in 2018 in GAN's is geboekt, heeft geleid tot de verspreiding van hyperrealistische deepfakes, die nu worden gebruikt om vrouwen aan te vallen en het geloof van mensen in documentatie en bewijsmateriaal uit te hollen. Nieuwe bevindingen hebben licht geworpen op de enorme klimaatimpact van deep learning, maar organisaties zijn doorgegaan met het trainen van steeds grotere en energieverslindende modellen. Geleerden en journalisten hebben ook onthuld hoeveel mensen zijn achter het algoritmische gordijn. De AI-industrie creëert een geheel nieuwe klasse van verborgen arbeiders - inhoudsmoderators, gegevenslabels, transcribenten - die zwoegen in vaak wrede omstandigheden.
Maar niet alles is donker en somber: 2019 was het jaar van de grootste terugdringing van de basis tegen schadelijke AI van gemeenschapsgroepen, beleidsmakers en tech-medewerkers zelf. Verschillende steden, waaronder San Francisco en Oakland, Californië en Somerville, Massachusetts, verbood openbaar gebruik van gezichtsherkenning en voorgestelde federale wetgeving zou binnenkort verbied het uit de Amerikaanse volkshuisvesting ook. Medewerkers van technische giganten als Microsoft, Google en Salesforce spraken zich ook steeds vaker uit tegen het gebruik van AI door hun bedrijven voor het volgen van migranten en voor drone-surveillance.
Binnen de AI-gemeenschap hebben onderzoekers ook gedubbeld op het verminderen van AI-bias en de prikkels die leiden tot het op hol geslagen energieverbruik van het veld opnieuw onderzocht. Bedrijven hebben meer middelen geïnvesteerd in het beschermen van de privacy van gebruikers en het bestrijden van deepfakes en desinformatie. Experts en beleidsmakers werkten samen om doordachte nieuwe wetgeving voor te stellen die bedoeld was om onbedoelde gevolgen in te dammen zonder de innovatie te dempen. Tijdens de grootste jaarlijkse bijeenkomst in het veld dit jaar, was ik zowel ontroerd als verrast door hoeveel van de keynotes, workshops en posters gericht waren op problemen uit de echte wereld - zowel de problemen die door AI zijn gemaakt als de problemen die het kan helpen oplossen.
Dus hier is mijn hoop voor 2020: dat de industrie en de academische wereld dit momentum vasthouden en concrete bottom-up en top-down veranderingen doorvoeren die de AI-ontwikkeling op één lijn brengen. Hoewel we nog tijd hebben, mogen we de droom die het veld bezielt niet uit het oog verliezen. Tientallen jaren geleden begonnen mensen aan de zoektocht om intelligente machines te bouwen, zodat ze ons op een dag konden helpen bij het oplossen van enkele van onze moeilijkste uitdagingen.
Met andere woorden, AI is bedoeld om de mensheid te helpen bloeien. Laten we het niet vergeten.
Meld u aan voor onze Webby-genomineerde AI-nieuwsbrief The Algorithm om meer van dit soort verhalen rechtstreeks in uw inbox te ontvangen. Het is gratis.