Het ministerie van Defensie geeft ethische richtlijnen voor AI uit voor technische contractanten

mevrouw Tech | Getty

Toen Google-medewerkers in 2018 hoorden van de betrokkenheid van hun bedrijf bij Project Maven , een controversiële Amerikaanse militaire poging om AI te ontwikkelen om bewakingsvideo te analyseren, waren ze niet blij. Duizenden protesteerden. Wij zijn van mening dat Google zich niet met oorlog moet bemoeien, schreven ze in een brief aan de leiding van het bedrijf . Ongeveer een dozijn medewerkers hebben ontslag genomen. Google heeft het contract in 2019 niet verlengd.

Project Maven bestaat nog steeds en andere technologiebedrijven, waaronder Amazon en Microsoft, hebben sindsdien de plaats van Google ingenomen. Toch weet het Amerikaanse ministerie van Defensie dat het een vertrouwensprobleem heeft. Dat is iets dat het moet aanpakken om toegang te houden tot de nieuwste technologie, met name AI, waarvoor samenwerking met Big Tech en andere niet-militaire organisaties nodig is.

Verwant verhaal

Amerikaanse overheidsinstanties zijn van plan meer gebruik te maken van gezichtsherkenningstechnologie

Een nieuw onderzoek toont aan dat de controversiële systemen op het punt staan ​​een nog grotere rol te spelen in de federale zaken.

In een poging om transparantie te bevorderen, heeft de Defense Innovation Unit, die DoD-contracten toekent aan bedrijven, vrijgegeven wat het noemt richtlijnen voor verantwoorde kunstmatige intelligentie dat het externe ontwikkelaars nodig heeft om te gebruiken bij het bouwen van AI voor het leger, of dat AI nu is voor een HR-systeem of doelherkenning.

De richtlijnen bieden een stapsgewijs proces dat bedrijven kunnen volgen tijdens de planning, ontwikkeling en implementatie. Ze omvatten procedures voor het identificeren van wie de technologie zou kunnen gebruiken, wie er schade door zou kunnen oplopen, wat die schade zou kunnen zijn en hoe ze kunnen worden vermeden - zowel voordat het systeem wordt gebouwd als wanneer het eenmaal operationeel is.

Er zijn geen andere richtlijnen, noch binnen de DoD, noch, eerlijk gezegd, de regering van de Verenigde Staten, die op dit detailniveau ingaan, zegt Bryce Goodman van de Defense Innovation Unit, die medeauteur was van de richtlijnen.

Het werk kan de manier waarop AI wordt ontwikkeld door de Amerikaanse regering veranderen, als de richtlijnen van het DoD worden overgenomen of aangepast door andere afdelingen. Goodman zegt dat hij en zijn collega's ze aan NOAA en het ministerie van Transport hebben gegeven en praten met ethische groepen binnen het ministerie van Justitie, de General Services Administration en de IRS.

Het doel van de richtlijnen is om ervoor te zorgen dat technische contractanten zich houden aan de bestaande DoD's ethische principes voor AI , zegt Goedman. De DoD kondigde deze principes vorig jaar aan, na een twee jaar durend onderzoek in opdracht van de Defense Innovation Board, een adviespanel van vooraanstaande technologieonderzoekers en zakenmensen dat in 2016 werd opgericht om de vonk van Silicon Valley naar het Amerikaanse leger te brengen. Het bestuur werd tot september 2020 voorgezeten door voormalig Google-CEO Eric Schmidt, en de huidige leden zijn Daniela Rus, de directeur van MIT's Computer Science and Artificial Intelligence Lab.

Toch vragen sommige critici zich af of het werk enige zinvolle hervorming belooft.

Tijdens het onderzoek raadpleegde het bestuur een reeks experts, waaronder vocale critici van het gebruik van AI door het leger, zoals leden van de Campaign for Killer Robots en Meredith Whittaker, een voormalige Google-onderzoeker die hielp bij het organiseren van de Project Maven-protesten.

Whittaker, nu faculteitsdirecteur van het AI Now Institute van de New York University, was niet bereikbaar voor commentaar. Maar volgens Courtney Holsworth, een woordvoerder van het instituut, woonde ze een vergadering bij, waar ze ruzie maakte met senior leden van de raad van bestuur, waaronder Schmidt, over de richting die het opging. Ze werd nooit zinvol geraadpleegd, zegt Holsworth. Beweren dat ze was, kan worden gelezen als een vorm van ethiek-wassen, waarbij de aanwezigheid van afwijkende stemmen tijdens een klein deel van een lang proces wordt gebruikt om te beweren dat een bepaalde uitkomst brede steun heeft van relevante belanghebbenden.

Als de DoD geen brede buy-in heeft, kunnen haar richtlijnen dan nog steeds helpen om vertrouwen op te bouwen? Er zullen mensen zijn die nooit tevreden zullen zijn met een reeks ethische richtlijnen die de DoD produceert, omdat ze het idee paradoxaal vinden, zegt Goodman. Het is belangrijk om realistisch te zijn over wat richtlijnen wel en niet kunnen doen.

Zo zeggen de richtlijnen niets over het gebruik van dodelijke autonome wapens, een technologie die volgens sommige actievoerders verboden zou moeten worden. Maar Goodman wijst erop dat de regelgeving voor dergelijke technologie hoger in de keten wordt bepaald. Het doel van de richtlijnen is om het makkelijker te maken om AI te bouwen die aan die regelgeving voldoet. En een deel van dat proces is om eventuele zorgen van externe ontwikkelaars expliciet te maken. Een geldige toepassing van deze richtlijnen is om te besluiten een bepaald systeem niet te volgen, zegt Jared Dunnmon van de DIU, die er medeauteur van was. Je kunt besluiten dat het geen goed idee is.

Verwant verhaal

Waarom AI-onderzoekers protesterende betrokkenheid bij militaire projecten moeten heroverwegen Een adviseur van het ministerie van Defensie suggereert dat constructieve betrokkenheid meer succes zal hebben dan afmelden.

Margaret Mitchell, een AI-onderzoeker bij knuffelend gezicht , die mede leidde Het ethische AI-team van Google met Timnit Gebru voordat beide waren gedwongen uit het bedrijf , is het ermee eens dat ethische richtlijnen kunnen helpen een project transparanter te maken voor degenen die eraan werken, althans in theorie. Mitchell zat op de eerste rij tijdens de protesten bij Google. Een van de belangrijkste kritieken die werknemers hadden, was dat het bedrijf krachtige technologie aan het leger overdroeg zonder vangrails, zegt ze: mensen vertrokken specifiek vanwege het ontbreken van duidelijke richtlijnen of transparantie.

Voor Mitchell zijn de problemen niet duidelijk. Ik denk dat sommige mensen bij Google het gevoel hebben dat al het werk met het leger slecht is, zegt ze. Ik ben niet een van die mensen. Ze heeft met de DoD gesproken over hoe het met bedrijven kan samenwerken op een manier die hun ethische principes hooghoudt.

Ze denkt dat er nog een lange weg te gaan is voordat de DoD het vertrouwen krijgt dat het nodig heeft. Een probleem is dat sommige formuleringen in de richtlijnen voor interpretatie vatbaar zijn. Ze stellen bijvoorbeeld: de afdeling zal weloverwogen stappen ondernemen om onbedoelde vooringenomenheid in AI-mogelijkheden te minimaliseren. Hoe zit het met de beoogde vooringenomenheid? Dat lijkt misschien muggenzifterij, maar interpretatieverschillen zijn afhankelijk van dit soort details.

Toezicht houden op het gebruik van militaire technologie is moeilijk omdat hiervoor doorgaans een veiligheidsmachtiging vereist is. Om dit aan te pakken, zou Mitchell graag zien dat DoD-contracten voorzien in onafhankelijke auditors met de nodige goedkeuring, die bedrijven kunnen verzekeren dat de richtlijnen echt worden gevolgd. Werknemers hebben enige garantie nodig dat richtlijnen worden geïnterpreteerd zoals ze verwachten, zegt ze.

zich verstoppen