211service.com
Waarom AI-onderzoekers protesterende betrokkenheid bij militaire projecten moeten heroverwegen
Jeremy portje
Werknemers in de technologie-industrie die protesteerden tegen contracten met het leger, moeten hun standpunt heroverwegen, aldus een adviseur van het ministerie van Defensie.
Brendan McCord - een AI-expert die betrokken was bij Project Maven, het DoD-programma om kunstmatige intelligentie en machine learning voor militair gebruik te versnellen - zei dat constructieve betrokkenheid bij de strijdkrachten noodzakelijk was om slechte beslissingen te voorkomen.
In juni, Google zei het zou niet meer werken met Project Maven na meer dan 4.000 werknemers ondertekende een brief die het bedrijf ervan beschuldigde oorlog te voeren.
Maar tijdens een toespraak op EmTech Digital, de AI-conferentie van MIT Technology Review, zei McCord dat het voor de samenleving als geheel beter zou zijn om dergelijke samenwerkingen voort te zetten, en voor degenen die het niet eens zijn met medewerkers die betrokken zijn bij AI-projecten om hun standpunt opnieuw te onderzoeken.
De meesten hier vandaag zijn het erover eens dat militairen en hun rol in afschrikking, aanval en verdediging een deel van de wereld zijn, en dat zullen ze in de nabije toekomst zijn, zei hij. Een strategie van constructieve betrokkenheid versus een van opt-out is een veel optimalere.
Werken aan AI voor defensie maakt je niet minder principieel, voegde hij eraan toe.
Het geheimzinnige karakter van Project Maven, dat naar verluidt gericht was op het verbeteren van de analyse van door militaire drones vastgelegde beelden, baarde een brede groep AI-onderzoekers zorgen. Maar de Amerikaanse strijdkrachten blijven een krachtige kracht voor het bevorderen van vrede en stabiliteit in de wereld, zei McCord, die argumenten weergeeft dat AI-onderzoekers die het leger principieel afwijzen, in feite het voordeel geven aan mensen met minder strenge ethische normen, waaronder andere landen.
Hoewel McCord zei dat hij niet zou verwachten dat anti-oorlogspacifisten van gedachten zouden veranderen, vroeg hij onderzoekers na te denken over wat er zou gebeuren als andere landen hun eigen vooruitgang zouden boeken op opkomende gebieden. Vooral een positievere houding ten opzichte van het leger was belangrijk, voegde hij eraan toe, aangezien regeringen nu een minder grote rol spelen bij de ontwikkeling van nieuwe technologische ontdekkingen dan vroeger.
Aan het einde van de Koude Oorlog verschoof de locus van innovatie naar de particuliere sector, zei hij. De wereld is veranderd. De capaciteit voor de overheid, en de rol van de overheid, is verminderd tot een punt waar het in mijn ogen nog nooit zo laag is geweest. Het netto-effect is dat grote technologiebedrijven de mantel hebben aangenomen - of ze nu wilden of niet - de scheidsrechters te zijn. Ze zijn vaak zelfregulerend.
Veel grote technologische ontwikkelingen, waaronder internet, gps en virtuele assistenten, zijn het resultaat van investeringen van het ministerie van Defensie. Maar sinds het einde van de Koude Oorlog zijn de uitgaven voor onderzoek en ontwikkeling van de DoD afgenomen. Halverwege de jaren tachtig waren de overheids- en particuliere R&D-budgetten ongeveer gelijk: ongeveer $ 55 miljard per jaar. Sindsdien heeft de overheid haar investeringen verdubbeld, terwijl particuliere bedrijven, waaronder Google, Microsoft, Facebook en Amazon, de particuliere budgetten drastisch hebben verhoogd tot meer dan $ 350 miljard per jaar.
NSF, National Center for Science and Engineering Statistics, National Patterns of R&D Resources (jaarlijkse reeks)
Hoewel grote technologiebedrijven misschien niet transparant zijn over hun werk, heeft de overheid zelf kritiek gekregen. Het werd eerder deze week gemeld door de Intercept dat het Pentagon Freedom of Information-verzoeken om gegevens over Project Maven heeft afgewezen , bewerend dat zijn documenten zijn vrijgesteld van openbaar onderzoek.
McCord behoudt een adviserende rol bij het ministerie van Defensie, maar heeft daar onlangs zijn fulltime baan opgezegd om in de particuliere sector te gaan werken. Hij heeft nu een seniorfunctie bij Tulco Labs, een nieuw bedrijf dat zich richt op innovatie op het werk en is opgericht door de entertainmentmiljardair Thomas Tull.
Hij eindigde door te zeggen dat het absoluut noodzakelijk is voor werknemers in de industrie om hun werkgevers onder controle te houden, waarbij hij de bioloog en theoreticus E.O. Wilson.
Het echte probleem van de mensheid, zei hij, is dat we paleolithische emoties, middeleeuwse instellingen en goddelijke technologie hebben.