211service.com
Wees geen AI-vil: Google zegt dat zijn algoritmen geen kwaad kunnen
IYIKON/anbileru adaleru/yaroslav samoylov/SBTS/Hea Pon Lin (Het zelfstandig naamwoord-project)
Google heeft een ethische code voor kunstmatige intelligentie opgesteld die de ontwikkeling van autonome wapens verbiedt. Maar de principes laten voldoende speelruimte voor Google om te profiteren van lucratieve defensiedeals langs de lijn.
De aankondiging komt in de nasleep van aanzienlijk intern protest tegen het gebruik van de AI-technologie van Google door een initiatief van het ministerie van Defensie, het Algorithmic Warfare Cross-Functional Team genaamd. Het doel van deze onderneming, intern bekend als: Project Maven , is onder meer het verbeteren van de nauwkeurigheid van drone-aanvallen.
Vorige maand stopten een tiental Google-medewerkers vanwege het schandaal en nog veel meer ondertekenden een open protestbrief.
Het tumult weerspiegelt de angsten die velen hebben over hoe technologie in de toekomst zou kunnen helpen bij het automatiseren van oorlogsvoering. De situatie is echter niet eenvoudig.
Kunstmatige intelligentie zou kunnen helpen om sommige wapensystemen veiliger en minder foutgevoelig te maken. Er zijn ook veel alledaagse toepassingen van AI in de defensie-industrie. Google wil deze enorme potentiële markt voor zijn cloud AI-technologie niet verloochenen.
De CEO van Google, Sundar Pichai, heeft de nieuwe code vandaag in een blogpost aangekondigd. Het stelt zeven principes voor om het gebruik van AI door Google te sturen, en stelt dat het de samenleving ten goede moet komen; vermijd algoritmische vooringenomenheid; respecteer de privacy; worden getest op veiligheid; verantwoording afleggen aan het publiek; wetenschappelijke nauwkeurigheid handhaven; en ter beschikking worden gesteld aan anderen in overeenstemming met dezelfde principes.
Maar Pichai deed ook zijn best om te stellen dat Google niet zou toestaan dat zijn AI-technologie wordt gebruikt om iets te ontwikkelen dat schade zou kunnen veroorzaken, inclusief wapens of andere technologieën waarvan het hoofddoel of de implementatie is om letsel bij mensen te veroorzaken of rechtstreeks te vergemakkelijken.
Pichai zei dat Google ook zou vermijden bewakingstechnologie te ontwikkelen die in strijd is met internationaal aanvaarde normen op het gebied van mensenrechten, of technologie die in strijd is met internationale wetten.
Kunstmatige intelligentie ontwikkelt zich snel en Google is andere problemen tegengekomen met AI-projecten. Een van zijn computervisiesystemen bijvoorbeeld, identificeerde mensen van Afrikaanse afkomst herhaaldelijk als gorilla's. Het bedrijf heeft in april zijn motto Don't be evil verlaten, maar behoudt een idealistische cultuur.
Militair gebruik van kunstmatige intelligentie kan in toenemende mate omstreden zijn, aangezien de technologie op nieuwe manieren wordt toegepast en bedrijven hun cloud-AI-technologie zo breed mogelijk willen verkopen.
Machine learning en kunstmatige intelligentie zullen onvermijdelijk belangrijker worden voor inlichtingen- en defensiewerk. Andere Amerikaanse technologiebedrijven, waaronder Amazon en Microsoft, hebben geboden op een cloudcomputingproject van miljarden dollars met het Pentagon.