211service.com
De CEO van Microsoft roept op tot verantwoordelijke AI, negeert de algoritmen die ons leven al beheersen
Satya Nadella, CEO van Microsoft, maakt zich zorgen over de macht die kunstmatige intelligentie over ons leven zal uitoefenen. In een bericht op Leisteen gisteren adviseerde hij de computerindustrie om: begin nu na te denken over het ontwerpen van intelligente software om onze menselijkheid te respecteren .
De technische industrie mag de waarden en deugden van deze toekomst niet dicteren, schreef hij.
Nadella riep op tot algoritmische verantwoording, zodat mensen onbedoelde schade ongedaan kunnen maken. Hij zei dat slimme software zo moet worden ontworpen dat we de werking ervan kunnen inspecteren en voorkomen dat het bepaalde mensen discrimineert of privégegevens op onsmakelijke manieren gebruikt.
Microsoft-ceo Satya Nadella.
Dit zijn nobele en rationele zorgen, maar waar technologieleiders het al een tijdje geleden over hadden moeten hebben. Er is voldoende bewijs dat de algoritmen en software die het dagelijks leven vormgeven, al kunnen worden gekenmerkt door verontrustende vooroordelen.
Studies van de Federal Trade Commission hebben tekenen gevonden dat: raciale en economische vooroordelen die in pre-internettijden werden verworpen, verschijnen nu opnieuw in de systemen die gerichte advertenties en andere online diensten mogelijk maken. In Wisconsin vindt een gevecht plaats over de vraag waarom de werking van een systeem dat probeert te voorspellen of een crimineel zal recidiveren— en wordt gebruikt om gevangenisstraffen te bepalen - moet geheim worden gehouden.
Vandaag heeft de ACLU namens onderzoekers met een plan om naar te zoeken een aanklacht ingediend tegen de Amerikaanse regering rassendiscriminatie in online advertenties voor vacatures en woningen . Ze kunnen het niet uitvoeren vanwege beperkingen in federale hackwetten en de manier waarop technologiebedrijven hun algemene voorwaarden schrijven.
Het is duidelijk dat sommige van de problemen die volgens Nadella zouden kunnen worden veroorzaakt door toekomstige kunstmatige intelligentie, er in feite al zijn. Microsoft-onderzoeker Kate Crawford vatte de wortel van algoritmische vooringenomenheid mooi samen in een recente New York Keer opiniestuk, het schrijven van die software kan de ongelijkheid op de werkplek al verergeren , thuis en in onze juridische en justitiële systemen.
Nadella besluit zijn toekomstgerichte post over kunstmatige intelligentie met de woorden: De meest cruciale volgende stap in ons streven naar A.I. is om overeenstemming te bereiken over een ethisch en empathisch kader voor de vormgeving ervan. Wat is een betere manier om klaar te zijn voor de door AI gedomineerde toekomst dan nu te beginnen met het toepassen van een ethisch en empathisch raamwerk op de domme software die ons al omringt?
(Lees verder: Leisteen , Zonde , Ars Technica , New York Times )