211service.com
Microsoft creëert een orakel voor het opsporen van bevooroordeelde AI-algoritmen
Zelfstandig naamwoord Project | Andrejs Kirma | Mevr. Tech
Microsoft bouwt een tool om automatisch bias in een reeks verschillende AI-algoritmen te identificeren. Het is de meest gewaagde poging tot nu toe om de detectie van oneerlijkheid die machine learning kan binnensluipen te automatiseren - en het zou bedrijven kunnen helpen om AI te gebruiken zonder onbedoeld bepaalde mensen te discrimineren.
Grote technologiebedrijven racen om kant-en-klare machine learning-technologie te verkopen die toegankelijk is via de cloud. Naarmate meer klanten deze algoritmen gebruiken om belangrijke beoordelingen en beslissingen te automatiseren, zal de kwestie van vooringenomenheid cruciaal worden. En aangezien vooringenomenheid gemakkelijk in modellen voor machine learning kan sluipen, kunnen manieren om de detectie van oneerlijkheid te automatiseren een waardevol onderdeel van de AI-toolkit worden.
Dingen als transparantie, begrijpelijkheid en uitleg zijn nieuw genoeg in het veld dat weinigen van ons voldoende ervaring hebben om alles te weten waarnaar we moeten zoeken en alle manieren waarop vooringenomenheid in onze modellen op de loer kan liggen, zegt Rijke Caruna , een senior onderzoeker bij Microsoft die werkt aan het bias-detectiedashboard.
Algoritmische vooringenomenheid is een groeiende zorg voor veel onderzoekers en technologie-experts (zie Algoritmen inspecteren op vooringenomenheid). Aangezien algoritmen worden gebruikt om belangrijke beslissingen te automatiseren, bestaat het risico dat vooringenomenheid wordt geautomatiseerd, op grote schaal wordt ingezet en voor de slachtoffers moeilijker te herkennen is.
Caruna zegt dat het vooringenomen product van Microsoft AI-onderzoekers zal helpen meer gevallen van oneerlijkheid op te sporen, hoewel niet allemaal. Natuurlijk kunnen we geen perfectie verwachten - er zal altijd een vooroordeel zijn dat onopgemerkt blijft of dat niet kan worden geëlimineerd - het doel is om zo goed mogelijk te doen, zegt hij.
Het belangrijkste wat bedrijven nu kunnen doen, is hun personeel opleiden, zodat ze zich bewust zijn van de talloze manieren waarop vooringenomenheid kan ontstaan en zich manifesteren, en tools creëren om modellen gemakkelijker te begrijpen en vooroordelen gemakkelijker te detecteren, voegt Caruna eraan toe.
Facebook heeft zijn eigen tool aangekondigd voor het detecteren van vooringenomenheid tijdens zijn jaarlijkse ontwikkelaarsconferentie op 2 mei. De tool, Fairness Flow genaamd, waarschuwt automatisch als een algoritme een oneerlijk oordeel velt over iemand op basis van zijn of haar ras, geslacht of leeftijd. Facebook zegt dat het Fairness Flow nodig had omdat steeds meer mensen bij het bedrijf AI gebruiken om belangrijke beslissingen te nemen.
Bin Yuo , een professor aan UC Berkeley, zegt dat de tools van Facebook en Microsoft een stap in de goede richting lijken, maar misschien niet genoeg zijn. Ze stelt voor dat grote bedrijven externe experts hun algoritmen moeten laten controleren om te bewijzen dat ze niet bevooroordeeld zijn. Iemand anders moet de algoritmen van Facebook onderzoeken - ze kunnen niet voor iedereen een geheim zijn, zegt Yu.