211service.com
Het gezichtsherkenningsprogramma van de FBI is uitgestrekt en onnauwkeurig
Glimlach: misschien wordt u verkeerd geïdentificeerd.
Vorig jaar leerden we over de opmerkelijke omvang van de gezichtsherkenningstechnologie van de FBI, met toegang tot bijna 412 miljoen foto's, waarvan vele afkomstig zijn van bronnen die niets met misdaad te maken hebben, zoals identiteitsdocumenten. De inlichtingendienst heeft geprobeerd een systeem te maken dat criminelen nauwkeurig kan identificeren op bijvoorbeeld camerabeelden, hoewel het toen nog niet bekend was hoe goed de software van het bureau werkte, en ook niet of het de onderzoeken daadwerkelijk verbeterde.
Nu hebben we in ieder geval iets meer inzicht in het programma. De Voogd rapporten dat een hoorzitting van de toezichtscommissie van het Huis vorige week enkele interessante nieuwe details onthulde over de verspreiding en mogelijkheden van de gezichtsherkenningssystemen van de FBI.
Ten eerste is de kans zeer groot dat u als Amerikaan in de database voorkomt. Onder die vele miljoenen foto's blijken de gelijkenissen te zijn van ongeveer de helft van de volwassen bevolking van het land. Dat kan omdat afbeeldingen die zijn ontleend aan bronnen die niets met misdaad te maken hebben, 80 procent van de database uitmaken. Dus wanneer u formulieren en foto's verstuurt voor een paspoort, rijbewijs of een andere officiële identificatie, helpt u waarschijnlijk de dataset te vergroten.
Misschien nog zorgwekkender is de kwaliteit van de erkenning door de FBI. Uit de hoorzitting bleek dat de software momenteel personen bijna 15 procent van de tijd verkeerd identificeert. Daarentegen is de toonaangevende gezichtsherkenningstechnologie nu zo nauwkeurig dat deze wordt gebruikt voor het autoriseren van betalingen in China, en Baidu beweert iemands identiteit correct te bevestigen 99,77 procent van de tijd .
Ter verdediging van de FBI werkt het waarschijnlijk met afbeeldingen van veel lagere kwaliteit, zowel in de database als in de afbeeldingen waarop het herkenning probeert uit te voeren, dan die beschikbaar zijn voor mensen als Baidu. Maar foutenpercentages van 15 procent zijn nog steeds hoog en kunnen leiden tot valse leads of ongegronde inbreuken op de privacy.
getty
De software lijkt ook vaker zwarte mensen ten onrechte te identificeren dan blanke mensen. Helaas is dat effect voorspelbaar: we hebben in het verleden uitgelegd dat gezichtsherkenningssystemen inherent bevooroordeeld zijn omdat ze zijn getraind op datasets die sommige demografische gegevens ondervertegenwoordigen.
Maar dat probleem kan verontrustende gevolgen hebben. als de Voogd notities, zwarte mensen zijn meer kans dat gezichtsherkenningssoftware wordt gebruikt om ze te identificeren , dus het lijkt vreemd - zelfs oneerlijk - om hulpmiddelen te gebruiken die duidelijk slecht zijn uitgerust om hun gelijkenis te onderscheiden.
Deze nuggets dragen allemaal bij aan de privacyzorgen die het initiatief van de FBI al hebben geteisterd om een systeem te bouwen dat criminelen nauwkeurig kan identificeren. De problemen zijn in ieder geval aan het licht gekomen - nu moeten ze alleen nog worden opgelost.
(Lees verder: de bewaker , Terwijl het naar verdachten zoekt, kijkt de FBI mogelijk naar u , Betalen met uw gezicht , Zijn gezichtsherkenningssystemen nauwkeurig? Hangt van je ras af. )