211service.com
Deze startup beweert dat zijn deepfakes je privacy zullen beschermen
DEED DEED
Zoals het spreekwoord zegt: als het eruit ziet als een eend, zwemt als een eend en kwaakt als een eend, dan is het waarschijnlijk een eend. Als iemand in een videoclip van hetzelfde ras, geslacht en dezelfde leeftijd is als jij, dezelfde gebaren en emotionele uitdrukkingen heeft als jij - en in feite op jou is gebaseerd - en toch niet precies op jou lijkt... is ben jij het nog steeds?
Nee, volgens Gil Perry, medeoprichter van het Israëlische privacybedrijf DEED . En dat is volgens hem de reden waarom zijn startup werkt. D-ID maakt videobeelden, bijvoorbeeld vastgelegd door een camera in een winkel, en gebruikt computervisie en deep learning om een alternatief te creëren dat de identiteit van het onderwerp beschermt. Het proces verandert de jij in de video in een avatar die dezelfde kenmerken heeft, maar er een beetje anders uitziet.
Het voordeel voor bedrijven is dat deze nieuwe, geanonimiseerde video niet langer de exacte identiteit van een klant prijsgeeft, wat volgens Perry betekent dat bedrijven die D-ID gebruiken, de noodzaak van toestemming elimineren en analyseer de beelden voor zakelijke en marketingdoeleinden. Een winkel kan bijvoorbeeld video's van een gelukkig uitziende blanke vrouw doorsturen naar een algoritme dat in realtime de meest effectieve advertentie voor haar kan weergeven. (Het is vermeldenswaard dat de legitimiteit van emotieherkenning is uitgedaagd, met een prominente AI-onderzoeksgroep die onlangs heeft opgeroepen om het gebruik ervan volledig te verbieden.)
Voorbeelden van de slimme anonimiseringsservice van D-ID laten verschillende niveaus van succes zien bij het verduisteren van identiteit in video. In een demonstratie , De voormalige Britse premier David Cameron lijkt een beetje op David Cameron met een snor. In nog een stilstaand beeld , een vrouw ziet er iets anders uit, maar de twee afbeeldingen lijken nog steeds verontrustend veel op elkaar. Bij een derde, Brad Pitt onherkenbaar wordt.
D-ID wil geen specifieke klanten noemen die zijn technologie gebruiken, maar Perry zei dat het bedrijf voornamelijk samenwerkt met retailers, autobedrijven en grote conglomeraten die CCTV in Europa inzetten. Ann Cavoukian, lid van de adviesraad van D-ID en voormalig privacycommissaris voor de Canadese provincie Ontario, zegt dat de oplossing een totale win-winsituatie is.
Andere experts zeggen echter dat het bedrijf de Europese algemene regel voor gegevensbescherming verkeerd interpreteert, niet doet wat het zou moeten doen, en - zelfs als dat zo is - het waarschijnlijk toch niet zou moeten doen.
AVG-schending?
Drie vooraanstaande Europese privacy-experts die met MIT Technology Review spraken, uitten hun zorgen over de technologie en bedoelingen van D-ID. Allen zeggen dat naar hun mening D-ID feitelijk de AVG schendt. (Het kan echter legaal zijn in niet-EU-gebieden.)
Ras is een speciale categorie onder de AVG, wat betekent dat het verwerken van gegevens waaruit ras kan worden afgeleid, illegaal is zonder uitdrukkelijke toestemming, legt Gaëtan Goldberg uit, een gegevensprivacy-advocaat bij de AVG-waakhond NOYB. Overtredingen van de AVG-regels kunnen leiden tot boetes van € 20 miljoen of 4% van de jaaromzet van een bedrijf, afhankelijk van wat hoger is.
Toen hij met deze zorgen werd geconfronteerd, was David Mirchin, een privacyadvocaat die D-ID adviseert, het niet eens met de experts. Hij beweert dat er nooit een punt is waarop de slimme anonimiseringsoplossing van D-ID dit soort gevoelige gegevens analyseert, onthult of opslaat. Perry voegt eraan toe dat D-ID ook graag etniciteitsgegevens anonimiseert. De externe advocaten stellen echter dat het simpelweg detecteren van de gezichten, al dan niet anonimiseren, een overtreding is.
Perry en Mirchin stellen ook dat het prima is om geanonimiseerde biometrische gegevens aan algoritmen te geven. Maar hoewel de AVG niet van toepassing is op anonieme gegevens, anonimiseert de startup de video in ieder geval niet, zegt Michael Veale, een privacy-expert aan het University College London. De gecodeerde video zou onder de AVG niet als anoniem worden beschouwd. Met echt anonieme gegevens kan één stukje informatie niet worden teruggekoppeld naar een bepaald individu, zelfs niet als het wordt gecombineerd met andere gegevens. Dat is een hoge lat.
Maar zelfs als gewijzigd beeldmateriaal er niet precies zo uitziet als u, kan het worden gecombineerd met andere informatie (locatiegegevens van bijvoorbeeld sociale media of creditcardgegevens) en worden getraceerd. Bovendien, zegt Veale, zou de technologie bedrijven nog steeds niet automatisch carte blanche geven om CCTV te hergebruiken voor vrij frivole zakelijke doeleinden die niet iets van een serieus algemeen belang zijn, zoals misdaadbestrijding.
Geest van de wet
Dat D-ID zichzelf positioneert als privacyoplossing is veelzeggend. Nu elementen van nieuwe gegevensbeschermingswetten zoals de AVG en de California Consumer Privacy Act open blijven voor interpretatie, blijken sommige bedrijven vindingrijk te zijn in het zelf op de markt brengen. Deze technologieën voldoen aan de regelgeving op een manier die voordelen oplevert voor bedrijven die geld willen verdienen met gegevens, in plaats van voor de mensen van wie gegevens worden vastgelegd. Dit is een schending van de geest van de wet, zeggen critici. Britt Paris, een informatica-wetenschapper aan de Rutgers University, noemt D-ID uitbuiting en een voorbeeld van verdere aantasting van de dataficatie van het dagelijks leven.
Maar Cavoukian, het bestuurslid van D-ID, zegt dat ze geen privacyfundamentalist is en vindt dat er niets mis is met het verzamelen van gegevens, zolang de exacte identiteit van mensen niet wordt verhuld.
Als u in deze tijd helemaal niet wilt dat er gegevens over u worden verzameld, ook al is er geen privacyprobleem omdat uw identificatiegegevens zijn gestript, kunt u niet ver buiten uw huis gaan, zegt ze. zegt. Dat zijn de realiteiten van de dag.
Surveillance wordt steeds wijdverbreider. Een recente Pew-studie wees uit dat de meeste Amerikanen denken dat ze constant worden gevolgd, maar er niet veel aan kunnen doen, en de markt voor gezichtsherkenning zal naar verwachting groeien van ongeveer $ 4,5 miljard in 2018 tot $ 9 miljard tegen 2024 . Toch weerhoudt de realiteit van surveillance activisten er niet van om terug te vechten. D-ID ziet zichzelf misschien als een middenweg tussen privacypurisme en het opzuigen van onbewerkte gegevens, maar zonder de technologie zouden bedrijven die onder de AVG vallen deze videogegevens misschien helemaal niet gebruiken.
Deze regels zijn er voor een doel, toch? zegt Lilian Edwards, een AVG-expert aan de Newcastle Law School. [D-ID] zegt: 'Verzamel visuele gegevens terwijl u voldoet aan privacyregelgeving' en wat het eigenlijk betekent is 'Verzamel visuele gegevens en vermijd privacyregelgeving'. Weet u, de wet is eigenlijk niet helemaal dom.