211service.com
Je Siri 'vingerafdruk' wegvegen
Zelfs in een tijdperk van verdwijnende privacy delen mensen die Apple's digitale assistent Siri gebruiken een duidelijke zorg. Opnamen van hun daadwerkelijke stemmen, het stellen van vragen die mogelijk persoonlijk zijn, reizen over het internet naar een externe Apple-server voor verwerking. Dan blijven ze daar opgeslagen; Apple wil niet zeggen voor hoe lang.
Die spraakopname is, in tegenstelling tot de meeste gegevens die door smartphones en andere computers worden geproduceerd, een echte biometrische identificatie. Een stemafdruk kan - indien openbaar gemaakt per ongeluk, hack of dagvaarding - worden gekoppeld aan een specifieke persoon. En met de huidige hausse aan apps voor spraakherkenning, is Apple niet de enige die dergelijke gegevens verzamelt.
Er kan een manier zijn om deze identifier meer privé te houden. Onderzoekers zeggen dat Apple en anderen die spraakherkenningstoepassingen zoals Siri ontwikkelen, een deel van de gegevensverwerking rechtstreeks op de telefoon kunnen doen. In plaats van de volledige opname te verzenden, kunnen ze dan specifieke informatie verzenden die moeilijker definitief aan een persoon te koppelen is.
Misschien moet je alles wat je herkent aan de telefoon houden, zegt Prem Natarajan, executive vice president bij Raytheon BBN Technologies in Cambridge, Massachusetts, een belangrijk centrum voor onderzoek naar spraakherkenning. Hij zegt dat het misschien verstandiger is voor Apple om functies uit spraak over te dragen - en niet de spraak zelf.
Hoewel deze aanpak de processor en batterij van de telefoon zwaarder zou belasten, zou het de kwaliteit van de spraakherkenning niet schaden. Ik denk dat het veilig is om te zeggen dat het niet hebben van toegang tot het [full voice]-signaal geen zinvolle straf oplegt, zegt Natarajan. Het beperken van de hoeveelheid biometrische gegevens die wordt gedeeld, zou het voorbeeld volgen van apparaten zoals Kinect van Microsoft, die om privacyredenen zijn ontworpen om dergelijke gegevens aan boord te houden.
Trudy Muller, een woordvoerster van Apple, bevestigde dat spraakopnamen worden opgeslagen wanneer gebruikers een gesproken vraag stellen, zoals Wat is het weer nu? Deze gegevens worden alleen gebruikt voor de werking van Siri en om Siri te helpen het begrip en de herkenning ervan te verbeteren, zei ze. Muller voegde eraan toe dat het bedrijf privacy zeer serieus neemt, en merkt op dat vragen en antwoorden die Siri via internet verzendt, gecodeerd zijn en dat opnames van uw stem niet zijn gekoppeld aan andere informatie die Apple over u heeft gegenereerd. (Siri uploadt echter wel uw lijst met contactpersonen, locatie en lijst met opgeslagen nummers om op uw verzoeken te kunnen reageren.)
Hoewel stemafdrukken niet zo uniek zijn als vingerafdrukken, kunnen ze de spreker in veel omstandigheden positief identificeren. Het Amerikaanse ministerie van Binnenlandse Veiligheid gebruikt stemafdrukken om frequente reizigers te identificeren die zich hebben ingeschreven voor een systeem om snelle grensoverschrijdingen mogelijk te maken.
Om te zien waarom stemafdrukken van belang kunnen zijn, kijk eens naar de moordzaak tegen Casey Anthony, de moeder uit Florida die vorig jaar werd vrijgesproken voor de dood van haar twee jaar oude dochter, Caylee. Op een gegeven moment wezen officieren van justitie op zoekopdrachten op internet - naar chloroform en andere belastende termen - die waren gemaakt vanaf de computer van de verdachte. Anthony's moeder getuigde dat ze de zoekterm zelf had ingetypt, als een spelfout van chlorofyl. Als de zoekopdrachten met de stem op Siri waren gedaan, hadden officieren van justitie - en juryleden - misschien kunnen bepalen wie chloroform daadwerkelijk zei. (Apple weigerde te zeggen of het ooit een dagvaarding heeft ontvangen voor iemands stemafdruk.)
Als je ondertussen een ongepaste tekst dicteerde of Siri vroeg naar een gevoelige medische kwestie en Apple werd gehackt (of een kwaadwillende medewerker gaf gegevens vrij), zou niet alleen de gênante communicatie worden vrijgegeven, maar het zou in je eigen stem zijn. Natarajan zegt dat biometrie geheel nieuwe privacyvragen kan oproepen. Zo kan iemand die op zoek is naar de locatie van een protest tegen een repressief regime in de problemen komen als de gegevens voor die regering beschikbaar komen. Als je een groep mensen hebt die naar protesten vraagt, heb je nu helaas stembiometrie voor die mensen, zegt hij.
Sommige waarnemers, waaronder grote technologiebedrijven, stellen bredere vragen over Siri. Vorige maand Technologie beoordeling meldde dat IBM zijn werknemers had gevraagd de functie niet te gebruiken, een beslissing die volgens IBM was ingegeven door de noodzaak om contactlijsten en andere gevoelige bedrijfsinformatie te beschermen. Het is een zorg die andere organisaties zouden moeten delen, vinden sommige experts. Als ik een inlichtingendienst of een groot bedrijf zou leiden, zou ik zo'n dienst niet intern toestaan, zegt Radu Sion, een computerwetenschapper aan de Stony Brook University en een vooraanstaand onderzoeker op het gebied van cloud computing-beveiliging.
De spraakherkenning van Siri werkt als volgt: je spreekt een vraag of verzoek in en de spraakopname wordt naar een Apple-server gestuurd. Daar wordt de opname afgebroken in een proces genaamd feature-extractie, dat de geluidsgolf numeriek transformeert en relevante functies eruit haalt. Deze worden door een spraakherkenningsengine geleid om te interpreteren wat u zegt en dit in tekst weer te geven. Siri gebruikt vervolgens bronnen, waaronder internet, uw lijst met contactpersonen (Bel papa) of uw locatie (Waar is het dichtstbijzijnde Thais eten?) om aan uw behoefte te voldoen.
Er is geen reden waarom de eerste taak van functie-extractie niet rechtstreeks op de telefoon kon worden gedaan, zodat sommige elementen daar konden blijven. Het toonhoogtepatroon is bijvoorbeeld belangrijk om de spreker te identificeren, maar niet om te herkennen wat er is gezegd. Vanuit technologisch perspectief zou je de dingen kunnen uitzenden waaraan de herkenner gaat werken, maar niet de volledige golfvorm, zegt Natarajan. Hoewel dit misschien geen perfecte oplossing is, zegt hij, zou het de privacy aanzienlijk verbeteren - en misschien nog belangrijker, de perceptie van privacy, omdat je het spraaksignaal niet kunt reconstrueren uit de functies.
James Glass, een senior onderzoekswetenschapper aan het MIT en hoofd van zijn Gesproken taalsystemen groep , zegt dat verwerking aan boord, ook bekend als gedistribueerde spraakherkenning, uitgebreid is onderzocht. Het biedt geen volledige bescherming, waarschuwt hij: biometrische methoden die sprekeridentificatie doen … gebruiken meestal vergelijkbare signaalrepresentaties als die welke alleen spraakherkenning doen. Dus lokale [verwerking] zou de gegevens niet volledig anonimiseren, als dat je doel was.
Hij voegt eraan toe dat de eenvoudigste manier om een stemafdruk te anonimiseren, is om de opnames los te koppelen van andere gegevens, zoals het mobiele telefoonnummer. Het zou betekenen dat het voor systemen moeilijker zou zijn om je stem en vragen te personaliseren, maar sommige mensen zouden die optie misschien verkiezen als het hen meer privacy zou geven, zegt hij. Dit is de positie waar ik voor zou pleiten, omdat het vergelijkbaar is met hoe sommige apps nu toestemming vragen om je locatie te gebruiken.
Naarmate er meer spraaktoepassingen in meer omgevingen verschijnen, zal het beschermen van biometrische identificatiegegevens belangrijker worden, zegt Andrew Sudbury, medeoprichter van Abine, een online privacysoftwarebedrijf in Boston dat consumenten helpt het volgen van hun online activiteiten te blokkeren. Het is echt bijna een keerpunt, in die zin dat dit een zeer snelle opkomst zal inluiden van spraakherkenning die op veel plaatsen wordt gebruikt, zegt hij. En het zal gemakkelijker worden om mensen met hun stem redelijk goed te identificeren.
Een van de redenen waarom Apple misschien volledige spraakafdrukken wil opslaan, is om de mogelijkheid te behouden om dergelijke diensten te leveren. In theorie zou een spraakherkenner kunnen weten dat jij het bent die praat, niet je partner of kind, en je persoonlijk op maat gemaakte antwoorden geven. Het zou best cool zijn als je met een andere telefoon zou bellen en ze je zouden kunnen identificeren, zegt Natarajan.
Een enorme database met de werkelijke stemmen van mensen zou dit mogelijk maken. Dergelijke kenmerken zijn nog steeds speculatief, waarschuwt hij. Maar alle innovatie gaat over dingen doen die niemand op dit moment van plan is, zegt hij. Ik zou ook toegang willen hebben tot al die gegevens.