Apple verdedigt zijn nieuwe technologie tegen kindermisbruik tegen privacykwesties

Foto door Rebecca Harris op Unsplash





Apple heeft tijdens de 45-jarige geschiedenis van het bedrijf een paar iconische advertenties laten zien, van de beroemde 1984 Super Bowl-advertentie voor Macs aan de strijdlustige van het bedrijf Advertentiecampagne 2019 veelbelovend dat wat er op je iPhone gebeurt, op je iPhone blijft.

Op donderdag, Apple aangekondigd nieuwe technologieën om materiaal voor seksueel misbruik van kinderen (CSAM) rechtstreeks op iPhones te detecteren - en plotseling lijkt het erop dat wat op je iPhone staat niet langer altijd gewoon daar blijft. De controversiële nieuwe functies raken de kern van zorgen over privacy, toezicht en door technologie ondersteunde misdaden.

Apple zegt dat deze nieuwe functies de privacy beschermen omdat ze kindermishandeling tegengaan. Voor critici is de grootste vraag echter niet wat de technologie vandaag de dag zou kunnen doen; het gaat over wat het morgen zou kunnen worden.



Zal de nieuwe scantechnologie van Apple een nog bredere bewaking over de hele wereld mogelijk maken? Zullen regeringen gaan eisen dat Apple scant op allerlei verboden inhoud op de iPhones in hun land?

Apple zegt dat de nieuwe detectietool, NeuralHash genaamd, afbeeldingen van kindermishandeling kan identificeren die op een iPhone zijn opgeslagen zonder de afbeelding te decoderen. Het bedrijf zegt ook dat het meerdere controles heeft geïmplementeerd om de kans op fouten te verkleinen voordat afbeeldingen worden doorgegeven aan het National Center for Missing and Exploited Children (NCMEC) en vervolgens aan de wetshandhaving. (De scanner moet bijvoorbeeld meerdere afbeeldingen detecteren in plaats van slechts één.) De functie wordt dit jaar uitgerold in de Verenigde Staten.

Google, Microsoft, Dropbox en andere grote cloudservices scannen al materiaal dat op hun servers is opgeslagen op materiaal voor kindermisbruik, dus het algemene uitgangspunt is niet nieuw. Het verschil hier is dat sommige scans van Apple op de iPhone zelf zullen plaatsvinden - en Apple stelt dat dit de bepalende pro-privacyfunctie van de nieuwe technologie is.

In een briefing met journalisten op vrijdag zei Apple dat terwijl andere cloudservices bijna alles scannen wat hun gebruikers uploaden, het scannen op het apparaat bedoeld is om alleen een onleesbare hash naar het bedrijf te sturen, een code die afbeeldingen identificeert die kindermishandeling weergeven op basis van een database onderhouden door NCMEC in plaats van Apple.

Apple heeft er ook op gewezen dat de functie alleen van toepassing is op mensen die foto's uploaden naar iCloud (automatische uploads zijn de standaardinstelling op iPhones, maar kunnen worden gehandicapt ). iCloud-accounts zijn momenteel niet versleuteld, dus wetshandhavers kunnen er al naar kijken.



Waarom doet Apple dan niet gewoon wat andere grote technologiebedrijven doen en scant afbeeldingen wanneer ze naar de cloud zijn geüpload in plaats van wanneer ze nog op iemands telefoon staan? Waarom een ​​nieuwe en complexe reeks technologieën bouwen als bestaande technologie ook gewoon van de plank kan worden gehaald?

De volgende zet van Apple

Er is enorm veel dat we niet weten over wat Apple nu doet en wat daarna komt. Een populaire theorie is dat de aankondiging van deze week de eerste van verschillende stappen in de komende maanden zal zijn.

De marketing van Apple pocht al jaren over privacy. De iPhone was een van de eerste persoonlijke apparaten die automatisch werd versleuteld. iMessage is een van de meest populaire berichten-apps met end-to-end-codering. Maar veel Apple-klanten maken automatisch een back-up van alles op hun iCloud-accounts en iCloud is nooit versleuteld. Dus zelfs in 2019 had die beroemde iPhone-privacyadvertentie een klein sterretje kunnen gebruiken.



Regeringen hebben jarenlang enorme druk uitgeoefend op alle technologiebedrijven, waaronder Apple, om wetshandhavers speciale toegang te verlenen tot anderszins versleutelde gegevens om te voorkomen wat zij als de meest gruwelijke misdaden beschouwen. Kindermishandeling staat altijd bovenaan die lijst, op de voet gevolgd door terrorisme. De publieke omarming van encryptie door Apple heeft het werk van sommige politiemensen moeilijker gemaakt, maar het heeft sommige vormen van toezicht en machtsmisbruik ook moeilijker gemaakt.

De grote maas in de wet is altijd iCloud geweest. politie moet werk hard om rechtstreeks in iPhones te komen , maar als de meeste gegevens al op een niet-versleuteld iCloud-account staan, volstaat een bevelschrift.

Verwant verhaal

Hackers vinden manieren om zich te verstoppen in de ommuurde tuin van Apple

De vergrendelde benadering van beveiliging van de iPhone breidt zich uit, maar geavanceerde hackers hebben ontdekt dat hogere barrières geweldig zijn om gevangenneming te voorkomen.

Na de aankondiging van deze week denken sommige experts dat Apple binnenkort zal aankondigen dat iCloud zal worden versleuteld. Als iCloud is versleuteld, maar het bedrijf nog steeds materiaal van kindermisbruik kan identificeren, bewijs kan doorgeven aan wetshandhavers en de dader kan schorsen, kan dat een deel van de politieke druk op Apple-managers verlichten.

Het zou niet verlichten allemaal de druk: de meeste van dezelfde regeringen die willen dat Apple meer doet aan kindermishandeling, willen ook meer actie tegen inhoud die verband houdt met terrorisme en andere misdaden. Maar kindermishandeling is een reëel en omvangrijk probleem waar grote technologiebedrijven tot nu toe niet in zijn geslaagd.

De benadering van Apple beschermt de privacy beter dan alle andere die ik ken, zegt David Forsyth, de voorzitter van de afdeling computerwetenschappen aan de Urbana-Champaign van de Universiteit van Illinois, die het systeem van Apple heeft beoordeeld. Naar mijn oordeel zal dit systeem waarschijnlijk de kans aanzienlijk vergroten dat mensen die [CSAM] bezitten of gebruiken, worden gevonden; dit zou kinderen moeten helpen beschermen. Onschadelijke gebruikers zouden een minimaal tot geen verlies van privacy moeten ervaren, omdat visuele afgeleiden alleen worden onthuld als er voldoende overeenkomsten zijn met CSAM-afbeeldingen, en alleen voor de afbeeldingen die overeenkomen met bekende CSAM-afbeeldingen. De nauwkeurigheid van het matchingsysteem, gecombineerd met de drempel, maakt het zeer onwaarschijnlijk dat afbeeldingen die niet bekend zijn CSAM-afbeeldingen worden onthuld.

Hoe zit het met WhatsApp?

Elk groot technologiebedrijf wordt geconfronteerd met de gruwelijke realiteit van kindermisbruikmateriaal op zijn platform. Niemand heeft het zo benaderd als Apple.

Net als iMessage is WhatsApp een end-to-end versleuteld berichtenplatform met miljarden gebruikers. Zoals elk platform van die omvang, hebben ze te maken met een groot misbruikprobleem.

Ik las de informatie die Apple gisteren uitbracht en ik maak me zorgen, WhatsApp-hoofd Will Cathcart getweet op vrijdag. Ik vind dit een verkeerde benadering en een tegenslag voor de privacy van mensen over de hele wereld. Mensen hebben gevraagd of we dit systeem voor WhatsApp gaan gebruiken. Het antwoord is nee.

WhatsApp bevat rapportagemogelijkheden zodat elke gebruiker beledigende inhoud aan WhatsApp kan melden. Hoewel de mogelijkheden verre van perfect zijn, meldde WhatsApp vorig jaar meer dan 400.000 gevallen aan NCMEC.

Dit is een door Apple gebouwd en beheerd bewakingssysteem dat heel gemakkelijk kan worden gebruikt om privé-inhoud te scannen op alles wat zij of een regering besluit te controleren, zei Cathcart in zijn tweets. Landen waar iPhones worden verkocht, hebben verschillende definities van wat acceptabel is. Wordt dit systeem in China gebruikt? Welke inhoud zullen ze daar als illegaal beschouwen en hoe zullen we dat ooit weten? Hoe gaan ze om met verzoeken van overheden over de hele wereld om andere soorten inhoud aan de lijst toe te voegen om te scannen?

In zijn briefing met journalisten benadrukte Apple dat deze nieuwe scantechnologie tot nu toe alleen in de Verenigde Staten werd uitgebracht. Maar het bedrijf voerde verder aan dat het een staat van dienst heeft in het strijden voor privacy en verwacht dat te blijven doen. Op die manier komt veel hiervan neer op vertrouwen in Apple.

Het bedrijf voerde aan dat de nieuwe systemen niet gemakkelijk door overheidsmaatregelen kunnen worden misbruikt - en benadrukte herhaaldelijk dat afmelden net zo eenvoudig was als het uitschakelen van iCloud-back-up.

Ondanks dat het een van de meest populaire berichtenplatforms ter wereld is, wordt iMessage al lang bekritiseerd vanwege het ontbreken van de rapportagemogelijkheden die nu gemeengoed zijn op het sociale internet. Als gevolg hiervan heeft Apple historisch gezien een klein deel van de gevallen gerapporteerd aan NCMEC die bedrijven zoals Facebook doen.

In plaats van die oplossing te gebruiken, heeft Apple iets heel anders gebouwd - en de uiteindelijke resultaten zijn een open en zorgwekkende vraag voor privacyhaviken. Voor anderen is het een welkome radicale verandering.

De uitgebreide bescherming van Apple voor kinderen is een game changer, zei John Clark, president van de NCMEC, in een verklaring. De realiteit is dat privacy en kinderbescherming naast elkaar kunnen bestaan.

Hoge inzet

Een optimist zou zeggen dat het inschakelen van volledige codering van iCloud-accounts en het detecteren van kindermisbruikmateriaal zowel een overwinning op het gebied van anti-misbruik als privacy is - en misschien zelfs een behendige politieke zet die anti-encryptie-retoriek van Amerikaanse, Europese, Indiase en Chinese functionarissen afstompt.

Een realist zou zich zorgen maken over wat er daarna komt uit de machtigste landen ter wereld. Het is een virtuele garantie dat Apple telefoontjes zal krijgen - en waarschijnlijk al heeft ontvangen - uit hoofdsteden wanneer overheidsfunctionarissen zich de bewakingsmogelijkheden van deze scantechnologie beginnen voor te stellen. Politieke druk is één ding, regulering en autoritaire controle zijn iets anders. Maar die dreiging is niet nieuw en ook niet specifiek voor dit systeem. Als bedrijf met een track record van stille maar winstgevende compromissen met China , heeft Apple veel werk te doen om gebruikers te overtuigen van zijn vermogen om weerstand te bieden aan draconische regeringen.

Al het bovenstaande kan waar zijn. Wat daarna komt, zal uiteindelijk de nieuwe technologie van Apple bepalen. Als deze functie door regeringen wordt gebruikt om het toezicht uit te breiden, dan komt het bedrijf duidelijk zijn privacybeloften niet na.

zich verstoppen