Het fiasco van de Britse app voor het traceren van contacten is een masterclass in wanbeheer

Edward Howell op Unsplash

Het heeft voordelen om een ​​van 's werelds grootste gezondheidszorgstelsels voor één betaler te zijn. Voor de Britse National Health Service, de NHS, is big data daar steeds meer een van.

De Recovery Trial, die vroeg in de uitbraak van het coronavirus werd gelanceerd om informatie uit het hele systeem te verzamelen, heeft geleid tot de ontdekking van dexamethason als een van de meest veelbelovende levensreddende behandelingen voor het nieuwe coronavirus. Op andere medische gebieden is de kankergegevensopslag, die nu bijna tien jaar oud is, een van 's werelds rijkste bronnen van klinische gegevens voor kankeronderzoek.

Het was dus niet verwonderlijk dat toen Britse ministers een smartphone-app voor het traceren van contacten voorstelden, NHS-functionarissen een kans zagen om een ​​toonaangevend stukje technologie te creëren.

Maar op donderdag kondigde de Britse regering aan dat ze haar oorspronkelijke plan liet varen ten gunste van een veel eenvoudigere back-upoptie — kritiek en woede oproepend, en velen bezorgd achterlatend over het vooruitzicht van contactopsporingstechnologie in het algemeen. Wat is er gebeurd?

Grote data, grote ideeën

Digitale contacttracering - telefoon-naar-telefoonmeldingen die gebruikers kunnen waarschuwen voor mogelijke blootstelling aan ziekten - is een nieuwe technologie en het nut van dergelijke apps om track-and-trace-inspanningen te ondersteunen is grotendeels onbeproefd. Maar als de app ook informatie zou kunnen verzamelen om het virus op andere manieren op te sporen - door te zoeken naar patronen in de manier waarop de ziekte zich verspreidt, clusters te identificeren, uitbraken vroegtijdig op te sporen of zelfs demografische en andere gegevens toe te voegen - dan zou het potentieel ervan drastisch kunnen worden vergroot. .

Dit motiveerde ambtenaren en ontwikkelaars binnen de NHS om te pleiten voor een gecentraliseerd model voor hun app. Ze geloofden dat het de informatie die het had verzameld over contacten kon verzamelen in een beschermde gegevensopslag, met de mogelijkheid om te worden gedeanonimiseerd, zodat mensen konden worden gewaarschuwd als ze in contact waren gekomen met iemand die symptomen van het coronavirus vertoonde of een positief testresultaat had gekregen .

De gecentraliseerde aanpak zou veel meer gegevensanalyse mogelijk maken dan gedecentraliseerde modellen, die gebruikers blootstellingsmeldingen geven, maar ambtenaren bijna niet zoveel toegang tot gegevens geven. Die modellen, zoals het model dat wordt voorgesteld door Google en Apple en dat nu door de NHS wordt gebruikt, zijn veel minder ingrijpend voor de privacy. De hoop is dat deze privacybescherming het vertrouwen in de app vergroot, waardoor meer mensen deze gaan gebruiken.

Er waren nog andere factoren die het VK ertoe brachten een gecentraliseerde app te ontwikkelen: het beperkte testapparaat en het relatief kleine aantal tracers van menselijke contacten betekende dat het systeem snel overweldigd zou kunnen worden als het werd gewaarschuwd bij elke melding van een mogelijk positief geval, terwijl een gecentraliseerd model gebaseerd op bevestigde gevallen in plaats van vermoede, was meer in overeenstemming met de capaciteit.

Ondertussen waren ambtenaren op zoek naar glorie (en zelfs ridderorden), en ministers waren gefocust op het uitrollen van een wereldberoemd app, in plaats van alleen een succesvolle, zodat ze de overwinning op het wereldtoneel konden claimen. Het momentum naar een gecentraliseerd systeem werd niet meer te stoppen - en de uitdagingen om er een te bouwen werden grotendeels terzijde geschoven.

Technische problemen - en organisatorische chaos

Een van de vele technische obstakels was de prestatie van Bluetooth. Bijna alle apps voor het traceren van contacten vertrouwen op de Bluetooth-functie van een telefoon om bij te houden wie in de buurt is geweest van wie. In theorie kan dit, als het constant draait, zeer nauwkeurig zijn en betrouwbare resultaten opleveren zonder het gezondheidszorgsysteem te overspoelen met valse positieven die het vertrouwen zouden kunnen ondermijnen, duizenden extra tests nodig zouden kunnen maken en mensen zouden dwingen zichzelf onnodig te isoleren. Maar in de praktijk, nauwkeurige resultaten krijgen is moeilijk , en het verbeteren van de kwaliteit ervan vergde aanzienlijk extra werk van app-ontwerpers over de hele wereld.

Deze systemen worden aangescherpt en verbeterd, maar de vroege benadering van het VK negeerde ook een ander belangrijk feit: Apple en Google hadden een bestaand beleid om de privacy van gebruikers te beschermen door specifiek te voorkomen dat apps voortdurend Bluetooth-scans uitvoeren en de gegevens ergens anders naartoe sturen - en ze waren weigeren het beleid voor coronavirus-apps te wijzigen. In plaats daarvan creëerden de technische giganten hun eigen toolkit om gedecentraliseerde apps te helpen iets soortgelijks te doen, zonder gebruikersgegevens aan een centrale autoriteit over te dragen.

Dat zorgde ervoor dat het VK probeerde de machtigste technologiebedrijven ter wereld te overtuigen om het een uitzondering te laten zijn - of om een ​​app te bouwen die specifiek de beveiligingen die Apple en Google hadden ontworpen omzeilde, en vermoedelijk gewoon hoopten dat ze de achterdeuren die de ontwikkelaars gebruikten niet zouden sluiten van.

De voortgang van de Britse app ging eigenlijk beter dan sommige sceptici dachten: ontwikkelaars vonden trucs die het soort werk hielpen, althans op Android-telefoons. Maar het is niet goed genoeg voor een tool die bedoeld is voor wijdverbreide inzet tijdens een wereldwijde gezondheidscrisis.

Dus meer dan een maand geleden heeft de Britse regering stilletjes een team opdracht gegeven om een ​​tweede app te ontwikkelen die het gedecentraliseerde model gebruikten. De twee concurrerende systemen werden in tandem ontwikkeld, tegen aanzienlijke kosten.

Dit viel samen met een chaotische reeks reorganisaties in het topmanagement van de bredere track-and-trace-inspanningen van het VK. Er kwamen nieuwe bazen en de bureaus die verantwoordelijk waren voor verschillende onderdelen van de inspanning werden verwisseld, waardoor het bredere traceringsprogramma verward en losgekoppeld werd: op verschillende punten de scripts die aan contacttracers werden gegeven, kwamen niet eens overeen met die in de apps .

Deze week maakte de regering openbaar wat achter de schermen al duidelijk was: het VK zou zijn gecentraliseerde app opgeven ten gunste van de gedecentraliseerde back-up. Het had een week eerder stilletjes het operationele contract gegund.

Het VK probeert niet langer wereldkampioen te zijn: het doel is nu om een ​​app te produceren met vergelijkbare functionaliteit als die van andere landen.

Gezien de late aankomst en het feit dat andere landen hebben gemengd succes met hun eigen gedecentraliseerde traceer-apps , is het niet duidelijk of het nieuwe systeem ooit meer dan een perifere rol zal spelen in de reactie van het VK op het coronavirus.

Kostbare, verwarrende fouten

Dus wat kunnen we van dit alles leren?

Ten eerste is de berichtgeving in de media over de inspanningen van het VK vaak verward, wat op zijn beurt pogingen vertroebelt om te begrijpen wat er mis is gegaan. Meerdere rapporten hebben gezegd dat het VK nu een app zal gebruiken die is ontwikkeld door Google en Apple, waardoor een toolkit voor ontwikkelaars wordt verward met een volledig gevormde app - en daarom mist het VK al een gedecentraliseerde app die goed op weg is.

Sociale media zijn meer in beslag genomen door de rol van Dominic Cummings, de zeer verdeeldheid zaaiende hoofdadviseur van de premier, die een sterke interesse in het gebruik van data in de politiek na het te hebben gebruikt om de pro-Brexit Vote Leave-campagne met succes te ontwikkelen.

Meerdere virale tweets beweren dat de Britse aanpak een zakelijk bod om gegevens te bemachtigen , terwijl degenen die dicht bij de daadwerkelijke ontwikkeling van de app staan zeggen het was een oprechte poging om het sterke trackrecord van de NHS in gegevens te gebruiken om de app nuttiger te maken.

Andere critici zien het falen van de gecentraliseerde app in termen van een botsing tussen de Britse regering en de techreuzen - die de techreuzen wonnen. Dergelijke confrontaties komen eraan, maar het is niet duidelijk dat dit er een van was. Het VK deed geen enkele poging om Google of Apple wettelijk af te dwingen: het vroeg hen vrijwillig hun privacybescherming af te zwakken. De techreuzen, die zagen dat tal van andere landen blij waren met een gedecentraliseerde aanpak, besloten stand te houden. Het VK besloot uiteindelijk dat het gevecht de moeite niet waard was.

Deze problemen zijn voornamelijk specifiek voor de situatie in het VK, wat het moeilijk maakt om grotere conclusies te trekken uit de precieze mislukkingen van de NHS-aanpak. Maar er zijn nog steeds lessen in dit falen, zelfs als ze meer alledaags zijn.

Ten eerste concentreerde het team zich op de potentiële voordelen van een gecentraliseerde app en negeerde aanvankelijk alle extra uitdagingen die ermee gepaard gingen. externe zorgen, veel publiekelijk uitgezonden , werden genegeerd. Het project werd vervolgens chaotisch geleid en werd het onderwerp van bureaucratische strubbelingen. Het resultaat was te veel geld uitgeven, verspilde moeite en - erger nog - tijdverspilling.

De inzet voor besluiteloosheid en fouten is extreem hoog, vooral gezien het feit dat Groot-Brittannië een van de zwaarst getroffen landen ter wereld is, met tot nu toe meer dan 40.000 bevestigde sterfgevallen als gevolg van covid-19. Of het lot van het oorspronkelijke plan nu wel of niet geldt als een aanval op het traceren van digitale contacten in het algemeen, het is duidelijk dat het gebrek aan zorgvuldige, duidelijke communicatie van de Britse autoriteiten het potentieel heeft geschaad van de technologieën die nu worden ingevoerd.

De enige troost is dat er is een alternatief - wat betekent dat de situatie niet zo'n groot fiasco is als het had kunnen zijn. De regering had kunnen besluiten om door te gaan met haar problematische, gedeeltelijk bruikbare prototype, en het ondanks de vele obstakels en zorgen naar de hele natie te pushen. Maar de NHS zag waar het heen ging en begon een plan B te ontwikkelen. Het probeerde de gecentraliseerde app niet landelijk uit te rollen toen deze tijdens zijn proef ondermaats presteerde.

De krantenkoppen van vandaag zijn, voorspelbaar en terecht, verschrikkelijk voor de Britse regering. Het had nog veel erger kunnen zijn.

James Ball is wereldwijd redacteur bij het Bureau of Investigative Journalism en auteur van: Post-waarheid en blufocratie . Zijn volgende boek, Het systeem: wie is de eigenaar van internet en hoe het ons bezit , zal in augustus 2020 verschijnen.

zich verstoppen