Moeten hogescholen echt slimme luidsprekers in slaapzalen plaatsen?

Toen Mateo Catano in de herfst van 2018 terugkeerde voor zijn tweede jaar als student aan de Saint Louis University, had hij een nieuwe kamergenoot - niet een andere student, maar een ontlichaamd brein in de vorm van een Amazon Echo Dot.

Eerder die zomer had de afdeling informatietechnologie van SLU ongeveer 2.300 van de slimme luidsprekers geïnstalleerd - één voor elk van de studentenkamers van de universiteit, waarmee de school de eerste in het land was die dit deed. Elk apparaat was voorgeprogrammeerd met antwoorden op ongeveer 130 SLU-specifieke vragen, variërend van bibliotheekuren tot de locatie van het registratiekantoor (de school noemde dit AskSLU). De apparaten bevatten ook de basisspraakvaardigheden die beschikbaar zijn op andere Dots, inclusief alarmen en herinneringen, algemene informatie en de mogelijkheid om muziek te streamen.

Dit verhaal maakte deel uit van ons nummer van januari 2020

• Zie de rest van het nummer
• Abonneren

Voor Catano was de Dot een welkome aanvulling. Hij vond het fijn om 's ochtends het weer te horen en te weten welke eetzalen open waren. En als hij eerlijk is, hij hield van het gezelschap. Door in een single te wonen, voelde ik me zeker minder eenzaam door AskSLU, zegt hij. En ik hield van de status van de eerste universiteit die dit deed.

De reactie van Catano was precies waar de SLU-beheerders op hoopten. Dit najaar heeft de jezuïeteninstelling plannen aangekondigd om de stemvaardigheden van haar Echo Dots te verbreden door zowel sms- als chatbotfuncties op te nemen.

Geen idee van de effecten op lange termijn

We staan ​​aan de vooravond van een nieuw tijdperk van slimme speakers op de campus. Zo brede scholen als de Arizona State University, de Lancaster University in het VK en de Ross University School of Medicine in Barbados hebben spraaktechnologie op de campus toegepast. Sommigen, waaronder Northeastern University, hebben de technologie een stap verder gebracht en geven studenten nu toegang tot financiële gegevens, cursusroosters en cijfers, en openstaande vergoedingen via spraakapparaten.

Eind 2018 kondigde het Emerson College in Boston aan dat het een van de 18 ontvangers was van een subsidie ​​van Amazon om spraakgestuurde technologie op campussen te bevorderen, onderdeel van de Alexa Innovation Fellowship van de techgigant. Emerson heeft een speciaal spraaklab gecreëerd waar studenten kunnen communiceren en experimenteren met Alexa-vaardigheden, en het is van plan om Alexa-apparaten te installeren in plaatsen zoals theaters en buiten liftbanken.

Beheerders van sommige van deze scholen vertelden me dat ze geloven dat Alexa de inschrijving zal vergroten en het uitvalpercentage zal verminderen. Verschillende zeiden ook dat ze geloven dat spraaktechnologie het succes van hun studenten kan vergroten en hun algehele geluk kan vergroten.

Er zijn echter genoeg mensen op de campus die een donkere kant zien.

Als het gaat om het inzetten van luisterapparatuur waar gevoelige gesprekken plaatsvinden, hebben we gewoon geen idee welk langetermijneffect het hebben van gesprekken die door Amazon worden opgenomen en bewaard op hun toekomst - zelfs, heel misschien, op hun gezondheid en welzijn, zegt Russell Newman, een Emerson-professor die onderzoek doet naar de politieke economie van communicatie en communicatiebeleid.

We weten nog steeds niet echt hoeveel data voiceskill-hosts zoals Amazon - of derde partijen die afhankelijk zijn van Amazon - oogsten, of wat ze met die informatie doen.

Andere faculteitsleden die ik sprak, herhaalden de bezwaren van Newman. Wat als de gegevens uit de gesprekken van studenten hun kansen op een hypotheek of een baan later zouden beïnvloeden? Wat als het tegen buitenlandse studenten zou worden gebruikt om ze te laten deporteren, mogelijk naar thuislanden waar ze vanwege hun politieke opvattingen gevangen zouden kunnen worden gezet?

Rechts. Dus, gezien alle risico's, waarom willen hogescholen hun campussen zo graag vullen met AI-compatibele microfoons? Wat hebben ze eraan?

AI aan de redding

Hogescholen en universiteiten worden geconfronteerd met verschillende dreigende crises. Na jaren van stijgende inschrijvingsaantallen, zien Amerikaanse scholen het aantal toelatingen teruglopen, een trend die naar verwachting de komende tien jaar zal verslechteren. Een speciaal rapport van november 2019 van de Chronicle of Higher Education voorspelt snelle dalingen bij zelfs de meest selectieve instellingen van het land. Institutionele inkomsten zijn tot stilstand gekomen - Moody's Investors Service gaf een negatief beeld van het hoger onderwijs voor het fiscale jaar 2019, met uitzondering van universiteiten in het Zuiden. Drie jaar lang heeft het ministerie van Onderwijs geprobeerd miljarden te besparen op financiële hulp en steun voor armere studenten, hoewel het Congres de bezuinigingen heeft afgewezen. De overheidsbijdragen aan de openbare universiteitsbegrotingen zijn achtergebleven sinds de laatste recessie. Particuliere hogescholen hebben het ook moeilijk; meer dan een kwart van hen staat nu in het rood. In de afgelopen jaren hebben 20 particuliere, non-profit hogescholen hun deuren gesloten, en nog veel meer overwegen te fuseren of te consolideren.

Ondertussen haalt de helft van alle studenten die naar de universiteit gaan niet binnen zes jaar af. Onderzoekers geven verschillende verklaringen. Nick Bowman, hoogleraar onderwijs aan de Universiteit van Iowa, wijst op het feit dat de huidige studenten ouder zijn dan de traditionele 18- tot 22-jarigen. Velen hebben een fulltime baan. Sommigen zorgen voor kinderen of broers en zussen of bejaarde ouders. En met een gemiddelde studieschuld van 35.000 dollar na vier jaar school kan het vooruitzicht van schooluitval verleidelijk zijn.

Voor veel hogeschoolbestuurders biedt AI aansprekende oplossingen voor deze hachelijke situatie. Winston-Salem State University, een historisch zwarte universiteit met veel lage inkomens en eerstegeneratiestudenten, heeft voortdurend problemen gehad om elke klas te helpen de belangrijkste deadlines te halen, zoals het indienen van transcripties en vaccinatiegegevens van de middelbare school, het invullen van formulieren voor financiële hulp en het maken van deposito's van woningen. We realiseerden ons dat veel van onze studenten het inschrijvingsproces voor de universiteit misschien niet begrijpen en mogelijk niet kunnen vertrouwen op families of ondersteunende systemen om het voor hen te decoderen, zegt Jay Davis, hoofd mediarelaties van de universiteit.

Twee jaar geleden werkte WSSU samen met een technologiebedrijf genaamd AdmitHub om een ​​AI-chatbot genaamd Winston aan te bieden om studenten te helpen bij het inschrijvingsproces. Davis zegt dat de app ongeveer driekwart van de vragen van studenten met succes beantwoordt, en dat er een dramatische toename is van het aantal studenten dat aan hun financiële vereisten voldoet en alle ondersteunende documenten indient die nodig zijn om hun aanvraag te voltooien. Dit jaar organiseert WSSU zijn grootste eerstejaarsklasse in meer dan een decennium, en Davis zegt dat Winston daarin een grote rol speelde.

Toegang tot je woorden, voor altijd

Ik heb een paar uur met chatbots gespeeld op een handvol hogescholen en universiteiten. Ze beantwoordden allemaal vragen over de schoolmascotte, waar ik het avondeten kon vinden en wanneer het volgende sport- of alumninetwerkevenement was. Maar ze hebben anderen voor de gek gehouden. Toen ik er een vertelde dat ik ziek was, vertelde het me dat het studentengezondheidscentrum geen schriftelijk excuus zou geven voor gemiste lessen. Ik vroeg waar het studentengezondheidscentrum was; het reageerde met universitaire rondleidingen voor toekomstige studenten. Ik vertelde een ander dat ik me depressief voelde, en het verwees me naar een federaal programma voor financiële steun voor studenten.

De campusprogrammeurs aan de andere kant van deze apparaten vertelden me allemaal dat de vaardigheden zouden verbeteren naarmate meer studenten ze gebruikten, wat natuurlijk AI zo effectief maakt. Maar het is ook wat de bedreigingen voor onze privacy zo reëel maakt, zegt Vitaly Shmatikov, een professor in computerwetenschappen aan Cornell Tech. Techbedrijven, zegt Shmatikov, zijn notoir ondoorzichtig over privacy en veiligheid. Wat hij en andere geleerden over hen hebben geleerd, is grotendeels door middel van reverse-engineering en wat gefundeerd giswerk, en de bevindingen betreffen Shmatikov veel.

Om te beginnen, zegt hij, trainen bedrijven als Amazon hun algoritmen voor spraakherkenning op opnames van eerdere gebruikersinteracties om ze bijvoorbeeld beter te laten begrijpen wat de bedoeling van een vraag is. Hij zegt dat alle betrokken bedrijven erg terughoudend zijn over hoeveel gegevens er tussen hen reizen. Er is geen belofte aan de gebruiker dat hun gegevens een specifiek apparaat niet zullen verlaten, zegt Shmatikov. We weten nog steeds niet echt hoeveel data-hosts met stemvaardigheden zoals Amazon - of derde partijen die op Amazon vertrouwen - oogsten, of wat ze met die informatie doen. Amazon heeft niet gereageerd op meerdere verzoeken om commentaar.

Shmatikov zegt dat het redelijk is om aan te nemen dat de cloud van een bedrijf datum- en tijdstempels heeft van verzoeken van studenten aan een slimme spreker, en de apparaten kunnen zelfs de gesprekken opnemen die de student met andere mensen heeft gehad voor of nadat ze ermee hebben gesproken. Naarmate spraakherkenning en locatievaardigheden verbeteren, wordt het steeds beter mogelijk om deze opnames te koppelen aan een individuele persoon. Dat is niet zoals een school die je kluisje doorzoekt; het is meer een school die voor altijd alles opneemt wat er ooit in je kluisje is geweest en wat jij en je vrienden zeiden elke keer dat je het opende, en vervolgens een groot aantal commerciële entiteiten die informatie liet doorzoeken.

Ambtenaren van de Arizona State University en Saint Louis University zeggen dat ze geen informatie koppelen zoals de financiën, medische dossiers en cijfers van studenten (gegevens die bekend staan ​​als geverifieerd, omdat een student moet linken naar persoonlijke accounts) totdat ze meer vertrouwen hebben in de veiligheids maatregelen. De technologie die in Northeastern wordt gebruikt, is ontwikkeld door een klein team onder leiding van Somen Saha, destijds een medewerker van de universiteit. Saha heeft uiteindelijk een onafhankelijk bedrijf opgericht met de naam n-Powered, dat een app heeft ontwikkeld met de naam MyHusky die beschikbaar is via Alexa. De privacypagina erkent echter ook dat we het Amazon-platform gebruiken om dit te laten werken. Amazon slaat informatie over het gebruik op die op verzoek kan worden verwijderd.

Shmatikov zegt dat het gebruik van de eigen software van een universiteit en het beperken van het gebruik van chatbots tot algemene vragen de toegang van een technologiebedrijf tot studentinformatie kan beperken, maar het probleem niet volledig zal oplossen. Hij wijst op gevoelige vragen, zoals of het gezondheidscentrum soa-tests of recepten aanbiedt om aandoeningen zoals schizofrenie te behandelen: technisch gezien zijn deze niet gekoppeld aan een specifieke student, maar het is niet zo moeilijk om erachter te komen wie het vraagt, en studenten realiseren zich misschien niet dit zijn niet altijd anonieme vragen. Bovendien, zegt Shmatikov, heeft een bedrijf als Amazon de prompts van studenten in datasignalen omgezet, en voor altijd toegang tot de informatie van de student.

Enge gevolgen

Privacy is een punt van zorg voor elke gebruiker van een AI-apparaat, maar de faculteit met wie ik voor dit verhaal sprak, houdt vol dat er bijzonder enge gevolgen zijn voor het hoger onderwijs.

Studenten zijn misschien wel de meest gewilde categorie consumenten, zegt Newman van Emerson. Ze zijn het moeilijkst te bereiken en zetten het meest waarschijnlijk trends. Als gevolg hiervan, zegt hij, zijn hun gegevens enkele van de meest waardevolle en zullen ze het meest worden gedolven of verkocht. En dat onderwijsinstellingen medeplichtig zijn aan de commercialisering van studenten voor bedrijfswinst, is, zegt hij, fundamenteel in strijd met hun missie.

Sarah T. Roberts, een assistent-professor informatiestudies aan de UCLA, zegt dat scholen die overeenkomsten aangaan met technologiebedrijven op zijn minst het welzijn van hun studenten in gevaar brengen. De tijd van een student aan een hogeschool of universiteit wordt gebruikt om ideeën te onderzoeken en nieuwe identiteiten te proberen, of dat nu politieke overtuigingen zijn of gender en seksualiteit, zegt Roberts. De wetenschap dat ze worden opgenomen terwijl ze dat doen, zal ongetwijfeld voorkomen dat studenten het gevoel hebben dat ze hun mening kunnen uiten. Het is ook de moeite waard om te onthouden, zegt ze, dat veel studenten uit landen komen waar het gevaarlijk kan zijn om hun seksualiteit of politieke overtuigingen te onthullen.

Bij Northeastern heeft een student een online petitie opgesteld waarin de universiteit wordt geëist alle Alexa-apparaten te verwijderen. Het luidt gedeeltelijk: Alexa's zijn goed gedocumenteerd als heimelijke luisterapparaten die worden gebruikt om de marketingtactieken van Amazon aan te scherpen .... Northeastern University dwingt op zijn minst een vreemd apparaat in studentenruimten waar niemand om heeft gevraagd. In het ergste geval schenden ze roekeloos de privacy van hun studenten in opdracht van een zakelijke donor. Begin december had de petitie 125 handtekeningen.

Bij Emerson hebben studenten en andere faculteitsleden samen met Newman een commissie opgericht om het privacybeleid voor de campus op te stellen. Op zijn minst, zegt hij, zou hij graag waarschuwingsborden zien geplaatst waar een afluisterapparaat staat. Hij zegt dat de administratie tot nu toe heeft meegewerkt en dat de implementatie van alle apparaten vertraging heeft opgelopen.

We hebben een veilige manier nodig om met deze technologieën te experimenteren en de gevolgen van het gebruik ervan te begrijpen, in plaats van alleen maar door te gaan met een blinde mars naar surveillance met het doel winst te maken, zegt Newman. Dit zijn uitgekiende toepassingen met levenslange gevolgen voor de individuen die er door worden geanalyseerd, tot nog onbekende doeleinden. We moeten hier allemaal heel verstandig en attent zijn.

Kathryn Miles is een freelance schrijver en de auteur van Quakeland: op weg naar Amerika's volgende verwoestende aardbeving . Haar verhaal The Little Coin That Ate Quebec verscheen in het nummer van mei/juni 2018.

zich verstoppen