211service.com
Hoe computergebruik is getransformeerd
Jeanette Wing gelooft dat betrouwbare AI en causaal redeneren de samenleving kan helpen bij het oplossen van problemen in de echte wereld. Maar het zal niet gemakkelijk zijn.
27 oktober 2021
Peter Garritano
Het wordt tijd dat we ons gaan fixeren op data om onze problemen op te lossen, zegt een van 's werelds toonaangevende experts op het gebied van datawetenschap.
In 2006 publiceerde Jeannette Wing, toen hoofd van de afdeling computerwetenschappen aan de Carnegie Mellon University, een invloedrijk essay met de titel Computationeel denken, met het argument dat iedereen baat zou hebben bij het gebruik van de conceptuele instrumenten van de informatica om problemen op alle gebieden van het menselijk streven op te lossen.
Dit verhaal maakte deel uit van ons nummer van november 2021
- Zie de rest van het nummer
- Abonneren
Wing zelf was nooit van plan om informatica te studeren. Halverwege de jaren zeventig ging ze naar het MIT om elektrotechniek te volgen, geïnspireerd door haar vader, een professor op dat gebied. Toen ze ontdekte dat ze geïnteresseerd was in informatica, belde ze hem op om te vragen of het een voorbijgaande rage was. Het veld had immers niet eens studieboeken. Hij verzekerde haar dat dat niet zo was. Wing wisselde van major en keek nooit meer achterom.
Wing was voorheen corporate vice-president van Microsoft Research en nu executive vice-president voor onderzoek aan Columbia University. Wing is een leider in het promoten van datawetenschap in meerdere disciplines.
Anil Ananthaswamy vroeg Wing onlangs naar haar ambitieuze agenda om betrouwbare AI te promoten, een van 10 onderzoeksuitdagingen ze is geïdentificeerd in haar poging om AI-systemen eerlijker en minder bevooroordeeld te maken.
Vraag: Zou je zeggen dat er een transformatie gaande is in de manier waarop berekeningen worden uitgevoerd?
een: Absoluut. De wet van Moore heeft ons een heel eind gebracht. We wisten dat we het plafond zouden bereiken voor de wet van Moore, [dus] parallel computing kwam op de voorgrond. Maar de faseverschuiving was cloud computing. Oorspronkelijke gedistribueerde bestandssystemen waren een soort baby-cloudcomputing, waarbij je bestanden niet lokaal op je computer stonden; ze waren ergens anders op de server. Cloud computing neemt dat en versterkt het nog meer, waar de gegevens niet bij u in de buurt zijn; de computer is niet bij u in de buurt.
De volgende shift gaat over data. Voor de langste tijd hebben we ons gefixeerd op cycli, waardoor dingen sneller werken: de processors, CPU's, GPU's en meer parallelle servers. We hebben het gegevensgedeelte genegeerd. Nu moeten we ons fixeren op data.
V: Dat is het domein van datawetenschap. Hoe zou je het definiëren? Wat zijn de uitdagingen bij het gebruik van de gegevens?
NAAR: Ik heb een zeer beknopte definitie. Datawetenschap is de studie van het extraheren van waarde uit data.
Je kunt me niet zomaar een heleboel onbewerkte gegevens geven en ik druk op een knop en de waarde komt eruit. Het begint met het verzamelen, verwerken, opslaan, beheren, analyseren en visualiseren van de gegevens en vervolgens het interpreteren van de resultaten. Ik noem het de datalevenscyclus. Elke stap in die cyclus is veel werk.
V: Wanneer u big data gebruikt, duiken er vaak zorgen op over privacy, veiligheid, eerlijkheid en vooringenomenheid. Hoe pakt men deze problemen aan, vooral bij AI?
NAAR: Ik heb deze nieuwe onderzoeksagenda die ik promoot. Ik noem het betrouwbare AI, geïnspireerd door de decennialange vooruitgang die we hebben geboekt op het gebied van betrouwbaar computergebruik. Met betrouwbaarheid bedoelen we meestal beveiliging, betrouwbaarheid, beschikbaarheid, privacy en bruikbaarheid. In de afgelopen twee decennia hebben we veel vooruitgang geboekt. We hebben formele methoden die de juistheid van een stuk code kunnen garanderen; we hebben beveiligingsprotocollen die de beveiliging van een bepaald systeem verhogen. En we hebben bepaalde noties van privacy die geformaliseerd zijn.
Betrouwbare AI verhoogt de ante op twee manieren. Plots hebben we het over robuustheid en eerlijkheid - robuustheid, wat betekent dat als je de invoer verstoort, de uitvoer niet erg wordt verstoord. En dan hebben we het over interpreteerbaarheid. Dit zijn dingen waar we het nooit over hadden als we het over computers hadden.
[Ook] AI-systemen zijn probabilistisch van aard. De computersystemen uit het verleden zijn in feite deterministische machines: ze zijn aan of uit, waar of niet waar, ja of nee, 0 of een . De outputs van onze AI-systemen zijn in wezen waarschijnlijkheden. Als ik je vertel dat je röntgenfoto zegt dat je kanker hebt, is het met, laten we zeggen, 0,75 kans dat dat kleine witte vlekje dat ik zag kwaadaardig is.
Dus nu moeten we leven in deze wereld van waarschijnlijkheden. Vanuit wiskundig oogpunt gebruikt het probabilistische logica en brengt het veel statistieken en stochastische redeneringen binnen, enzovoort. Als computerwetenschapper ben je niet opgeleid om op die manier te denken. Dus AI-systemen hebben onze formele redenering over deze systemen echt gecompliceerd.
Vraag: Betrouwbare AI is een van de 10 onderzoeksuitdagingen je hebt geïdentificeerd voor datawetenschappers. Causaliteit lijkt een andere grote te zijn.
A: Causaliteit, denk ik, is de volgende grens voor AI en machine learning. Op dit moment zijn algoritmen en modellen voor machine learning goed in het vinden van patronen en correlaties en associaties. Maar ze kunnen ons niet vertellen: heeft dit dat veroorzaakt? Of als ik dit zou doen, wat zou er dan gebeuren? En dus is er nog een heel ander gebied van activiteit op het gebied van causale gevolgtrekking en causaal redeneren in de informatica. De statistiekgemeenschap kijkt al tientallen jaren naar causaliteit. Ze worden soms een beetje boos op de computerwetenschapsgemeenschap omdat ze denken dat dit een gloednieuw idee is. Dus ik wil de statistiekgemeenschap bedanken voor hun fundamentele bijdragen aan causaliteit. De combinatie van big data en causaal redeneren kan het veld echt vooruit helpen.
Vraag: Ben je enthousiast over wat data science kan bereiken?
NAAR: Iedereen is dol op datawetenschap, omdat ze zien dat hun vakgebied wordt getransformeerd door het gebruik van datawetenschapsmethoden op de digitale gegevens die ze nu genereren, produceren, verzamelen, enzovoort. Het is een heel spannende tijd.