211service.com
AI is nu echt: een gesprek met Sophie Vandebroek
Waarom er nooit meer een AI-winter komt, en wat IBM en MIT samen doen om daarvoor te zorgen.
28 februari 2019
Gesponsord door Darktrace
Meer dan bijna elk ander innovatiegebied heeft kunstmatige intelligentie terugkerende cycli van overdreven hoop doorstaan, gevolgd door teleurstelling, pessimisme en bezuinigingen. Maar Sophie Vandebroek, IBM's vice-president van opkomende technologiepartnerschappen, denkt dat de AI-winters echt tot het verleden behoren, dankzij de enorme hoeveelheden rekenkracht en gegevens die nu beschikbaar zijn om neurale netwerken te trainen.
In deze aflevering deelt Vandebroek voorbeelden van real-world toepassingen die mogelijk zijn gemaakt door deze verschuiving, van beeldherkenning tot chatbots. En ze beschrijft de missie van het nieuwe MIT-IBM Watson AI Lab, een 10-jarige samenwerking van $ 240 miljoen tussen IBM-onderzoekers en MIT-faculteit en studenten om zich te concentreren op de belangrijkste vorderingen die AI nuttiger en betrouwbaarder zullen maken in alle sectoren, van gezondheidszorg tot financiën tot zekerheid.
Deze aflevering wordt u aangeboden door Darktrace, de wereldleider in AI-technologie voor cyberdefensie. Darktrace heeft zijn hoofdkantoor in San Francisco en Cambridge, VK, en heeft bijna 2500 klanten over de hele wereld die zijn software gebruiken om cyberbedreigingen voor hun bedrijven, gebruikers en apparaten te detecteren en erop te reageren. Darktrace heeft innovatieve machine learning-technologie ontwikkeld die ongebruikelijke activiteit kan detecteren met behulp van een benadering die is gemodelleerd naar het menselijke immuunsysteem. In de tweede helft van de show legt Darktrace-CEO Nicole Eagan uit hoe de technologie van Darktrace werkt en waarom bedrijven nieuwe verdedigingsmiddelen moeten aanbrengen in de huidige cyberwapenwedloop.
TOON OPMERKINGEN EN LINKS
VOLLEDIGE TRANSCRIPT
Elizabeth Bramson-Boudreau: Van MIT Technology Review, ik ben Elizabeth Bramson-Boudreau, en dit is Business Lab, de show die bedrijfsleiders helpt om nieuwe technologieën te begrijpen die uit het lab en op de markt komen. Deze aflevering wordt u aangeboden door Darktrace, de wereldleider in AI-technologie voor cyberdefensie. Later in het programma spreek ik met de CEO van Darktrace, Nicole Eagan. Ze zal ons laten zien hoe vooruitgang in AI en machine learning ons een nieuwe reeks manieren biedt om ons te verdedigen tegen hackers en cybercriminelen.
Elisabeth: Maar onze eerste gast komt uit een van de nieuwste centra voor AI-onderzoek, het MIT-IBM Watson AI .Lab, slechts een paar blokken verwijderd van onze kantoren hier in Cambridge, Massachusetts. Het is de plaats van meer dan 50 nieuwe projecten waarbij IBM-onderzoekers en de MIT-faculteit betrokken zijn, allemaal gericht op het bevorderen van de fundamentele technologieën achter kunstmatige intelligentie. En hier om met ons te praten is een van de architecten van die inspanning, Dr. Sophie Vandebroek.
Elisabeth: Sophie is momenteel IBM's vice-president van opkomende technologiepartnerschappen, en ze staat in de computerindustrie bekend om haar voorname geschiedenis die innovatie vooruit heeft geholpen - niet alleen bij IBM maar ook bij Xerox, waar ze meer dan tien jaar als Chief Technology Officer bij Xerox heeft gewerkt. Ze was de directeur van PARC Inc., het beroemde laboratorium dat voorheen bekend stond als Xerox PARC. In 2011 werd ze opgenomen in de Women in Technology Hall of Fame. In overeenstemming met de thema's van het MIT IBM Watson AI-lab begonnen we te praten over hoe AI evolueert en waarom het bedrijven transformeert op manieren die de meeste leidinggevenden nu pas beginnen te begrijpen.
Elisabeth: Sophie, bedankt dat je hier bent gekomen om met ons te praten en welkom.
Sophie Vandebroek: Oh, het is me een groot genoegen om hier te zijn. Ik ben een fervent lezer van je dagboek, dus ik ben erg blij om deel te nemen aan de podcast.
Elizabeth : Ik hoop dat je niet alleen met mij, maar ook met de mensen die naar deze podcast luisteren, kunt praten over waar AI naartoe gaat en de fase waarin we ons bevinden in de ontwikkeling van AI. Ik weet dat veel mensen praten over hoe AI op het punt staat werk te transformeren, alleen om die hoop een beetje te laten vervliegen. Zouden we mogelijk in een andere van deze situaties kunnen zijn waarin het stopt, of is dit nu anders?
Sophie: Het is heel anders nu AI echt is. En ja, het woord kunstmatige intelligentie werd bijna 70 jaar geleden bedacht. Het is zoveel decennia later. Dus wat gebeurde er? Waarom was het toen niet echt en waarom is het nu echt? Er zijn twee belangrijke redenen waarom het nu echt is. En het is allebei vanwege exponentiële wetten. De eerste is de wet van Moore die we allemaal heel goed kennen en liefhebben. De transistor, de basistransistor is uitgevonden in de jaren 50. In 1975 waren er 1000 transistors op een centimeter vierkante chip. Vandaag zijn er 10 miljard transistors op een centimeter vierkante chip die IBM vandaag ontwikkelt, en die rekenkracht heeft geresulteerd in de mobiele apparaten die we in onze zakken hebben, de nieuwste high-performance computer, de Summit, je weet wel, die IBM-computer die Oak Ridge National Lab onlangs gekocht. Het doet 200 petaflops, wat neerkomt op 200 duizend biljoen berekeningen per seconde. Ik bedoel, supersnel.
Sophie: Dus we hebben een volume, ik bedoel een enorme hoeveelheid rekenkracht, wat van cruciaal belang is voor AI om echt te zijn. Daarnaast de tweede wet, de wet van Metcalfe. Bob Metcalfe, die ook lange tijd deel uitmaakte van de Boston-gemeenschap, was bij Xerox PARC, en zoals u weet voordat ik bij IBM kwam, werkte ik een paar decennia bij Xerox nauw samen met het PARC-team, toen hij Ethernet uitvond. En het Ethernet aangesloten ... de waarde van het Ethernet, de waarde van een netwerk is evenredig met 2 tot de n-de met n, het aantal apparaten op het netwerk. En dat heet dus de wet van Metcalfe, en het verwees niet alleen naar Ethernet maar uiteraard naar het World Wide Web, naar sociale netwerken, en het heeft veel zeer waardevolle bedrijven gecreëerd die we tegenwoordig allemaal kennen.
Sophie: Maar bovendien heeft het deze enorme hoeveelheid gegevens gecreëerd, toch? En dus zijn de gegevens op het web samen met de gestructureerde digitale gegevens die veel bedrijven tegenwoordig hebben, veel bedrijven begonnen al hun werkprocessen te digitaliseren, samen met alle gegevens die afkomstig zijn van sensoren met het internet der dingen en sensoren en productie en camera's, alomtegenwoordig camera's, enz. Er is een enorme hoeveelheid gegevens, in feite is het de afgelopen tien jaar of meer nu exponentieel toegenomen. En dus kwamen de 'AI-winters' omdat er inderdaad geen rekenkracht was en er geen gegevens waren om deze neurale netwerken te trainen. En vandaag hebben we de rekenkracht. We hebben de gegevens. En de afgelopen vijf jaar is er enorm veel vooruitgang geboekt op het gebied van neurale netwerken, aangezien het in 2012 voor het eerst een neuraal netwerk was dat draaide op een grafische verwerkingseenheid, een GPU, die voor de won voor het eerst een wedstrijd voor beeldherkenning. En in feite is het in deze smalle gebieden dat AI bovenmenselijke kwaliteit en supersnelheid heeft. En om deze redenen, deze twee exponentiëlen, is AI echt. En in feite zou ik zeggen dat kunstmatige intelligentie zelf nu aan het begin staat van een exponentiële curve, dat we exponentieel snelle nieuwe inzichten creëren die individuen, ongeacht in welke branche je zit, kunnen gebruiken om snelle, realtime beslissingen te nemen. Het kan ook het ontdekkingsproces in biowetenschappelijk onderzoek en ontwikkeling in het algemeen versnellen. Het wordt dus gebruikt. En het heeft echt de mogelijkheid om meerdere velden te beïnvloeden.
Elisabeth: Dus dat is een goede uitleg van wat deze verschuiving echt mogelijk heeft gemaakt en waarom AI tegenwoordig zo'n alomtegenwoordig onderwerp is voor bedrijfsleiders. Wat staat het toe, wat stelt AI bedrijven in staat om te doen wat tien jaar geleden misschien moeilijk of zelfs onmogelijk was?
Sophie: Ja, dat is zo, het stelt bedrijven in staat om zowel hun effectiviteit als efficiëntie te vergroten vanuit het oogpunt van de winst, vanuit het oogpunt van winstgevendheid. Maar het stelt hen ook in staat om geheel nieuwe bedrijfsmodellen en nieuwe inkomstenmogelijkheden te creëren. Laat ik een voorbeeld geven van het eerste. Bijvoorbeeld virtuele agents die passen in deze categorie van smalle AI die we net die fase zijn gepasseerd, we zitten vandaag in de fase van brede AI en daar kunnen we het over hebben voordat we bij algemene kunstmatige intelligentie komen. Maar de virtuele agenten of de chatbots die velen van ons kennen en waarmee we tegenwoordig communiceren als onderdeel van klantservers, bestonden tien jaar geleden nog niet. Alles werd gedaan door callcentermedewerkers die grote databases moesten gebruiken om je antwoorden op je vragen te krijgen, enzovoort. Welnu, de meeste daarvan kunnen virtuele agenten op een zeer effectieve en efficiënte manier doen. Sommige van deze virtuele agenten zullen tegenwoordig heel snel beoordelen of u extravert of introvert bent en hun taal aanpassen aan uw stijl.
Sophie: Ook automatisering. als u bijvoorbeeld vandaag met uw auto door een tolhuis rijdt, is het volledig automatische kentekenherkenning en het lezen van de kentekenplaten, zodat u binnen de backend-processen daadwerkelijk in rekening wordt gebracht voor het rijden door de tolhuisjes. Nogmaals, de meeste van deze processen werden in het verleden allemaal handmatig gedaan. Er zouden foto's worden gemaakt van kentekenplaten, naar India worden gestuurd om te worden verwerkt, en dan zouden vier van de vijf mensen, als uw kenteken in het systeem wordt ingevoerd, u gefactureerd krijgen. Dit zijn al deze transactionele, routinematige, zeer smalle, zeer specifieke processen die tegenwoordig geautomatiseerd zijn.
Elisabeth: Dit klinkt allemaal fantastisch. En als bedrijfsleider kan ik denken dat u wel weet waarom ik geen grotere efficiëntie zou willen zien. Maar zijn er dingen waar ik misschien aan moet denken rond de risico's van op machine learning gebaseerde tools?
Sophie: Ja, er zijn zeker risico's. En veel ondernemingen: bij IBM is het top of mind. We creëren de tools en mogelijkheden als onderdeel van IBM OpenScale of we hebben andere toolkits die ik zal uitlichten. Een daarvan is het helpen van ondernemingen bij het omgaan met risico's. Het begint ook top of mind te worden bij raden van bestuur en directeuren van bedrijven, om ervoor te zorgen dat deze risico's met betrekking tot het inzetten en omarmen van kunstmatige intelligentie als onderdeel van de organisatie worden aangepakt. Laat ik er een paar uitlichten. Nummer één is ervoor te zorgen dat de algoritmen, AI-algoritmen, eerlijk zijn - dat de uitkomst van het AI-algoritme, aangezien AI mensen helpt bij het nemen van beslissingen, dat de beslissingen eerlijk en ethisch zijn en niet bevooroordeeld. Dus we hebben net open source gelanceerd, iedereen kan ons helpen het te verbeteren, dus IBM-onderzoek heeft de AI Fairness 360 Toolkit open source gemaakt, waar je je algoritme kunt gebruiken en het vervolgens wordt gecontroleerd op allerlei vooroordelen. Vandaag controleren we op gendervooroordelen, leeftijdsvooroordelen, rasvooroordelen, dingen zoals postcodevooroordeel. Een van de redenen voor de vooringenomenheid is dat de dataset waarmee het argument is getraind, en vooral in ondernemingen - bedrijven geen enorme hoeveelheden gegevens hebben zoals in de consumentenwereld, waar er een enorme hoeveelheid kattenfoto's zou kunnen zijn om een beeldalgoritme te trainen om een kat te herkennen. De ondernemingen waar een bedrijf, laten we zeggen een ziekenhuis of een school of een onderneming, een beperkte hoeveelheid gegevens heeft om de algoritmen te trainen, zodat de gegevens mogelijk niet voldoende diversiteit en inclusie in de dataset hebben, zodat de algoritmen in feite bevooroordeeld.
Sophie: Een voorbeeld hiervan is dat personeelsafdelingen AI beginnen te gebruiken om nieuwe werknemers te vinden. En dus als uw bron voor softwareontwikkelaars gebruikmaakt van een AI-algoritme dat op uw gegevens kan worden getraind, zal het algoritme leren dat de meeste softwareontwikkelaars mannelijk zijn, want dat is wat u in het verleden hebt ingehuurd. Het risico is dus dat algoritmen je volgende aanwerving aanbevelen, kijkend naar alle cv's, dat ze naar verhouding meer mannen dan vrouwen aanbevelen voor banen in software-engineering. We weten allemaal dat geslacht niet relevant is voor een software-engineer. Het is gewoon zo dat historische gegevens bevooroordeeld waren binnen de gegevens. Dus de tools zullen dan aanbevelen om een meer diverse dataset te hebben.
Elisabeth: Oké, dus wat zijn enkele van de andere risico's?
Sophie: Oke. De andere risico's zijn, ik bedoel, de algoritmen van vandaag, met name deep learning en neurale netwerken, zijn als zwarte dozen. Het risico is dus dat het algoritme u een antwoord zal geven. Ja, je krijgt een lening, of nee, je krijgt geen lening, of ja, je hebt huidkanker omdat smalle AI beter is dan mensen om huidkanker te identificeren. Maar het kan het niet verklaren. Het verklaart niet waarom of hoe het tot dat antwoord is gekomen. En dus is verklaarbaarheid erg belangrijk. Dat is dus een risico, dat u in uw bedrijf niet kunt uitleggen hoe bepaalde antwoorden tot stand zijn gekomen. En eigenlijk is het in de Europese Unie, met de AVG, de Algemene Verordening Gegevensbescherming, een vereiste. Bedrijven kunnen AI niet eens gebruiken als het zichzelf niet kan verklaren. Alles moet uitgelegd kunnen worden.
Elisabeth: Dus vertel ons iets over het MIT-IBM Watson Lab en zijn missie.
Sophie: Ja. Bedankt voor de vraag. Dit is een zeer opwindende samenwerking tussen IBM Research en MIT die we iets meer dan een jaar geleden tot stand hebben gebracht. En dus is het een verbintenis van $ 240 miljoen door IBM over een periode van 10 jaar en het is een uniek laboratorium, een universitair-industrieel samenwerkingslaboratorium, ter wereld. Er bestaat geen andere van deze soort. In feite begonnen ikzelf en de decaan van engineering aan het MIT, Anantha [Chandrakasan], te brainstormen in de zomer van 2017, ik geloof dat het...
Sophie: Je vertelde me dat het allemaal nogal snel ging.
Elisabeth: Het gebeurde in drie weken. Misschien vier weken als ik de lunch meerekende die Anantha en ik hadden voordat onze senior vice-president op een maandagochtend met de president van MIT sprak en drie weken later op een vrijdag, het contract werd ondertekend. En zo is het inderdaad, de visie was om dit gezamenlijke lab van ongeveer 100 onderzoekers te creëren, en de onderzoekers omvatten IBM-onderzoekers, MIT-professoren en studenten, en we vierden de eerste verjaardag in september. Afgelopen september 2018. En inderdaad, we hebben 49 gezamenlijke projecten die vandaag actief zijn, met ongeveer 100 mensen of het equivalent van 100 mensen op die projecten. En dat zijn ze echt, het zijn onderzoeksprojecten en geen toegepaste technologie. We wilden er echt voor zorgen dat die 50 projecten de moeilijkste problemen in AI aanpakken. En dat doen ze precies.
Sophie: Er zijn dus vier pijlers. We hebben vier pijlers gedefinieerd. De ene is rond de belangrijkste AI-algoritmen en dat is precies waar we deze moeilijke problemen aanpakken, zoals AI die zichzelf kan verklaren. Of leren van kleine gegevens, verschillende methodieken om te leren van kleine gegevens, zoals ziekenhuizen een kleine set patiënten maar een kleine set gegevens hebben.
Elisabeth: Om het probleem aan te pakken dat u eerder noemde over hoe er aan de bedrijfskant geen is, zijn er vaak niet genoeg gegevens om de algoritmen echt te trainen.
Sophie: Niet zoals het in het verleden is gedaan bij rechts in de smalle AI-fase. Nu zitten we in deze fase van brede AI waar systemen zullen moeten leren van kleine data. Dus ook verschillende projecten in het MIT-IBM Watson AI-lab zijn daarmee verbonden.
Sophie: De tweede pijler is het toepassen van AI op industrieën. En vandaag kijken we naar drie sectoren: gezondheidszorg en life sciences, omdat IBM's Watson Health-businessunit zijn hoofdkantoor hier in Cambridge, Massachusetts heeft. AI toegepast op de industrie is ook beveiliging, toegepast op beveiligingsbedrijven. En natuurlijk is beveiliging relevant voor alle sectoren. En dan is de derde branche waar we ons op richten de financiële dienstverlening, dus financiën en economie. Dat is dus een tweede pijler. Er zijn vier pijlers in het MIT-IBM Watson AI Lab.
Sophie: De derde is, we noemen het de fysica van AI. Wat zijn de hardware-uitdagingen om efficiënt en effectief te trainen in de clouds en aan de rand. En dan de vierde categorie, waar ik erg enthousiast over ben, is een categorie die we welvaart noemen die mogelijk wordt gemaakt door AI, of gedeelde welvaart die mogelijk wordt gemaakt door AI. Het kijkt opnieuw naar deze uitdagingen van het creëren van AI-systemen en die echt morele waarden hebben die ethische beslissingen kunnen nemen. Wat is de toekomst van banen bijvoorbeeld, is een project dat we in die categorie hebben. En dus ja, dit zijn de vier pijlers: kern-AI-algoritmen, fysica van AI, AI voor industrieën en welvaart mogelijk gemaakt door AI. En nu we onze eerste verjaardag hebben gevierd, hebben we zojuist tussen MIT en IBM afgesproken dat we onze deuren zullen openen voor andere grote ondernemingen die echt geïnteresseerd zijn om voorop te lopen op het gebied van onderzoek in kunstmatige intelligentie om zich bij ons laboratorium aan te sluiten. Dus daar werken we nu aan.
Elisabeth: Twee gebieden waar we bij MIT Technology Review veel tijd aan besteden, zijn cryptocurrencies of blockchain, en kwantumcomputing. Ik zou heel graag willen horen wat jullie allemaal op die gebieden doen. En misschien kunnen we beginnen met crypto. En ik denk dat de vraag die ik zou hebben is: hoe denken we over blockchain als meer dan een curiositeit en eigenlijk iets dat betrouwbaar en stabiel is en de zakelijke context waarin het wordt gebruikt een beetje kan verbeteren?
Sophie: Ja, daar heb je het juiste woord gezegd. Het draait dus allemaal om vertrouwen. Als we het bij IBM hebben over blockchain, in feite blockchain, gebeurde er gedurende meerdere jaren veel onderzoek naar blockchain in de onderzoekslaboratoria, en IBM heeft nu ongeveer twee en een half jaar geleden een bedrijf opgericht, een blockchain-bedrijfseenheid. Ik zie drie soorten gebieden waar blockchain tegenwoordig wordt gebruikt of waar veel prototypes worden geëxperimenteerd. Een daarvan is inderdaad in cryptocurrencies zoals Bitcoin. En zo kennen de meeste mensen blockchain, ze denken aan Bitcoin. En dat is een heel gebied van cryptocurrency. Bij IBM zijn we niet geïnteresseerd in cryptocurrency, omdat onze klanten niet geïnteresseerd zijn in cryptocurrencies. Wij zijn geïnteresseerd in het onderliggende blockchainplatform. En in feite is een groot deel van het onderliggende platform open source gemaakt op Hyperledger, beheerd door de Linux Foundation, en IBM heeft aanzienlijk bijgedragen aan de code en we zullen dat blijven doen. De volgende is dat blockchain, dit onderliggende platform, wordt gebruikt in waardeketens om waardevolle goederen of waardevolle digitale goederen te volgen terwijl ze gaan van waar ze vandaan komen naar waar ze worden gebruikt. En ik kan wat voorbeelden geven. En het derde gebied waar het waardevol is, vooral in de financiële dienstverlening, is rond digitale identiteit. En daar kan ik wat voorbeelden geven. Maar waar ondernemingen in geïnteresseerd zijn, is om betrouwbare transacties te creëren tussen partners die elkaar van nature misschien niet kennen, zoals kleine bedrijven of grotere bedrijven of distributeurs of boeren.
Sophie: En zo het vertrouwen op een gedistribueerde manier creëren. Dus de blockchain-netwerken die we met onze klanten hebben gemaakt, zijn privénetwerken. Ze staan niet open voor iedereen om mee te doen. Ze zijn privé. Het is netwerken met alleen toestemming. Een van de eerste voorbeelden die we hebben gemaakt, vele, vele jaren geleden begonnen en nu in gebruik, is een blockchain-netwerk voor voedselveiligheid dat we met Walmart hebben gemaakt. Walmart was een van de pijlers van dit blockchain-netwerk en veel van de Walmart-leveranciers zijn op het netwerk. En daar volgt het voedsel van de boerderij naar de tafel. En vooral de bedoeling hier is dat als een uitbraak van E. coli of een ander voedselveiligheidsprobleem...
Elisabeth: Romeinse sla.
Sophie: Ja, Romeinse sla. Ik bedoel, het gebeurt de hele tijd. We wisten dat de uitbraak ergens in Californië was, maar alles, inclusief sla, wat dan ook, die hier in Massachusetts werd verbouwd, werd meteen van de plank gehaald. Dat is wat er vandaag gebeurt. Het duurt lang om te achterhalen waar een uitbraak heeft plaatsgevonden. Maar als u al uw goederen binnen twee minuten of sneller door de blokketen volgt, kunt u snel volgen waar deze specifieke sla vandaan komt. Dan moet je nog steeds naar binnen gaan om te zien op welk punt in de keten van boerderij tot winkel tot tafel de E. coli het voedsel daadwerkelijk heeft besmet. Maar dat is gemakkelijker dan eerst uit te zoeken waar het vandaan komt. Rechts.
Elisabeth: Geweldig. Nou, absoluut geweldig om van je te horen en de kans te hebben om je weer te spreken. En het is geweldig om het lab om de hoek te hebben. Het is een prachtige faciliteit en het is goed om je in de buurt te hebben. Dus dankjewel.
Sophie: O, heel erg bedankt. Het was mij een groot genoegen.
Elisabeth: Deze aflevering wordt u aangeboden door Darktrace, de wereldleider in cyber-AI-technologie. Het hoofdkantoor van Darktrace is gevestigd in San Francisco in Cambridge, Engeland. Het heeft ongeveer 2500 klanten over de hele wereld die zijn software gebruiken om cyberbedreigingen voor hun bedrijven, gebruikers en apparaten te detecteren en erop te reageren. Darktrace heeft innovatieve machine learning-technologie gebouwd die ongebruikelijke activiteiten kan detecteren. Om meer te weten te komen over hoe dat werkt, sprak ik met de CEO van het bedrijf, Nicole Eagan.
Elisabeth: Fijn om te kunnen praten.
Nicole Eagan: Geen probleem.
Elisabeth: Waardeer dat je dit doet. Bij Darktrace vergelijk je jouw merk cybersecurity met het menselijke immuunsysteem. En ik hoop dat u ons kunt uitleggen wat u daarmee bedoelt.
Nicole: Dus wat er echt gebeurde, is dat ik denk dat de beveiligingsindustrie geobsedeerd was door te proberen de slechteriken buiten te houden. En wat we zijn gaan inzien, is dat zeer geavanceerde aanvallers, zoals de natiestaten, vaak toegang krijgen tot elk netwerk dat ze willen. Dus besloten we het probleem een beetje om te draaien en aan te nemen dat de slechteriken binnen waren of zouden kunnen komen. Dat bracht ons op het idee om onze kunstmatige intelligentie daadwerkelijk te baseren op de principes van het menselijk immuunsysteem. Dus als je nadenkt over het immuunsysteem van het menselijk lichaam, dan heeft het een aangeboren zelfgevoel dat het in staat stelt te weten wat niet zelf is en een zeer nauwkeurige en snelle reactie te hebben. Dat is precies hoe onze kunstmatige intelligentie werkt. Het is ingebed in elk van de bedrijven van onze klanten en het leert gewoon een zelfgevoel, wat normaal is. Wat wij het 'levenspatroon' noemen van elke gebruiker en elk apparaat dat op dat netwerk is aangesloten. En dat stelt ons in staat om ongewone dingen te vinden en de aanvallen letterlijk te stoppen of te neutraliseren.
Elisabeth: En hoe ziet u in het algemeen, meer in het algemeen, cyberaanvallen tegenwoordig veranderen, of ze nu afkomstig zijn van natiestaten of van individuele slechteriken, cybercriminelen?
Nicole: Ik had onlangs een ontmoeting met een Chief Security Officer van een van onze klanten en ik denk dat hij een geweldige manier had om het te beschrijven. Hij zei: Bedenk eens, er is een team ergens anders in de wereld en de fulltime baan van dat team is nadenken over hoe je je intellectuele eigendom kunt stelen of op de een of andere manier informatie van je kunt krijgen. En dat is echt waar bedrijven mee te maken hebben, en de reden daarvoor is het soort cyberwapenwedloop waarbij we gewend zijn aan regeringen die tegen regeringen vechten - terwijl dat nog steeds plaatsvindt, hebben we nu deze hele nieuwe dimensie waarin natiestaten eigenlijk mogelijk de bedrijven aan te vallen. En dat betekent dat dat digitale slagveld echt is verschoven en dat is iets waar de meeste bedrijven zich in het verleden echt niet tegen hebben hoeven verdedigen. Nu compliceer en combineer je dat met het feit dat deze natiestaten in veel gevallen ook georganiseerd kunnen worden met een zeer sterke mondiale cybercrime-ring. En dat soort samenwerking tussen die entiteiten is ook een soort nieuwe dimensie. Dus dat is een soort van waar bedrijven tegenaan lopen, dat is vrij nieuw en vrij nieuw in vergelijking met de aanvallen van misschien vijf of tien jaar geleden.
Elisabeth: Oke. Dus als het gaat om wat Darktrace doet, gebruikt u kunstmatige intelligentie om aanvallen te detecteren, te verdedigen tegen aanvallen, of beide?
Nicole: Dat is een uitstekende vraag. Weet je, ik denk dat bedrijven in sommige gevallen kunstmatige intelligentie gebruiken om menselijke processen te automatiseren. Dus elk bedrijf heeft bijvoorbeeld meestal een beveiligingscentrum. Je krijgt daar een aantal dreigingsanalisten en incidentresponders. En er is één benadering die goed zegt waarom niet gewoon AI uitschakelen en leren van de stappen die ze nemen in wat het Playbook wordt genoemd om op inbreuken te reageren en het te automatiseren. En dat dat je een klein beetje efficiëntiewinst kan opleveren. Maar tegelijkertijd zal het geen game changer zijn. Het andere waar ik AI voor heb zien gebruiken, is in feite het analyseren van alle historische aanvallen die hebben plaatsgevonden op andere mensen, op andere bedrijven, en proberen dat te gebruiken als een indicator van toekomstige bedreigingen. Hoewel het erg interessant en praktisch klinkt, lijkt het eigenlijk fundamenteel gebrekkig te zijn, en dat komt omdat de aanvallen zo snel veranderen. In veel gevallen zijn er zelfs nieuwe soorten aanvallen waarbij een enkele regel code wordt gewijzigd, en wat nu de handtekeningen worden genoemd, komen niet meer overeen. Dus in ons geval gebruiken we talloze soorten onbewaakt, gecontroleerd en diep leren om niet alleen de aanvallen te kunnen vinden, maar ook om de kunstmatige intelligentie te laten weten hoe de aanval moet worden onderzocht. En vooral hoe je daadwerkelijk actie onderneemt. En dat is heel zeldzaam. Er is in feite geen ander bedrijf dat AI gebruikt om actie te ondernemen.
Elisabeth: Rechts. Dus je doet beide dingen. Je signaleert en onderneemt actie.
Nicole: We gebruiken de AI echt om te detecteren, te onderzoeken en actie te ondernemen. En dat laatste deel, de actie ondernemen, is echt moeilijk en erg interessant. Het is geweldig omdat het zeer snel op aanvallen kan reageren, in feite kan het gemiddeld in minder dan twee seconden op een aanval reageren. En wanneer deze aanvallen zich met machinesnelheid verplaatsen, is dat absoluut cruciaal. Maar het andere dat we, vanuit praktisch oogpunt, hebben ontdekt, is dat het tijd kost voor mensen in de beveiligingsorganisatie - misschien is dit de eerste keer dat ze zelfs met kunstmatige intelligentie werken en wordt aangevuld - het duurt even voordat ze om dat vertrouwen daadwerkelijk op te bouwen. We hebben dus een geheel nieuwe mogelijkheid gecreëerd om aanbevelingen te kunnen doen. Wat als de AI aanbeveelt welke actie het zou ondernemen en een mens dit laat bevestigen? En zodra de mensen beginnen te zien, wow, het doet elke keer de juiste aanbeveling, ze bouwen een vertrouwen op en zetten het in wat we de actieve modus noemen. Dus ik denk dat we dit nu in de afgelopen vijf jaar bij bijna 2500 bedrijven hebben gedaan, dat we heel goed zijn geworden in het begrijpen wat er nodig is om die vertrouwensrelatie op te bouwen, maar ook onze algoritmen zijn erg sterk en erg slim geworden in het reageren op deze aanvallen in echte tijd.
Elisabeth: Dus als de verdediging beter wordt, is het dan niet eerlijk om te zeggen dat aanvallen ook beter zullen worden, misschien met behulp van AI om terug te vechten tegen AI-georiënteerde of AI-georganiseerde cyberdefensie?
Nicole: Je hebt helemaal gelijk, hoewel het nog in de kinderschoenen staat en we alleen aanwijzingen hebben gezien dat het die kant op kan gaan, en we hebben dingen gezien zoals gedragsaanvallen waarbij de AI je stijl en manier van communiceren zou kunnen leren. die u gebruikt, laten we zeggen een e-mail. In dit stadium was het een beetje een eenvoudige machine learning. Maar we verwachten wel volledig dat er een geheel nieuwe categorie van aanvallen zal komen die offensieve AI wordt genoemd. En dat betekent dat de aanvallers verschillende vormen van machine learning, AI en uiteindelijk deep learning gaan gebruiken als onderdeel van de aanvallen. Dus dat zal deze hele industrie van de ene op de andere dag veranderen. En ik denk dat dat over het algemeen iets is dat veel leidinggevenden waarschijnlijk nog niet hebben overwogen.
Elisabeth: Rechts. Het is dus heel interessant, want terwijl je het had over de manier waarop Darktrace de balans opmaakt van wat 'normale activiteit' is op een netwerk, komt het mij voor dat er andere use-cases zijn voor die informatie of dat inzicht. En ik vraag me af of je, naast een soort cyberbeveiliging, hebt nagedacht over het kijken naar normale activiteiten om te helpen met andere soorten dingen, zoals bijvoorbeeld naleving van regelgeving of risicobeheer, dat soort dingen.
Nicole: Absoluut. Ik denk dat het interessant was dat we namens onze klanten een echt unieke dataset hebben gemaakt. Dus elk van hen die vandaag Darktrace voor beveiliging gebruikt, heeft in feite ingebouwde kunstmatige intelligentie die het zelfgevoel leert en voortdurend leert en bijwerkt. En dat is een dataset die voor andere dingen kan worden gebruikt. Het kan worden gebruikt voor naleving van de regelgeving. In feite hebben we tegenwoordig enkele Darktrace-klanten die ons gebruiken voor naleving van HIPAA en HITRUST in de gezondheidszorg, of met zaken als DFS, de regelgeving van de staat New York voor financiële diensten. We zien dus al vroege indicatoren van hoe deze kunstmatige-intelligentiemodellen en die unieke dataset kunnen worden benut. Ik denk dat een echt interessante use case fusies en overnames zijn. We hebben enkele bedrijven die ons gebruiken in due diligence-fasen voor fusies en overnames om daadwerkelijk meer inzicht te krijgen in de omgeving van het doelactivum. En vandaag gebruiken ze het om te zien of er misschien een concurrent of een natiestaat binnen dat netwerk zit die bijvoorbeeld intellectueel eigendom probeert te stelen. Maar er zijn veel bredere soorten due diligence voor fusies en overnames waarvoor het kan worden gebruikt. En tot slot hebben we een aantal klanten die ons ook gebruiken voor de naleving van gegevensprivacy zoals AVG, door te kijken welk verkeer Europa in en uit gaat. Dus absoluut, ik denk dat hoewel we vandaag eigenlijk alleen de kracht van die dataset en onze AI-modellen voor cyberbeveiliging ontsluiten, we in de toekomst een beslissing kunnen nemen om klanten te helpen andere sleutels te gebruiken om deze te ontgrendelen om extra waarde te leveren.
Elisabeth: En met die informatie andere dingen doen. Ja, het is fascinerend. Nicole, heel erg bedankt dat je hier met me over wilt praten.
Nicole: Heel erg bedankt, Elisabeth.
Elisabeth: Dat was het voor deze aflevering van Business Lab. Ik ben je gastheer Elizabeth Bramson-Boudreau. Ik ben CEO en uitgever van MIT Technology Review. We zijn in 1899 opgericht aan het Massachusetts Institute of Technology. Je vindt ons in gedrukte vorm, op het web, bij tientallen live-evenementen per jaar en nu in audiovorm. Voor meer informatie over het tijdschrift en de show kunt u terecht op onze website op TechnologyReview.com. Onze show is overal beschikbaar waar je je podcasts vandaan haalt. Als je deze aflevering leuk vond, hopen we dat je even de tijd wilt nemen om ons te beoordelen en te beoordelen op Apple Podcasts. Business Lab is een productie bij MIT Technology Review. De producer is Wade Roush met redactionele hulp van Mindy Blodgett. Speciale dank aan onze gasten Sophie Vandebroek en Nicole Eagan. En dank aan onze sponsor Darktrace, de wereldleider in AI-technologie voor cyberdefensie. Bedankt voor het luisteren. We zijn snel terug met een nieuwe aflevering.