Andrew Ng: Vergeet het opzetten van een AI-first business. Begin met een missie.

Jeremy Portje

Andrew Ng heeft in zijn leven veel hoeden gedragen. Je kent hem misschien als de oprichter van de Google Brain-team of de voormalige hoofdwetenschapper bij Baidu . Misschien ken je hem ook als je eigen instructeur. Hij heeft talloze studenten, nieuwsgierige luisteraars en bedrijfsleiders geleerd over de principes van machine learning via zijn razend populaire online cursussen.

Nu in zijn laatste onderneming, landings-AI , waarmee hij in 2017 begon, onderzoekt hij hoe bedrijven zonder gigantische datasets om uit te putten toch kunnen deelnemen aan de AI-revolutie.

Op 23 maart nam Ng deel aan het virtuele EmTech Digital van MIT Technology Review, ons jaarlijkse AI-evenement, om de lessen die hij heeft geleerd te delen.

Dit interview is voor de duidelijkheid ingekort en licht bewerkt.

MIT Technology Review: ik weet zeker dat mensen je vaak vragen: hoe bouw ik een AI-first bedrijf? Wat zeg je daar meestal op?

Andrew Ng: Ik zeg meestal: doe dat niet. Als ik naar een team ga en zeg: Hé, iedereen, wees alsjeblieft AI-first, dat heeft de neiging om het team te concentreren op technologie, wat geweldig zou kunnen zijn voor een onderzoekslab. Maar in termen van hoe ik het bedrijf uitvoer, ben ik geneigd om door de klant of door de missie te worden geleid, bijna nooit door de technologie.

Je hebt nu deze nieuwe onderneming genaamd Landing AI. Kun je ons iets vertellen over wat het is en waarom je ervoor hebt gekozen om eraan te werken?

Nadat ik leiding had gegeven aan de AI-teams bij Google en Baidu, realiseerde ik me dat AI software voor consumenteninternet heeft getransformeerd, zoals zoeken op internet en online adverteren. Maar ik wilde AI naar alle andere industrieën brengen, wat een nog groter deel van de economie is. Dus na veel verschillende industrieën te hebben bekeken, besloot ik me te concentreren op productie. Ik denk dat meerdere industrieën klaar zijn voor AI, maar een van de patronen voor een industrie die meer klaar is voor AI, is als het een digitale transformatie heeft ondergaan, dus er zijn wat gegevens. Dat creëert een kans voor AI-teams om de gegevens te gebruiken om waarde te creëren.

Dus een van de projecten waar ik onlangs enthousiast over ben, is visuele inspectie van de productie. Kun je een foto bekijken van een smartphone die van de productielijn komt en kijken of er een defect in zit? Of naar een auto-onderdeel kijken en kijken of er een deuk in zit? Een enorm verschil zit in internet voor consumentensoftware, misschien heb je een miljard gebruikers en een enorme hoeveelheid data. Maar in de productie heeft geen enkele fabriek een miljard of zelfs een miljoen bekraste smartphones gemaakt. Godzijdank. Dus de uitdaging is: kun je een AI laten werken met honderd afbeeldingen? Het blijkt vaak dat je dat kunt. Ik ben eigenlijk heel vaak verrast met hoeveel je kunt doen met zelfs bescheiden hoeveelheden gegevens. En hoewel alle hype en opwinding en PR rond AI op de gigantische datasets staat, heb ik het gevoel dat er ook veel ruimte is die we nodig hebben om te groeien om deze andere applicaties, waar de uitdagingen heel anders zijn, open te breken.

Hoe doe je dat?

Een veel voorkomende fout die ik CEO's en CIO's zie maken: ze zeggen iets als Hé, Andrew, we hebben niet zoveel gegevens - mijn gegevens zijn een puinhoop. Dus geef me twee jaar om een ​​geweldige IT-infrastructuur op te bouwen. Dan hebben we al deze geweldige gegevens om AI op te bouwen. Ik zeg altijd: dat is een vergissing. Doe dat niet. Ten eerste denk ik dat geen enkel bedrijf op de planeet vandaag - misschien zelfs niet de techreuzen - denkt dat hun gegevens helemaal schoon en perfect zijn. Het is een reis. Als u twee of drie jaar besteedt aan het bouwen van een prachtige data-infrastructuur, betekent dit dat u geen feedback heeft van het AI-team om te helpen bepalen welke IT-infrastructuur moet worden gebouwd.

Als u bijvoorbeeld veel gebruikers heeft, moet u dan prioriteit geven aan het stellen van vragen in een enquête om wat meer gegevens te krijgen? Of moet u in een fabriek prioriteit geven aan het upgraden van de sensor van iets dat de trillingen 10 keer per seconde registreert tot misschien 100 keer per seconde? Het is vaak het begin van een AI-project met de gegevens die je al hebt, waardoor een AI-team je feedback kan geven om te bepalen welke aanvullende gegevens je moet verzamelen.

In sectoren waar we gewoon niet de schaal hebben van internet voor consumentensoftware, heb ik het gevoel dat we onze mentaliteit moeten veranderen van: groot gegevens naar goed gegevens. Als je een miljoen afbeeldingen hebt, ga je gang, gebruik het - dat is geweldig. Maar er zijn veel problemen die veel kleinere datasets kunnen gebruiken die netjes zijn gelabeld en zorgvuldig zijn samengesteld.

Kunt u een voorbeeld geven? Wat bedoel je met goede gegevens?

Laat ik eerst een voorbeeld geven uit spraakherkenning. Toen ik met gesproken zoekopdrachten werkte, kreeg je audioclips waarin je iemand zou horen zeggen: Eh, het weer van vandaag. De vraag is, wat is de juiste transcriptie voor die audioclip? Is het Um (komma) het weer van vandaag, of is het Um (punt, punt, punt) het weer van vandaag, of is de Um iets dat we gewoon niet transcriberen? Het blijkt dat elk van deze in orde is, maar wat niet goed is, is als verschillende transcribenten elk van de drie labelconventies gebruiken. Dan zijn uw gegevens luidruchtig en schaadt het het spraakherkenningssysteem. Nu, als je miljoenen of een miljard gebruikers hebt, kun je die lawaaierige gegevens hebben en er gewoon een gemiddelde van maken - het leeralgoritme zal het prima doen. Maar als u zich in een omgeving bevindt waar u een kleinere dataset hebt, bijvoorbeeld honderd voorbeelden, dan heeft dit soort ruisende gegevens een enorme impact op de prestaties.

Nog een voorbeeld uit de fabricage: we hebben veel gedaan aan de staalinspectie. Als je auto rijdt, was de zijkant van je auto ooit gemaakt van een plaatstaal. Soms zitten er kleine kreukels in het staal, of kleine deukjes of vlekjes erop. U kunt dus met een camera en computervisie kijken of er gebreken zijn of niet. Maar verschillende labelers zullen de gegevens anders labelen. Sommigen zullen een gigantisch begrenzingsvak rond de hele regio plaatsen. Sommigen zullen kleine begrenzingskaders rond de kleine deeltjes plaatsen. Als je een bescheiden dataset hebt en ervoor zorgt dat de verschillende kwaliteitsinspecteurs de data consistent labelen, blijkt dat een van de belangrijkste dingen te zijn.

Voor veel AI-projecten is het open-sourcemodel dat je downloadt van GitHub - het neurale netwerk dat je uit literatuur kunt halen - goed genoeg. Niet voor alle problemen, maar voor de belangrijkste problemen. Dus ik ben naar veel van mijn teams gegaan en heb gezegd: Hé, iedereen, het neurale netwerk is goed genoeg. Laten we niet meer met de code knoeien. Het enige wat je nu gaat doen is processen bouwen om de kwaliteit van de data te verbeteren. En het blijkt dat dit vaak resulteert in snellere verbeteringen aan de prestaties van het algoritme.

Wat is de gegevensgrootte waar u aan denkt als u kleinere gegevenssets zegt? Heb je het over honderd voorbeelden? Tien voorbeelden?

Machine learning is zo divers dat het heel moeilijk is geworden om pasklare antwoorden te geven. Ik heb aan problemen gewerkt waarbij ik ongeveer 200 tot 300 miljoen afbeeldingen had. Ik heb ook aan problemen gewerkt waarbij ik 10 afbeeldingen had en alles daartussenin. Als ik naar fabricagetoepassingen kijk, denk ik dat tientallen of misschien honderd afbeeldingen voor een defectklasse niet ongebruikelijk zijn, maar zelfs binnen de fabriek zijn er grote verschillen.

Ik merk wel dat de AI-praktijken overschakelen wanneer de trainingsset kleiner wordt dan, laten we zeggen, 10.000 voorbeelden, want dat is een soort drempel waarbij de ingenieur in principe elk voorbeeld kan bekijken en het zelf kan ontwerpen en vervolgens een beslissing kan nemen.

Onlangs was ik aan het kletsen met een zeer goede ingenieur in een van de grote technologiebedrijven. En ik vroeg: Hé, wat doe je als de labels inconsistent zijn? En hij zei: Nou, we hebben een team van enkele honderden mensen in het buitenland dat de etikettering doet. Dus ik schrijf de labelinstructies, laat drie mensen elke afbeelding labelen, en dan neem ik een gemiddelde. En ik zei: ja, dat is het juiste om te doen als je een gigantische dataset hebt. Maar als ik met een kleiner team werk en de labels inconsistent zijn, spoor ik gewoon de twee mensen op die het niet met elkaar eens zijn, stuur ze allebei een Zoom-gesprek en laat ze met elkaar praten om te proberen tot een oplossing te komen.

Ik wil nu onze aandacht richten op uw mening over de algemene AI-industrie. Het algoritme is onze AI-nieuwsbrief en ik heb onze lezers de gelegenheid gegeven om van tevoren enkele vragen aan u voor te leggen. Een lezer vraagt ​​zich af: AI-ontwikkeling lijkt zich grotendeels te hebben vertakt in de richting van academisch onderzoek of grootschalige, resource-intensieve, grote bedrijfsprogramma's zoals OpenAI en DeepMind. Dat laat niet echt veel ruimte over voor kleine startups om bij te dragen. Wat zijn volgens jou enkele praktische problemen waar kleinere bedrijven zich echt op kunnen concentreren om de echte commerciële acceptatie van AI te stimuleren?

Ik denk dat veel van de media-aandacht uitgaat naar de grote bedrijven, en soms ook naar de grote academische instellingen. Maar als je naar academische conferenties gaat, wordt er veel werk verzet door kleinere onderzoeksgroepen en onderzoekslabs. En als ik met verschillende mensen in verschillende bedrijven en sectoren spreek, heb ik het gevoel dat er zoveel zakelijke toepassingen zijn waarvoor ze AI kunnen gebruiken. Ik ga meestal naar bedrijfsleiders en vraag: wat zijn uw grootste zakelijke problemen? Wat zijn de dingen waar je je het meest zorgen over maakt? zodat ik de doelen van het bedrijf beter kan begrijpen en vervolgens kan brainstormen of er al dan niet een AI-oplossing is. En soms is die er niet, en dat is prima.

Misschien noem ik gewoon een paar hiaten die ik spannend vind. Ik denk dat het bouwen van AI-systemen vandaag de dag nog erg handmatig is. Je hebt een paar briljante machine learning-ingenieurs en datawetenschappers die dingen op een computer doen en dingen vervolgens naar productie pushen. Er zijn veel handmatige stappen in het proces. Ik ben dus enthousiast over ML ops [machine learning operations] als een opkomende discipline om het proces van het bouwen en implementeren van AI-systemen systematischer te maken.

Als je kijkt naar veel van de typische zakelijke problemen - alle functies van marketing tot talent - is er ook veel ruimte voor automatisering en efficiëntieverbetering.

Ik hoop ook dat de AI-gemeenschap naar de grootste sociale problemen kan kijken - kijken wat we kunnen doen voor klimaatverandering of dakloosheid of armoede. Naast de soms zeer waardevolle bedrijfsproblemen, moeten we ook werken aan de grootste maatschappelijke problemen.

Hoe pak je het proces aan om te bepalen of er een mogelijkheid is om iets met machine learning voor je bedrijf na te streven?

Ik zal proberen zelf een beetje over het bedrijf te leren en proberen de bedrijfsleiders te helpen een beetje over AI te leren. Dan brainstormen we meestal over een reeks projecten, en voor elk van de ideeën zal ik zowel technische als zakelijke toewijding doen. We kijken naar: Heb je genoeg data? Wat is de nauwkeurigheid? Is er een lange staart wanneer u in productie gaat? Hoe vul je de gegevens weer in en sluit je de cirkel voor continu leren? Dus zorgen dat het probleem technisch haalbaar is. En dan zakelijke toewijding: we zorgen ervoor dat dit de ROI oplevert waar we op hopen. Na dat proces heb je het gebruikelijke, zoals het schatten van de middelen, mijlpalen en hopelijk tot uitvoering.

Nog een suggestie: het is belangrijker om snel te beginnen en het is prima om klein te beginnen. Mijn eerste zinvolle zakelijke toepassing bij Google was spraakherkenning, niet zoeken op internet of adverteren. Maar door het Google-spraakteam te helpen spraakherkenning nauwkeuriger te maken, kreeg het Brain-team de geloofwaardigheid en de middelen om steeds grotere partnerschappen na te streven. Dus Google Maps was de tweede grote samenwerking waarbij we computervisie gebruikten om huisnummers te lezen om huizen op Google maps te lokaliseren. En pas na die eerste twee succesvolle projecten had ik een serieuzer gesprek met het reclameteam. Dus ik denk dat ik meer bedrijven zie falen door te groot te beginnen dan te falen door te klein te beginnen. Het is prima om een ​​kleiner project te doen om als organisatie aan de slag te gaan om te leren hoe het voelt om AI te gebruiken en vervolgens grotere successen te boeken.

Wat is één ding dat ons publiek morgen zou moeten doen om AI in hun bedrijven te implementeren?

Spring erin. AI zorgt voor een verschuiving in de dynamiek van veel industrieën. Dus als uw bedrijf nog geen behoorlijk agressieve en slimme investeringen doet, is dit een goed moment.

zich verstoppen