211service.com
Google en Akamai: Cult of Secrecy vs. Kingdom of Openness
Je moet dit nummer nooit vertrouwen, zei Martin Farach-Colton, een professor in computerwetenschappen aan de Rutgers University, iets meer dan een jaar geleden. Mensen maken er een groot probleem van, en het is niet waar.
Farach-Colton gaf een openbare lezing over zijn tweejarige sabbatical bij Google. Het nummer dat hij minachtte, stond in het midden van zijn PowerPoint-dia:
- 150 miljoen zoekopdrachten/dag
De volgende dia had nog een paar nummers:
- 1.000 zoekopdrachten/sec (piek)
- 10.000+ servers
- Meer dan 4 tera-ops/sec op dagelijkse piek
- Index: 3 miljard webpagina's
- 4 miljard documenten in totaal
- 4+ petabyte schijfopslag
Een paar mensen in het publiek begonnen te giechelen: de Google-cijfers klopten niet.
Ik ben zelf begonnen met het tellen van de cijfers. Laten we eens kijken: 4 tera-ops/sec betekent 4.000 miljard bewerkingen per seconde; een topserver kan misschien twee miljard bewerkingen per seconde uitvoeren, dus dat komt neer op misschien 2.000 servers, niet 10.000. Vier petabyte is 4x1015 bytes aan opslagruimte; verspreid dat over 10.000 servers en je zou 400 gigabyte per server hebben, wat weer verkeerd lijkt, aangezien Farach-Colton eerder had gezegd dat Google twee harde schijven van 80 gigabyte in elke server stopt.
En dan is er nog die kwestie van 150 miljoen zoekopdrachten per dag. Als het systeem een piekbelasting van 1.000 zoekopdrachten per seconde verwerkt, komt dat neer op een pieksnelheid van 86,4 miljoen zoekopdrachten per dag, of misschien wel 40 miljoen zoekopdrachten per dag als je ervan uitgaat dat het systeem slechts de helft van zijn tijd op piekcapaciteit doorbrengt. Het maakt niet uit hoe je de wiskunde toepast, de statistieken van Google zijn niet zelfconsistent.
Deze cijfers zijn allemaal waanzinnig laag, vervolgde Farach-Colton. Google rapporteert altijd veel, veel lagere cijfers dan waar is.
Telkens wanneer iemand van Google een nieuwe presentatie maakt, legt hij uit, onderzoekt de PR-afdeling het gesprek en hackt de cijfers. Oorspronkelijk, zei hij, stond op de dia met de cijfers dat 1.000 zoekopdrachten/sec de minimumsnelheid was, niet de piek. We hebben meer dan 10.000 servers. Dat is veel.
Net zoals de zoekmachine van Google onmiddellijk en schijnbaar moeiteloos terugkomt met een antwoord op elke vraag die je hem geeft, en de echte moeilijkheid van de taak voor gebruikers verbergt, wil het bedrijf ook dat zijn concurrenten in het ongewisse blijven over de moeilijkheid van het probleem. Als Google zou publiceren hoeveel pagina's het heeft geïndexeerd en hoeveel computers het in zijn datacenters over de hele wereld heeft, zouden zoekconcurrenten zoals Yahoo!, Teoma en Mooter immers weten hoeveel kapitaal ze moesten ophalen om een hoop de koning op de top van de heuvel te verdrijven.
Google heeft het soms moeilijk om zijn verhaal recht te houden. Toen vice-president engineering Urs Hoelzle in november 2002 aan de Universiteit van Washington een lezing hield over de Linux-clusters van Google, herhaalde hij dat cijfer van 1.000 zoekopdrachten per seconde, maar hij zei dat de maatregel op 25 december om 2:00 uur was genomen , 2001. Zijn punt, dat voor iedereen in de zaal duidelijk is, is dat zelfs in november 2002 Google veel meer dan 1.000 zoekopdrachten per seconde uitvoerde, maar hoeveel meer kon niemand raden.
De feiten kunnen naar buiten sijpelen. Afgelopen Thanksgiving meldde de New York Times dat Google de grens van 100.000 servers had overschreden. Als dat waar is, betekent dit dat Google misschien wel het grootste netwerk van computers ter wereld heeft. Het simpele feit dat ze datacenters van die omvang kunnen bouwen en exploiteren is verbazingwekkend, zegt Peter Christy, mede-oprichter van de NetsEdge Research Group, een marktonderzoeks- en strategiebedrijf in Silicon Valley. Christy, die al meer dan 30 jaar in de branche werkt, staat versteld van de schaal van de systemen van Google en de bekwaamheid van het bedrijf om ze te bedienen. Ik denk niet dat er iemand in de buurt is.
Het is dit vermogen om ongelooflijk dichte clusters te bouwen en te exploiteren die net zo goed het geheim zijn van het succes van Google. En de reden, legt Marissa Mayer uit, de directeur van consumentenwebproducten van het bedrijf, heeft te maken met de manier waarop Google begon bij Stanford.
In plaats van een paar snelle computers te kopen en ze tot het uiterste te laten werken, legde Mayer uit tijdens een wervingsevenement bij MIT, moesten oprichters Sergey Brin en Larry Page het doen met hand-me-downs van de computerwetenschapsafdeling van Stanford. Ze gingen naar het laadperron om te zien wie nieuwe computers kreeg en vroegen dan of ze de oude, verouderde machines mochten hebben die de nieuwe moesten vervangen. Vanaf het allereerste begin werden Brin en Page dus gedwongen om gedistribueerde algoritmen te ontwikkelen die op een netwerk van niet erg betrouwbare machines draaiden.
Tegenwoordig is deze filosofie ingebouwd in het DNA van het bedrijf. Google koopt de goedkoopste computers die het kan vinden en propt ze in racks en racks in zijn zes (of meer) datacenters. Pc's zijn redelijk betrouwbaar, maar als je er duizend hebt, gaat er elke dag een stuk, zei Hoelzle. Dus als je gewoon 10 procent extra kunt kopen, is het nog steeds goedkoper dan het kopen van een betrouwbaardere machine.
Werken bij Google, zo vertelde een ingenieur me onlangs, is het dichtst bij dat je een onbeperkte hoeveelheid rekenkracht tot je beschikking hebt.
Het koninkrijk van openheid
Er is nog een bedrijf dat de kunst heeft geperfectioneerd om enorme aantallen computers te gebruiken met een relatief klein personeelsbestand. Dat bedrijf is Akamai.
Akamai is nu geen begrip, maar het haalde wel de voorpagina's toen het bedrijf in november 1999 naar de beurs ging met wat destijds de vierde meest succesvolle beursintroductie in de geschiedenis was. De voorraad van Akamai schoot omhoog en maakte miljardairs van zijn oprichters. In de jaren die volgden, maakte Akamai het echter moeilijk. Het was niet alleen de dotcom-crash die leidde tot aanzienlijke ontslagen en het verlaten van de kantoren van het bedrijf in Californië: Akamai's medeoprichter en chief technology officer Danny Lewin was op 11 september aan boord van American Airlines-vlucht 11 en kwam om het leven toen het vliegtuig in de lucht werd gevlogen. Wereldhandelscentrum. Het moreel van het bedrijf was verwoest.
Het netwerk van Akamai werkt op dezelfde complexiteitsschaal als dat van Google. Hoewel Akamai slechts 14.000 machines heeft, bevinden die servers zich op 2500 verschillende locaties verspreid over de hele wereld. De servers worden gebruikt door bedrijven als CNN en Microsoft om webpagina's aan te leveren. Net zoals de servers van Google tegenwoordig door vrijwel iedereen op internet worden gebruikt, worden die van Akamai ook gebruikt.
Vanwege hun schaal moesten zowel Akamai als Google tools en technieken ontwikkelen om deze machines te beheren, prestatieproblemen op te lossen en fouten op te lossen. Dit is geen software die een bedrijf van de plank kan kopen - ze vereisen een moeizame interne ontwikkeling. Het is in feite software die een van de belangrijkste concurrentievoordelen van Akamai is.
Ja, een paar andere organisaties hebben ook grote clusters van computers. Zowel NASA's Ames Research Center als Virginia Tech hebben grote clusters gewijd aan wetenschappelijke informatica. Maar er zijn belangrijke verschillen tussen deze systemen en de clusters die zowel Google als Akamai hebben gecreëerd. De wetenschappelijke systemen bevinden zich op één plek, niet verspreid over de hele wereld. Ze zijn over het algemeen niet direct blootgesteld aan internet. En misschien wel het allerbelangrijkste: de wetenschappelijke systemen bieden niet elke dag een standaardservice aan honderden miljoenen internetgebruikers: Google en Akamai moeten 100 procent uptime leveren. Het is gemakkelijk om 10.000 computers te kopen - u hebt alleen contant geld nodig. Het is veel moeilijker om die computers allemaal samen te laten werken als één enkele service die miljoenen gelijktijdige gebruikers ondersteunt.
Om eerlijk te zijn, er zijn belangrijke verschillen tussen Google en Akamai-verschillen die ervoor zorgen dat Google niet snel zal inbreken in de activiteiten van Akamai, en dat Akamai evenmin zal overstappen naar die van Google. Beide bedrijven hebben een infrastructuur ontwikkeld om massaal parallelle systemen te laten draaien, maar de applicaties die ze bovenop die systemen draaien zijn anders. De primaire toepassing van Google is een zoekmachine. Akamai heeft daarentegen een systeem ontwikkeld voor het leveren van webpagina's, streaming media en een verscheidenheid aan andere standaard internetprotocollen.
Een ander belangrijk verschil, zegt Christy, is dat Akamai het heel moeilijk heeft gehad om een duidelijk bedrijfsmodel te creëren dat werkt, terwijl Google ongelooflijk succesvol is geweest. Akamai is dus op zoek gegaan naar nieuwe manieren om diensten te verkopen die alleen een enorm gedistribueerd netwerk kan leveren. Het bedrijf worstelt met winstgevendheid en is agressief op zoek naar nieuwe kansen voor zijn technologie. Dit zou de reden kunnen zijn dat Akamai, in tegenstelling tot Google, bereid was om voor dit artikel geïnterviewd te worden.
We zijn begonnen met standaard bitafleveringsobjecten, foto's, banners, advertenties, zegt Tom Leighton, hoofdwetenschapper van Akamai. Wij doen het lokaal. Maak het snel. Maak het betrouwbaar. Maak de sites beter.
Nu ontwikkelt Akamai technieken om klanten hun applicaties rechtstreeks op de gedistribueerde servers van het bedrijf te laten draaien. Leighton zegt dat 25 van de grootste klanten van Akamai dit hebben gedaan. Het systeem kan plotselinge pieken aan, waardoor het ideaal is voor gevallen waarin het onmogelijk is om op de vraag te anticiperen.
Volgens Leighton werd het netwerk van Akamai bijvoorbeeld gebruikt om een door Logitech gesponsorde wedstrijd voor het weggeven van een toetsenbord af te handelen. Logitech dacht dat zijn wedstrijd populair zou kunnen zijn en creëerde een uitgebreide reeks regels, die ervoor zorgden dat er slechts een beperkt aantal toetsenborden zou worden weggegeven aan elke staat en binnen een bepaalde tijdsperiode. Maar Logitech heeft schromelijk onderschat hoeveel mensen zouden klikken op de wedstrijd. In het verleden hebben dergelijke onderschattingen ertoe geleid dat veel gepubliceerde internetevenementen zoals de Victoria's Secret-webcast crashten, waardoor miljoenen websurfers werden gefrustreerd en het bedrijf in verlegenheid werd gebracht. Maar deze keer niet: de wedstrijd van Logitech liep probleemloos op het Akamai-netwerk.
Logitech had natuurlijk kunnen proberen het systeem zelf te bouwen. Het had een server kunnen ontwerpen en testen die 100 gelijktijdige gebruikers aankan. Die server kost misschien $ 5.000. Dan had Logitech 20 van die servers kunnen kopen voor 100.000 dollar en ze in een datacenter hebben geplaatst. Maar een enkel datacenter kan overbelast raken, dus het is misschien logischer om er 10 in één datacenter aan de oostkust en 10 in een ander datacenter aan de westkust te plaatsen. Toch kon dat systeem maar 2.000 gelijktijdige gebruikers aan: het is misschien beter om 100 servers te kopen, voor een totaalbedrag van $ 500.000, en ze in 10 verschillende datacenters te plaatsen. Maar zelfs als ze dit hadden gedaan, zouden de ingenieurs van Logitech niet hebben kunnen weten of het systeem echt zou hebben gewerkt toen het op de proef werd gesteld - en ze zouden enorm veel geld hebben geïnvesteerd in engineering die niet nodig zijn geweest na het evenement.
En wedstrijden zijn niet het enige dat op het netwerk van Akamai kan worden uitgevoerd. Vrijwel elk programma dat in de programmeertaal Java is geschreven, kan op de infrastructuur van het bedrijf worden uitgevoerd. Het systeem kan hypotheekaanvragen, catalogi en elektronische winkelwagentjes verwerken. Akamai beheert zelfs de backend voor Apple's iTunes 99-cent muziekservice.
Misschien omdat Akamai zo trots is op het systeem dat het heeft gebouwd, is het bedrijf heel open over de technische details van het netwerk. Het netwerkverwerkingscentrum in Cambridge, MA, heeft een glazen wand waardoor bezoekers een groot scherm met statistieken kunnen zien. Toen ik het bedrijf in januari bezocht, zei het scherm dat Akamai 591.763 hits per seconde leverde, met 14.372 CPU's online, 14.563 gigahertz aan totale verwerkingskracht en 650 terabyte aan totale opslag. Op 14 april was het aantal gestegen naar een pieksnelheid van 900.000 hits per seconde en 43,71 miljard aanvragen binnen een periode van 24 uur. (Akamai zou het aantal CPU's online niet bekendmaken omdat dat aantal deel uitmaakt van het driemaandelijkse inkomstenrapport, dat op 28 april wordt gepubliceerd. Maar het is niet veel veranderd, vertelde de woordvoerder van het bedrijf me.)
Mail en weegschaal
Vooruitblikkend, hebben een paar zakelijke kansen een duidelijke aantrekkingskracht op zowel Google als Akamai. Beide bedrijven zouden bijvoorbeeld hun ervaring in het bouwen van grootschalige gedistribueerde clusters kunnen gebruiken om een enorm back-upsysteem te creëren voor kleine bedrijven en thuis-pc-gebruikers. Of ze kunnen het beheer van thuis-pc's overnemen en ze veranderen in slimme terminals met toepassingen op externe servers. Hierdoor zouden pc-gebruikers kunnen ontsnappen aan de sleur van het beheren van hun eigen machines, het installeren van nieuwe applicaties en het up-to-date houden van antivirusprogramma's.
En dan is er nog de e-mail. Op 1 april kondigde Google aan dat het de consumenten-e-mailbusiness zou gaan betreden met een onorthodox persbericht: Zoeken is nummer twee online activiteit - e-mail is nummer één: 'Heck, yeah', zeggen Google-oprichters.
Sindsdien heeft Google veel publiciteit gekregen voor het aangekondigde ontwerp van zijn Gmail (Google Mail)-aanbod. De gratis dienst belooft consumenten één gigabyte e-mailopslag (meer dan honderd keer de opslag die andere webmailproviders bieden), verbluffende zoekacties in e-mailarchieven en de belofte dat consumenten nooit meer een e-mailbericht hoeven te verwijderen. In het begin dachten veel mensen dat de aankondiging een 1-aprilgrap was - een gigabyte per gebruiker leek gewoon te veel opslagruimte. Maar aangezien de overgrote meerderheid van de gebruikers niet zoveel opslagruimte zal gebruiken, is de belofte van Google eigenlijk dat Google nieuwe harde schijven sneller kan kopen dan de gebruikers van internet ze kunnen vullen. [ Opmerking van de uitgever: Het voorstel van Google om Gmail te financieren door advertenties te tonen op basis van de inhoud van de e-mail van gebruikers heeft veel kritiek gekregen van verschillende privacyactivisten. Eerder deze maand circuleerden een aantal privacyactivisten een brief waarin ze Google vroegen Gmail pas te starten als deze privacyproblemen waren opgelost. Simson Garfinkel ondertekende die brief als supporter nadat dit artikel was geschreven maar vóór de publicatie ervan.]
De infrastructuur van Google lijkt zeer geschikt voor de inzet van een dienst als Gmail. Afgelopen zomer publiceerde Google een technisch document genaamd The Google File System (GFS), wat blijkbaar de onderliggende technologie is die door Google is ontwikkeld om snelle replicatie en toegang tot gegevens in zijn clusters mogelijk te maken. Met GFS kon de e-mail van elke gebruiker worden gerepliceerd tussen verschillende Google-clusters; wanneer gebruikers zich aanmelden bij Gmail, kan hun webbrowser automatisch worden doorgestuurd naar het dichtstbijzijnde cluster dat een kopie van hun berichten had.
Dit is een moeilijke technologie om goed te krijgen en precies het soort systeem dat Akamai de afgelopen zes jaar heeft ontwikkeld. In feite is er in principe geen reden waarom Akamai een soortgelijk grootschalig e-mailsysteem niet vrij eenvoudig op zijn eigen servers zou kunnen implementeren. Geen reden, behalve de filosofie van het bedrijf.
Leighton denkt niet dat Akamai zich in een bedrijf zou begeven waarvoor het bedrijf rechtstreeks met eindgebruikers zou moeten omgaan. Het is waarschijnlijker, zegt hij, dat Akamai de infrastructuur zou leveren aan een ander bedrijf dat in staat zou zijn om de facturering, klantenondersteuning en marketing aan eindgebruikers te doen. Onze focus ligt op verkopen in de onderneming, zegt hij.
George Hamilton, een analist bij de Yankee Group die zich bezighoudt met enterprise computing en netwerken, is het daarmee eens. Hamilton noemt het idee dat Google gaat concurreren met Akamai vergezocht. Maar Google zou Akamai kunnen inhuren om de technologiebehoeften van Google aan te vullen, zegt hij.
Toch lijkt zo'n partnerschap onwaarschijnlijk, althans op het eerste gezicht. Google zou Akamai kunnen kopen, zoals het bedrijf Pyra Labs in februari 2003 kocht om Pyra's Blogger persoonlijke webpublicatiesysteem te verwerven. Maar Akamai, met zijn cultuur van openheid, lijkt niet goed te passen bij die van Google. Dan is er het feit dat 20 procent van Akamai's omzet nu rechtstreeks van Microsoft komt, volgens het kwartaalrapport van november 2003 van Akamai. De rivaliteit van Google met Microsoft bij het zoeken op internet (en nu in e-mail) is in de pers uitgebreid becommentarieerd; het is onwaarschijnlijk dat het bedrijf zo nauw zou willen samenwerken met zo'n hechte Microsoft-partner.
Ted Schadler, een vice-president bij het marktonderzoeksbureau Forrester, zegt dat het mogelijk is om je voor te stellen dat de twee bedrijven concurreren omdat ze allebei dezelfde kans nastreven in massaal, gedistribueerd computergebruik. In die zin hebben ze dezelfde visie. Ze moeten veel van dezelfde technologie uitbouwen omdat die niet bestaat. Ze moeten veel van dezelfde lessen leren en veel van dezelfde technologieën en bedrijfsmodellen ontwikkelen.
Schadler zegt dat Akamai en Google beide voorbeelden zijn van wat hij programmeerbare zakelijke internetkanalen noemt. Deze kanalen zijn bedrijven die een grote infrastructuur bieden die met een druk op de knop hoogwaardige diensten op internet kunnen aanbieden aan honderden miljoenen gebruikers. Google en Akamai zijn zulke bedrijven, maar dat geldt ook voor Amazon.com, eBay en zelfs Yahoo!. Het zijn allemaal services die op bedrijfsactiviteiten gebaseerde services mogelijk maken die veilig [kunnen] worden geschaald, zegt Schadler.
Als ik een gokker was, voegt Schadler eraan toe, zou ik zeggen dat Google veel meer geïnteresseerd is in het bedienen van de klant en dat Akamai meer geïnteresseerd is in het bieden van de infrastructuur - het is retail versus groothandel. Er zullen heel veel van deze op de detailhandel gerichte diensten zijn.
Als dat waar is, zou Google plotseling kunnen concurreren met een bedrijf dat, net als Google zelf, uit het niets leek te komen. Behalve deze keer zou dat bedrijf geen enkele truc hoeven uit te zoeken om de enorme infrastructuur zelf te beheren.
En dat verklaart waarom Google zo geheimzinnig doet.