De valse, door AI gegenereerde blog van een student hield tienduizenden voor de gek. Zo heeft hij het gemaakt.

mevrouw Tech | Getty

Aan het begin van de week had Liam Porr alleen van GPT-3 gehoord. Tegen het einde had de student het AI-model gebruikt om te produceren een volledig nep blog onder een valse naam.

Het was bedoeld als een leuk experiment. Maar toen bereikte een van zijn berichten de nummer één plek op Hacker News. Weinig mensen merkten dat zijn blog volledig door AI was gegenereerd. Sommigen drukken zelfs op Abonneren.

Hoewel velen hebben gespeculeerd over hoe GPT-3, de krachtigste taalgenererende AI-tool tot nu toe, de productie van inhoud zou kunnen beïnvloeden, is dit een van de weinige bekende gevallen die het potentieel illustreren. Wat het meest opviel aan de ervaring, zegt Porr, die computerwetenschappen studeert aan de University of California, Berkeley: het was eigenlijk supereenvoudig, en dat was het enge deel.

GPT-3 is van OpenAI nieuwste en grootste taal AI model, dat het in San Francisco gevestigde onderzoekslaboratorium medio juli begon te druppelen. In februari vorig jaar haalde OpenAI de krantenkoppen met GPT-2, een eerdere versie van het algoritme, waarvan het aankondigde achterhouden uit angst dat het misbruikt zou worden. De beslissing leidde onmiddellijk tot een terugslag, omdat onderzoekers het laboratorium ervan beschuldigden een stunt uit te halen. In november had het lab de positie omgekeerd en het model vrijgegeven , en zei dat het tot nu toe geen sterk bewijs van misbruik had ontdekt.

Het lab pakte het anders aan met GPT-3; het heeft het niet achtergehouden of openbare toegang verleend. In plaats daarvan gaf het het algoritme om onderzoekers te selecteren die een privé-bèta hadden aangevraagd, met als doel hun feedback te verzamelen en de technologie tegen het einde van het jaar te commercialiseren.

Porr heeft een aanvraag ingediend. Hij vulde een formulier in met een eenvoudige vragenlijst over zijn beoogde gebruik. Maar hij wachtte ook niet af. Nadat hij contact had gezocht met verschillende leden van de Berkeley AI-gemeenschap, vond hij al snel een promovendus die al toegang had. Toen de afgestudeerde student ermee instemde om samen te werken, schreef Porr een klein script dat hij moest uitvoeren. Het gaf GPT-3 de kop en introductie voor een blogpost en liet verschillende voltooide versies uitspugen. Porr's eerste bericht (degene die in kaart werd gebracht op Hacker News), en elk bericht daarna, werd gekopieerd en geplakt vanuit een van de outputs met weinig tot geen bewerking.

Vanaf het moment dat ik op het idee kwam en in contact kwam met de promovendus tot het maken van de blog en de eerste blog die viraal ging - het heeft misschien een paar uur geduurd, zegt hij.

Porr's valse blogpost, geschreven onder de valse naam 'adolos', bereikt nummer 1 op Hacker News. Porr zegt dat hij drie afzonderlijke accounts heeft gebruikt om zijn berichten op Hacker News in te dienen en te upvoten in een poging ze hoger te krijgen. De beheerder zei dat deze strategie niet werkt, maar zijn clickbaity-koppen wel.

SCREENSHOT / LIAM PORR

De truc om inhoud te genereren zonder veel bewerkingen, was het begrijpen van de sterke en zwakke punten van GPT-3. Het is best goed in het maken van mooie taal, en het is niet erg goed in logisch en rationeel zijn, zegt Porr. Dus koos hij een populaire blogcategorie die geen rigoureuze logica vereist: productiviteit en zelfhulp.

Van daaruit schreef hij zijn koppen volgens een eenvoudige formule: hij scrolde rond op Medium en Hacker News om te zien wat er in die categorieën presteerde en stelde iets vergelijkbaars samen. Je onproductief voelen? Misschien moet je stoppen met overdenken, schreef hij voor een. Stoutmoedigheid en creativiteit overtreffen intelligentie, schreef hij voor een ander. Een paar keer klopten de koppen niet. Maar zolang hij bij de juiste onderwerpen bleef, was het proces eenvoudig.

Na twee weken van bijna dagelijkse berichten, stopte hij met het project met: een laatste, cryptische, zelfgeschreven boodschap . Met de titel Wat ik met GPT-3 zou doen als ik geen ethiek had, werd zijn proces als hypothetisch beschreven. Diezelfde dag plaatste hij ook een more directe bekentenis op zijn echte blog.

De weinige mensen die achterdochtig werden over Porr's nepblog, werden door andere leden in de gemeenschap naar beneden gestemd.

SCREENSHOT / LIAM PORR

Porr zegt dat hij wilde bewijzen dat GPT-3 kon worden doorgegeven als een menselijke schrijver. Ondanks het ietwat vreemde schrijfpatroon van het algoritme en de incidentele fouten, wekten slechts drie of vier van de tientallen mensen die commentaar gaven op zijn topbericht op Hacker News vermoedens dat het door een algoritme zou kunnen zijn gegenereerd. Al die opmerkingen werden onmiddellijk door andere leden van de gemeenschap naar beneden gestemd.

Voor experts is dit lang de zorg geweest die dergelijke taalgenererende algoritmen oproept. Sinds OpenAI GPT-2 voor het eerst aankondigde, hebben mensen gespeculeerd dat het kwetsbaar was voor misbruik. In zijn eigen blogpost concentreerde het lab zich op het potentieel van de AI-tool om te worden bewapend als een massaproducent van verkeerde informatie . Anderen hebben zich afgevraagd of het kan worden gebruikt om te karnen spamberichten vol relevante zoekwoorden om Google te spelen.

Porr zegt dat zijn experiment ook een meer alledaags maar nog steeds verontrustend alternatief laat zien: mensen zouden de tool kunnen gebruiken om veel clickbait-inhoud te genereren. Het is mogelijk dat er gewoon een stroom van middelmatige bloginhoud zal zijn, omdat de drempel om mee te doen nu zo eenvoudig is, zegt hij. Ik denk dat de waarde van online content sterk zal afnemen.

Porr is van plan meer experimenten te doen met GPT-3. Maar hij wacht nog steeds op toegang van OpenAI. Het is mogelijk dat ze boos zijn dat ik dit heb gedaan, zegt hij. Ik bedoel, het is een beetje dom.

Bijwerken: Er zijn aanvullende details toegevoegd aan de tekst en fotobijschriften om uit te leggen hoe Liam Porr zijn blog heeft gemaakt en bovenaan Hacker News heeft gekregen.

zich verstoppen