211service.com
Kan AI de oorlog tegen nepnieuws winnen?
Selman Ontwerp
Het was misschien het eerste stukje nepnieuws in de geschiedenis van internet: in 1984 plaatste iemand op Usenet dat de Sovjet-Unie zich bij het netwerk aansloot. Het was een ongevaarlijke April's Fools Day-grap , ver verwijderd van de huidige bewapende desinformatiecampagnes en gewetenloze verzinsels die zijn ontworpen om snel winst te maken. In 2017 is misleidende en kwaadwillig valse online-inhoud zo productief dat wij mensen weinig hoop hebben om onszelf uit het slijk te graven. In plaats daarvan lijkt het steeds waarschijnlijker dat de machines ons zullen moeten redden.
Een algoritme dat bedoeld is om een licht in de duisternis te laten schijnen, is: AdVerif.ai , die wordt gerund door een startup met dezelfde naam. De kunstmatig intelligente software is gebouwd om nepverhalen, naaktheid, malware en tal van andere soorten problematische inhoud te detecteren. AdVerif.ai, dat in november een bètaversie lanceerde, werkt momenteel met inhoudsplatforms en advertentienetwerken in de Verenigde Staten en Europa die niet geassocieerd willen worden met valse of mogelijk aanstootgevende verhalen.
Het bedrijf zag een kans om zich te concentreren op een product voor bedrijven in plaats van iets voor een gemiddelde gebruiker, volgens Or Levi, de oprichter van AdVerif.ai. Hoewel individuele consumenten zich misschien geen zorgen maken over de waarheidsgetrouwheid van elk verhaal waarop ze klikken, hebben adverteerders en inhoudsplatforms iets te verliezen door slechte inhoud te hosten of te adverteren. En als ze wijzigingen aanbrengen in hun diensten, kunnen ze effectief zijn in het afsnijden van inkomstenstromen voor mensen die geld verdienen met nepnieuws. Het zou een grote stap zijn in de strijd tegen dit soort content, zegt Levi.
AdVerif.ai scant inhoud om veelbetekenende signalen te herkennen dat er iets mis is, zoals koppen die niet overeenkomen met de tekst, of te veel hoofdletters in een kop. Het controleert ook elk verhaal met zijn database van duizenden legitieme en nepverhalen, die wekelijks wordt bijgewerkt. De klanten zien een rapport voor elk onderdeel dat het systeem in overweging heeft genomen, met scores die de waarschijnlijkheid inschatten dat iets nepnieuws is, malware bevat of iets anders bevat waar het systeem op moet letten, zoals naaktheid. Uiteindelijk zegt Levi dat hij van plan is om de mogelijkheid toe te voegen om gemanipuleerde afbeeldingen te herkennen en een browser-plug-in te hebben.
Bij het testen van een demoversie van de AdVerif.ai herkende de AI de Ui als satire (die heeft heeft veel mensen voor de gek gehouden in het verleden). Breitbart-verhalen werden geclassificeerd als onbetrouwbaar, juist, politiek, vooringenomen, terwijl kosmopolitisch links werd beschouwd. Het kon zien wanneer een Twitter-account een logo gebruikte, maar de links waren niet gekoppeld aan het merk dat het uitbeeldde. AdVerif.ai ontdekte niet alleen dat een verhaal op Natural News met de kop Bewijs erop wijst dat Bitcoin een door de NSA ontworpen psyop is om digitale valuta voor één wereld uit te rollen, afkomstig was van een site op de zwarte lijst, maar identificeerde het als een nepnieuwsverhaal dat opdook op andere sites op de zwarte lijst zonder verwijzingen in legitieme nieuwsorganisaties.
Sommige dubieuze verhalen komen nog steeds door. Op een site genaamd Action News 3, kopte een bericht NFL-speler gefotografeerd terwijl hij een Amerikaanse vlag verbrandt in de kleedkamer! werd niet gepakt, hoewel het is geweest bleek een verzinsel te zijn . Om het systeem te helpen leren terwijl het werkt, kan de zwarte lijst met nepverhalen handmatig per verhaal worden bijgewerkt.
AdVerif.ai is niet de enige startup die een kans ziet in het leveren van een AI-aangedreven waarheidsserum voor online bedrijven. Cyberbeveiligingsbedrijven in het bijzonder waren er snel bij om bot- en nepnieuws-spotting-operaties aan hun repertoire toe te voegen, wat erop wijst hoe veel van de methoden op hacking lijken. Facebook is de algoritmen aanpassen om nepnieuws in zijn nieuwsfeeds minder te benadrukken, en Google werkte samen met een site voor het controleren van feiten — dusver met ongelijke resultaten . De Fake News Challenge, een wedstrijd die wordt georganiseerd door vrijwilligers in de AI-gemeenschap, werd eind vorig jaar gelanceerd met als doel de ontwikkeling van tools aan te moedigen die zouden kunnen helpen om de berichtgeving over kwade trouw te bestrijden.
Verwant verhaal
Verwant verhaal Dankzij machine learning wordt het steeds eenvoudiger om realistische video's te genereren en om je voor te doen als iemand.Delip Rao, een van de organisatoren en de oprichter van Joostware, een bedrijf dat machine learning-systemen maakt, zei dat het spotten van nepnieuws zoveel facetten heeft dat de uitdaging eigenlijk in meerdere stappen zal worden gedaan. De eerste stap is het detecteren van standpunten, of het nemen van een verhaal en uitzoeken wat andere nieuwssites over het onderwerp te zeggen hebben. Hierdoor zouden menselijke feitencheckers kunnen vertrouwen op verhalen om andere verhalen te valideren, en minder tijd besteden aan het controleren van individuele stukken.
De Fake News Challenge heeft datasets vrijgegeven die teams kunnen gebruiken, met 50 teams die inzendingen hebben ingediend. Talos Intelligence, een cyberbeveiligingsdivisie van Cisco, won de uitdaging met een algoritme dat voor meer dan 80 procent correct was - niet helemaal klaar voor prime time, maar nog steeds een bemoedigend resultaat. De volgende uitdaging zou kunnen zijn afbeeldingen met overlay-tekst (denk aan memes, maar met nepnieuws), een formaat dat vaak wordt gepromoot op sociale media, omdat het formaat voor algoritmen moeilijker te doorgronden en te begrijpen is.
We willen in feite de beste tools voor de factcheckers bouwen, zodat ze heel snel kunnen werken, zei Rao. Zoals factcheckers op steroïden.
Zelfs als er een systeem wordt ontwikkeld dat effectief is in het terugdringen van het tij van nep-inhoud, is het onwaarschijnlijk dat dit het einde van het verhaal is. Kunstmatige intelligentiesystemen zijn al in staat om valse tekst te creëren, evenals ongelooflijk overtuigende afbeeldingen en video. (zie echt of nep? AI maakt het erg moeilijk om te weten). Misschien hierdoor, een recent Gartner-onderzoek voorspelde dat tegen 2022 de meerderheid van de mensen in geavanceerde economieën meer valse dan echte informatie zal zien. Uit hetzelfde rapport bleek dat zelfs voordat dat gebeurt, vervalste inhoud het vermogen van AI om het te detecteren zal overtreffen, waardoor de manier waarop we digitale informatie vertrouwen verandert.
Wat AdVerif.ai en anderen vertegenwoordigen, lijkt dus minder op het laatste woord in de oorlog tegen nep-inhoud dan op de openingsronde van een wapenwedloop, waarin makers van nep-inhoud hun eigen AI krijgen die de goede AI's te slim af kan zijn (zie AI zou kunnen Zet ons 100 jaar terug als het gaat om hoe we nieuws consumeren). Als samenleving moeten we misschien nog opnieuw evalueren hoe we aan onze informatie komen.