211service.com
Een AI die overtuigend proza schrijft, riskeert massaal nepnieuws te produceren
mevrouw Tech
Hier is wat nepnieuws...
Rusland heeft de oorlog verklaard aan de Verenigde Staten nadat Donald Trump per ongeluk een raket in de lucht had afgevuurd.
Rusland zei dat het de baan van de raket had geïdentificeerd en de nodige maatregelen zal nemen om de veiligheid van de Russische bevolking en de strategische nucleaire strijdkrachten van het land te waarborgen. Het Witte Huis zei zeer bezorgd te zijn over de Russische schending van een verdrag dat ballistische raketten voor de middellange afstand verbiedt.
De VS en Rusland hebben een ongemakkelijke relatie sinds 2014, toen Moskou de Krim-regio van Oekraïne annexeerde en separatisten in Oost-Oekraïne steunde.
Dat verhaal is in feite niet alleen nep, maar een verontrustend voorbeeld van hoe goed AI erin slaagt ons voor de gek te houden.
Dat komt omdat het niet door een persoon is geschreven; het werd automatisch gegenereerd door een algoritme dat werd gevoed met de woorden Rusland heeft de Verenigde Staten de oorlog verklaard nadat Donald Trump per ongeluk …
Het programma heeft de rest van het verhaal zelf bedacht. En het kan realistisch ogende nieuwsberichten maken over elk onderwerp dat u eraan geeft. Het programma is ontwikkeld door een team van OpenAI, een onderzoeksinstituut in San Francisco.
De onderzoekers wilden een taalalgoritme voor algemene doeleinden ontwikkelen, getraind op een enorme hoeveelheid tekst van internet, dat in staat zou zijn om tekst te vertalen, vragen te beantwoorden en andere nuttige taken uit te voeren. Maar ze maakten zich al snel zorgen over de mogelijkheid van misbruik. We begonnen het te testen en ontdekten al snel dat het mogelijk is om vrij eenvoudig kwaadaardige inhoud te genereren, zegt Jack Clark, beleidsdirecteur bij OpenAI.
Clark zegt dat het programma hints op hoe AI kan worden gebruikt om het genereren van overtuigend nepnieuws, posts op sociale media of andere tekstinhoud te automatiseren. Zo'n tool zou klimaatontkennende nieuwsberichten of schandalige onthullingen kunnen uitspuwen tijdens een verkiezing. Nepnieuws is al een probleem, maar als het geautomatiseerd zou zijn, zou het moeilijker zijn om af te stemmen. Misschien kan het worden geoptimaliseerd voor bepaalde demografische gegevens, of zelfs voor individuen.
Clark zegt dat het niet lang zal duren voordat AI op betrouwbare wijze nepverhalen, nep-tweets of dubbele opmerkingen kan produceren die nog overtuigender zijn. Het is heel duidelijk dat als deze technologie volwassen wordt - en ik zou het een of twee jaar geven - het zou kunnen worden gebruikt voor desinformatie of propaganda, zegt hij. We proberen hier op vooruit te lopen.
Dergelijke technologie kan nuttige toepassingen hebben, zoals het samenvatten van tekst of het verbeteren van de gespreksvaardigheden van chatbots. Clark zegt dat hij de tool zelfs heeft gebruikt om passages in korte sciencefictionverhalen te genereren, met verrassend succes.
OpenAI doet fundamenteel AI-onderzoek, maar speelt ook een actieve rol bij het onder de aandacht brengen van de potentiële risico's van kunstmatige intelligentie. De organisatie was betrokken bij een rapport uit 2018 over de risico's van AI, inclusief kansen voor verkeerde informatie (zie Dit zijn de 'Black Mirror'-scenario's die sommige experts ertoe brengen om geheimhouding over AI op te roepen).
Het OpenAI-algoritme is niet altijd overtuigend voor de veeleisende lezer. Vaak produceert het, wanneer een prompt wordt gegeven, oppervlakkig coherent gebrabbel of tekst die duidelijk lijkt te zijn overgenomen uit online nieuwsbronnen.
Het is echter vaak opmerkelijk goed in het produceren van realistische tekst en weerspiegelt de recente ontwikkelingen in het toepassen van machinaal leren op taal.
OpenAI heeft de tool voor het genereren van tekst beschikbaar gesteld aan MIT Technology Review om te testen, maar vanwege zorgen over hoe de technologie zou kunnen worden misbruikt, zal alleen een vereenvoudigde versie openbaar beschikbaar worden gemaakt. Het instituut publiceert een onderzoekspaper waarin het werk wordt geschetst.
Vooruitgang in kunstmatige intelligentie helpt machines geleidelijk om een beter begrip van taal te krijgen. Recent werk heeft vooruitgang geboekt door machine learning-algoritmen voor algemene doeleinden met zeer grote hoeveelheden tekst te voeden. Het OpenAI-programma tilt dit naar een nieuw niveau: het systeem kreeg 45 miljoen pagina's van het web, gekozen via de website Reddit. En in tegenstelling tot de meeste taalalgoritmen, vereist het OpenAI-programma geen gelabelde of samengestelde tekst. Het leert eenvoudig patronen te herkennen in de gegevens die het krijgt.
Richard Socher , een expert op het gebied van natuurlijke taalverwerking en hoofdwetenschapper bij Salesforce, zegt dat het OpenAI-werk een goed voorbeeld is van een meer algemeen taalleersysteem. Ik denk dat deze algemene leersystemen de toekomst zijn, schreef hij in een e-mail.
Aan de andere kant maakt Socher zich minder zorgen over de mogelijkheid van misleiding en verkeerde informatie. Je hebt geen AI nodig om nepnieuws te maken, zegt hij. Mensen kunnen het gemakkelijk doen :)