Een nieuwe tool gebruikt AI om tekst te herkennen die is geschreven door AI

Categorie: Kunstmatige intelligentie Geplaatst 26 juli

AI-algoritmen kunnen tekst genereren die overtuigend genoeg is om de gemiddelde mens voor de gek te houden - wat mogelijk een manier biedt om massaal nepnieuws, neprecensies en nep-sociale accounts te produceren. Gelukkig kan AI nu ook worden gebruikt om valse tekst te identificeren.

Het nieuws: Onderzoekers van Harvard universiteit en de MIT-IBM Watson AI-lab hebben een nieuwe tool ontwikkeld voor het opsporen van tekst die is gegenereerd met behulp van AI. Het wordt de Giant Language Model Test Room (GLTR) genoemd en maakt gebruik van het feit dat AI-tekstgeneratoren vertrouwen op statistische patronen in tekst, in tegenstelling tot de werkelijke betekenis van woorden en zinnen. Met andere woorden, de tool kan zien of de woorden die u leest te voorspelbaar lijken om door een menselijke hand te zijn geschreven.

De context: Verkeerde informatie wordt steeds meer geautomatiseerd en de technologie die nodig is om valse tekst en afbeeldingen te genereren, gaat snel vooruit. AI-aangedreven tools zoals deze kunnen waardevolle wapens worden in de strijd om nepnieuws, deepfakes en twitterbots te vangen.

Faken: Onderzoekers van OpenAI hebben onlangs een algoritme gedemonstreerd in staat om verrassend realistische passages te bedenken . Ze voerden enorme hoeveelheden tekst in een groot machine learning-model, dat statistische patronen in die woorden leerde oppikken. Het Harvard-team ontwikkelde hun tool met behulp van een versie van de OpenAI-code die publiekelijk werd vrijgegeven.

Hoe voorspelbaar: GLTR markeert woorden die statistisch gezien waarschijnlijk na het voorgaande woord in de tekst zullen verschijnen. Zoals blijkt uit de bovenstaande passage (van oneindig is) , de meest voorspelbare woorden zijn groen; minder voorspelbaar zijn geel en rood; en het minst voorspelbaar zijn paars. Wanneer het wordt getest op tekstfragmenten die zijn geschreven door het algoritme van OpenAI, vindt het veel voorspelbaarheid. Echte nieuwsartikelen en wetenschappelijke samenvattingen bevatten meer verrassingen.

Geest en machine: De onderzoekers achter GLTR deden ook nog een experiment. Ze vroegen Harvard-studenten om door AI gegenereerde tekst te identificeren, eerst zonder de tool en vervolgens met behulp van de markering. De studenten konden slechts de helft van alle vervalsingen zelf ontdekken, maar 72% toen ze de tool kregen. Ons doel is om samenwerkingssystemen voor mens en AI te creëren, zegt Sebastian Gehrmann, een promovendus die bij het werk betrokken is.

Als je interesse hebt, kan dat probeer het zelf uit .