211service.com
Hoe spam de AI verbetert
Die vervelende visuele puzzels die moeten worden voltooid telkens wanneer u zich aanmeldt voor een webmailaccount of een opmerking op een blog plaatst, worden aangevallen. Het komt echter niet alleen van spam-spuwende computers of hackers; het is ook van onderzoekers die antispampuzzels gebruiken om slimmere, meer menselijke algoritmen te ontwikkelen.
Katten versus honden: Een project genaamd Asirra gebruikt foto's van katten en honden om onderscheid te maken tussen mensen en computers. Normaal gesproken is het een moeilijke taak voor computers, maar een nieuw algoritme kan de afbeeldingen 83 procent van de tijd correct classificeren.
Het meest voorkomende type puzzel (een reeks vervormde letters en cijfers) wordt steeds vaker gekraakt door slimmere AI-software. En een computerwetenschapper heeft nu een algoritme ontwikkeld dat zelfs de nieuwste op foto's gebaseerde tests kan verslaan.
Deze puzzels, ook wel CAPTCHA's (Completely Automated Public Turing test to tell Computers and Humans Apart) genoemd, werden eind jaren '90 ontwikkeld als een manier om echte gebruikers te scheiden van machines die e-mailaccounts aanmaken om spam te versturen of om in te loggen op berichten. borden om advertentielinks te plaatsen. De Turing-test , genoemd naar de wiskundige Alan Turing, gaat over het meten van intelligentie door een computer te laten proberen een echt persoon na te bootsen.
Tekstuele CAPTCHA's zijn een goede manier om mensen en spambots van elkaar te onderscheiden, omdat vervormde letters en cijfers (meestal) gemakkelijk door echte mensen kunnen worden gelezen, maar voor computers ontzettend moeilijk te ontcijferen zijn. Computerwetenschappers zien CAPTCHA's echter al lang als een interessante AI-uitdaging. Ontwerpers van tekstuele CAPTCHA's hebben geleidelijk meer vervorming geïntroduceerd om te voorkomen dat machines ze oplossen. Maar ze moeten veiligheid afwegen tegen bruikbaarheid: naarmate de vervorming toeneemt, beginnen zelfs echte mensen CAPTCHA's moeilijk te ontcijferen te vinden.
Eerder dit jaar, Jeff Yan , een onderzoeker aan de Universiteit van Newcastle, VK, onthulde een programma dat in staat is om de tekstuele CAPTCHA's te voltooien die worden gebruikt om Microsoft's Hotmail-, MSN- en Windows Live-services te beschermen met een succespercentage van 60 procent. Dit klinkt misschien niet zo veel, maar het is belangrijk, aangezien een computer zijn aanval duizenden keren per minuut kan proberen. Yan hield de krant achter totdat Microsoft de kans had om de CAPTCHA's aan te passen zodat ze moeilijker te kraken waren. Maar bij de ACM Computer- en communicatiebeveiligingsconferentie in Alexandria, VA, zal Yan later deze maand details presenteren van een ander programma waarvan hij zegt dat het zelfs meer algemeen gebruikte tekstuele CAPTCHA's kan kraken.
Een alternatief is dus om gebruikers te vragen verschillende soorten puzzels op te lossen. Maar een ander artikel dat op dezelfde conferentie zal worden gepresenteerd, beschrijft een algoritme dat problemen zou kunnen opleveren voor nog nieuwere CAPTCHA's.
Philippe Golle van het Palo Alto Research Center heeft een programma ontwikkeld dat een op afbeeldingen gebaseerde CAPTCHA genaamd Asirra, ontwikkeld door Microsoft, correct kan doorgeven. Asirra vraagt gebruikers om afbeeldingen van katten of honden correct te classificeren met behulp van een database van drie miljoen afbeeldingen die worden geleverd door dierenreddingsorganisaties. Deze taak zou voor computers nog moeilijker moeten zijn dan het herkennen van kronkelige letters, maar het programma van Golle kan de katten of honden die door Asirra worden getoond 83 procent van de tijd correct identificeren.
Golle trainde zijn programma met behulp van 8.000 afbeeldingen die van dezelfde website waren verzameld. Met vallen en opstaan leerde zijn software geleidelijk katten en honden van elkaar te onderscheiden, op basis van een statistische analyse van kleur en textuur in elke foto. Het roze van de hondentongen en het groen van de kattenogen leverden sterke aanwijzingen op, zegt Golle, maar alleen door kleur- en textuurinformatie van zoveel afbeeldingen te bestuderen, kon zijn programma het probleem aanpakken. Machine learning is erg goed in het verzamelen van informatie, zegt Golle.
Hoewel elke afzonderlijke afbeelding 83 procent van de tijd werd herkend, vereist de volledige CAPTCHA-test 12 afbeeldingen om tegelijkertijd te worden geïdentificeerd, dus de aanval werkt eigenlijk maar 10,3 procent van de tijd.
Golle zegt dat een gemakkelijke tegenmaatregel voor Asirra zou zijn om meer foto's te presenteren, wat het slagingspercentage van de aanval verder zou verlagen. Microsoft heeft niet gereageerd op onze verzoeken om commentaar.
Ondanks al deze vooruitgang is het onduidelijk of echte spammers momenteel AI-aanvallen gebruiken tegen echte CAPTCHA's. Websense Security Labs, in San Diego, heeft rapporten uitgebracht over spammers die CAPTCHA's kraken, maar vaak betekent dit dat laagbetaalde werknemers CAPTCHA's handmatig moeten oplossen.
Luis von Ahn, een computerwetenschapper aan de Carnegie Mellon University, die hielp bij het bedenken van de term CAPTCHA, zegt dat het niet duidelijk is dat er in de echte wereld veel voorkomende CAPTCHA's zijn verbroken door een machineaanval. Ik ken niemand die erover denkt om van de CAPTCHA af te komen omdat het niet werkt, zegt hij.
Von Ahn merkt echter op dat het gebruik van mensen kosten met zich meebrengt. Zelfs als werknemers slechts $ 3 per 1.000 CAPTCHA's krijgen, is dat duur, zegt hij, vooral omdat de meeste gehackte webmailaccounts worden afgesloten kort nadat ze spam beginnen te verzenden. Dus een echt geautomatiseerde aanval zou de kosten voor spammers verlagen en het aantal succesvolle aanvallen dat ze zich konden veroorloven aanzienlijk vergroten, zegt hij.
Maar totdat computers veel slimmer worden, kunnen CAPTCHA-makers altijd een paar eenvoudige aanpassingen doorvoeren om een CAPTCHA veel moeilijker te maken. Ik denk dat er een dag zal komen waarop CAPTCHA's in wezen nutteloos zullen zijn, zegt von Ahn. Maar ik denk niet dat het dit jaar of volgend jaar is.