Deze griezelige nepmensen luiden een nieuw tijdperk in AI in

Met dank aan Datagen

Je ziet de vage stoppels op zijn bovenlip komen, de rimpels op zijn voorhoofd, de vlekjes op zijn huid. Hij is geen echte persoon, maar het is de bedoeling dat hij er een nabootst, net als de honderdduizenden andere die zijn gemaakt door Datagen, een bedrijf dat neppe, gesimuleerde mensen verkoopt.

Deze mensen zijn geen game-avatars of geanimeerde karakters voor films. Het zijn synthetische gegevens die zijn ontworpen om de groeiende vraag naar deep-learning-algoritmen te voeden. Bedrijven als Datagen bieden een aantrekkelijk alternatief voor het dure en tijdrovende proces van het verzamelen van gegevens uit de echte wereld. Zij maken het voor u: hoe u het wilt, wanneer u wilt - en relatief goedkoop.

Om zijn synthetische mensen te genereren, gegevens scant eerst echte mensen. Het werkt samen met leveranciers die mensen betalen om in gigantische full-body scanners te stappen die elk detail vastleggen, van hun irissen tot hun huidtextuur tot de kromming van hun vingers. De startup neemt vervolgens de onbewerkte gegevens en pompt deze door een reeks algoritmen, die 3D-weergaven van iemands lichaam, gezicht, ogen en handen ontwikkelen.

Het bedrijf, dat in Israël is gevestigd, zegt dat het al samenwerkt met vier grote Amerikaanse techgiganten, hoewel het niet bekendmaakt welke. Zijn naaste concurrent, Synthese AI , biedt ook on-demand digitale mensen. Andere bedrijven genereren gegevens voor gebruik in financiën , verzekering , en gezondheidszorg . Er zijn er ongeveer net zoveel bedrijven voor synthetische gegevens omdat er soorten gegevens zijn.

Ooit beschouwd als minder wenselijk dan echte data, worden synthetische data nu door sommigen gezien als een wondermiddel. Echte gegevens zijn rommelig en zitten vol vooroordelen. Nieuwe gegevensprivacyregels maken het verzamelen moeilijk. Synthetische gegevens zijn daarentegen ongerept en kunnen worden gebruikt om meer diverse gegevenssets te bouwen. U kunt perfect gelabelde gezichten produceren, bijvoorbeeld van verschillende leeftijden, vormen en etniciteiten, om een ​​gezichtsdetectiesysteem te bouwen dat voor alle populaties werkt.

Maar synthetische data heeft zijn beperkingen. Als het de realiteit niet weerspiegelt, kan het uiteindelijk een nog slechtere AI produceren dan rommelige, bevooroordeelde real-world data - of het kan gewoon dezelfde problemen erven. Wat ik niet wil doen, is duimen voor dit paradigma en zeggen: 'Oh, dit zal zoveel problemen oplossen', zegt Cathy O'Neil, een datawetenschapper en oprichter van het algoritmische auditbedrijf ORCAA. Omdat het ook veel dingen negeert.

Realistisch, niet echt

Deep learning ging altijd over data. Maar de afgelopen jaren heeft de AI-gemeenschap geleerd dat goed gegevens zijn belangrijker dan groot gegevens . Zelfs kleine hoeveelheden van de juiste, netjes gelabelde gegevens kunnen meer doen om de prestaties van een AI-systeem te verbeteren dan tien keer de hoeveelheid niet-gecureerde gegevens, of zelfs een geavanceerder algoritme.

Dat verandert de manier waarop bedrijven de ontwikkeling van hun AI-modellen moeten benaderen, zegt Ofir Chakon, CEO en medeoprichter van Datagen. Tegenwoordig beginnen ze met het verzamelen van zoveel mogelijk gegevens en tweaken en tunen ze vervolgens hun algoritmen voor betere prestaties. In plaats daarvan zouden ze het tegenovergestelde moeten doen: hetzelfde algoritme gebruiken en tegelijkertijd de samenstelling van hun gegevens verbeteren.

Datagen genereert ook nepmeubels en binnenomgevingen om zijn nepmensen in een context te plaatsen.

DATAGEN

Maar het verzamelen van gegevens uit de echte wereld om dit soort iteratieve experimenten uit te voeren, is te kostbaar en tijdrovend. Dit is waar Datagen om de hoek komt kijken. Met een synthetische datagenerator kunnen teams tientallen nieuwe datasets per dag maken en testen om te bepalen welke de prestaties van een model maximaliseert.

Om het realisme van zijn gegevens te garanderen, geeft Datagen zijn leveranciers gedetailleerde instructies over hoeveel personen ze moeten scannen in elke leeftijdscategorie, BMI-bereik en etniciteit, evenals een lijst met acties die ze moeten uitvoeren, zoals rondlopen in een kamer of frisdrank drinken. De leveranciers sturen zowel statische high-fidelity-beelden als motion-capture-gegevens van die acties terug. De algoritmen van Datagen breiden deze gegevens vervolgens uit tot honderdduizenden combinaties. De gesynthetiseerde gegevens worden dan soms opnieuw gecontroleerd. Nepgezichten worden bijvoorbeeld uitgezet tegen echte gezichten om te zien of ze realistisch lijken.

Datagen genereert nu gezichtsuitdrukkingen om de alertheid van bestuurders in slimme auto's te controleren, lichaamsbewegingen om klanten te volgen in kassavrije winkels, en irissen en handbewegingen om de oog- en handvolgmogelijkheden van VR-headsets te verbeteren. Het bedrijf zegt dat zijn gegevens al zijn gebruikt om computervisiesystemen te ontwikkelen voor tientallen miljoenen gebruikers.

Het zijn niet alleen synthetische mensen die massaal worden vervaardigd. Klik-ins is een startup die synthetische AI ​​gebruikt om geautomatiseerde voertuiginspecties uit te voeren. Met behulp van ontwerpsoftware herschept het alle automerken en modellen die de AI moet herkennen en geeft het ze vervolgens weer met verschillende kleuren, beschadigingen en vervormingen onder verschillende lichtomstandigheden, tegen verschillende achtergronden. Hierdoor kan het bedrijf zijn AI bijwerken wanneer autofabrikanten nieuwe modellen uitbrengen, en helpt het om schendingen van de gegevensprivacy te voorkomen in landen waar kentekenplaten als privé-informatie worden beschouwd en dus niet aanwezig kunnen zijn op foto's die worden gebruikt om AI te trainen.

Click-Ins rendert auto's van verschillende merken en modellen tegen verschillende achtergronden.

KLIK-INS

meestal.ai werkt samen met financiële, telecommunicatie- en verzekeringsmaatschappijen om spreadsheets met valse klantgegevens te leveren waarmee bedrijven hun klantendatabase kunnen delen met externe leveranciers op een wettelijk conforme manier. Anonimisering kan de rijkdom van een dataset verminderen, maar de privacy van mensen onvoldoende beschermen. Maar synthetische gegevens kunnen worden gebruikt om gedetailleerde nepgegevenssets te genereren die dezelfde statistische eigenschappen delen als de echte gegevens van een bedrijf. Het kan ook worden gebruikt om gegevens te simuleren die het bedrijf nog niet heeft, waaronder een meer diverse klantenpopulatie of scenario's zoals frauduleuze activiteiten.

Voorstanders van synthetische data zeggen dat het ook kan helpen bij het evalueren van AI. In een recent artikel gepubliceerd op een AI-conferentie, hebben Suchi Saria, een universitair hoofddocent machine learning en gezondheidszorg aan de Johns Hopkins University, en haar co-auteurs aangetoond hoe technieken voor het genereren van gegevens kunnen worden gebruikt om verschillende patiëntenpopulaties te extrapoleren uit een enkele set gegevens. Dit kan handig zijn als een bedrijf bijvoorbeeld alleen gegevens heeft van de jongere bevolking van New York City, maar wil begrijpen hoe de AI presteert bij een vergrijzende bevolking met een hogere prevalentie van diabetes. Ze begint nu haar eigen bedrijf, Bayesian Health, dat deze techniek gaat gebruiken om medische AI-systemen te testen.

De grenzen van het faken

Maar is synthetische data overhyped?

Als het om privacy gaat, betekent het feit dat de gegevens 'synthetisch' zijn en niet direct overeenkomen met echte gebruikersgegevens, niet dat ze geen gevoelige informatie over echte mensen coderen, zegt Aaron Roth, een professor in computer- en informatiewetenschappen aan de Universiteit van Pennsylvania. Van sommige technieken voor het genereren van gegevens is aangetoond dat ze afbeeldingen of tekst in de trainingsgegevens nauwkeurig reproduceren, terwijl andere kwetsbaar zijn voor aanvallen waardoor ze die gegevens volledig uitspugen.

Dit kan prima zijn voor een bedrijf als Datagen, wiens synthetische gegevens niet bedoeld zijn om de identiteit te verbergen van de personen die ermee hebben ingestemd om te worden gescand. Maar het zou slecht nieuws zijn voor bedrijven die hun oplossing aanbieden als een manier om gevoelige financiële of patiëntinformatie te beschermen.

Verwant verhaal

Het jaar waarin deepfakes mainstream werden In 2020 begonnen AI-synthetische media zich te verwijderen van de donkere hoeken van het internet.

Onderzoek suggereert dat met name de combinatie van twee technieken voor synthetische gegevens - differentiële privacy en generatieve vijandige netwerken -kan de sterkste privacybescherming opleveren, zegt Bernease Herman, een datawetenschapper aan het eScience Institute van de University of Washington. Maar sceptici maken zich zorgen dat deze nuance verloren kan gaan in het marketingjargon van leveranciers van synthetische gegevens, die niet altijd duidelijk zullen zijn over welke technieken ze gebruiken.

Ondertussen suggereert weinig bewijs dat synthetische gegevens de vooringenomenheid van AI-systemen effectief kunnen verminderen. Om te beginnen levert het extrapoleren van nieuwe gegevens uit een bestaande gegevensset die scheef is, niet noodzakelijkerwijs gegevens op die representatiever zijn. De ruwe data van Datagen bevatten bijvoorbeeld verhoudingsgewijs minder etnische minderheden, wat betekent dat het minder echte datapunten gebruikt om nepmensen uit die groepen te genereren. Hoewel het generatieproces niet helemaal giswerk is, is de kans groter dat die nepmensen afwijken van de realiteit. Als je gezichten met een donkere huidskleur niet echt goede benaderingen van gezichten zijn, dan los je het probleem niet echt op, zegt O'Neil.

Bovendien vertalen perfect uitgebalanceerde datasets zich niet automatisch in volkomen eerlijke AI-systemen, zegt Christo Wilson, universitair hoofddocent computerwetenschappen aan de Northeastern University. Als een creditcardverstrekker zou proberen een AI-algoritme te ontwikkelen voor het scoren van potentiële leners, zou het niet alle mogelijke discriminatie elimineren door simpelweg zowel blanke als zwarte mensen in zijn gegevens te vertegenwoordigen. Discriminatie kan nog steeds binnensluipen door verschillen tussen blanke en zwarte sollicitanten.

Om de zaken nog ingewikkelder te maken, blijkt uit vroeg onderzoek dat het in sommige gevallen misschien niet eens mogelijk is om beide privé en eerlijke AI met synthetische data. In een recent artikel gepubliceerd op een AI-conferentie, probeerden onderzoekers van de Universiteit van Toronto en het Vector Institute dit te doen met thoraxfoto's. Ze ontdekten dat ze niet in staat waren een nauwkeurig medisch AI-systeem te creëren toen ze probeerden een diverse synthetische dataset te maken door de combinatie van differentiële privacy en generatieve vijandige netwerken.

Dit alles betekent niet dat synthetische gegevens niet mogen worden gebruikt. Sterker nog, het kan best een noodzaak worden. Nu regelgevers worden geconfronteerd met de noodzaak om AI-systemen te testen op naleving van de wet, zou dit de enige benadering kunnen zijn die hen de flexibiliteit geeft die ze nodig hebben om on-demand, gerichte testgegevens te genereren, zegt O'Neil. Maar dat maakt vragen over de beperkingen ervan nog belangrijker om nu te bestuderen en te beantwoorden.

Synthetische gegevens zullen in de loop van de tijd waarschijnlijk beter worden, zegt ze, maar niet per ongeluk.

zich verstoppen