211service.com
Voorbij de AI-hypecyclus: vertrouwen en de toekomst van AI
Geleverd door Nuance
Er is geen gebrek aan beloften als het gaat om AI. Sommigen zeggen dat het alle problemen zal oplossen, terwijl anderen waarschuwen dat het het einde van de wereld zal veroorzaken zoals wij die kennen. Beide posities spelen regelmatig in Hollywood-plotlijnen zoals Westworld, Koolzwart, Minderheidsverslag, Haar, en Ex Machina . Die verhalen zijn boeiend omdat ze van ons als makers en consumenten van AI-technologie vragen om te beslissen of we een AI-systeem vertrouwen of, beter gezegd, vertrouwen op wat het systeem doet met de informatie die het heeft gekregen.
Deze inhoud is geproduceerd door Nuance. Het is niet geschreven door de redactie van MIT Technology Review.
Joe Petro is CTO bij Nuance.
Die verhalen bieden ook een belangrijke les voor degenen onder ons die onze dagen besteden aan het ontwerpen en bouwen van AI-applicaties: vertrouwen is een kritische factor voor het bepalen van het succes van een AI-applicatie. Wie wil er communiceren met een systeem dat ze niet vertrouwen?
De zwarte doos en de onbekenden begrijpen
Zelfs als een ontluikende technologie is AI ongelooflijk complex en krachtig en levert het voordelen op door berekeningen uit te voeren en patronen te detecteren in enorme datasets met snelheid en efficiëntie. Maar die kracht, gecombineerd met black box-percepties van AI en zijn honger naar gebruikersgegevens, introduceert veel variabelen, onbekenden en mogelijk onbedoelde gevolgen. Verborgen in praktische toepassingen van AI is het feit dat vertrouwen een diepgaand effect kan hebben op de perceptie van de gebruiker van het systeem, evenals de geassocieerde bedrijven, leveranciers en merken die deze toepassingen op de markt brengen.
Verbeteringen zoals alomtegenwoordige cloud- en edge-rekenkracht maken AI capabeler en effectiever, terwijl het eenvoudiger en sneller wordt om applicaties te bouwen en te implementeren. Van oudsher lag de focus op softwareontwikkeling en het ontwerp van gebruikerservaringen. Maar het is niet langer een kwestie van simpelweg een systeem ontwerpen dat oplost voor x . Het is onze verantwoordelijkheid om voor elke gebruiker een boeiende, gepersonaliseerde, wrijvingsloze en betrouwbare ervaring te creëren.
AI is hongerig naar data: weet wat je het voedt
De mogelijkheid om dit met succes te doen, is grotendeels afhankelijk van gebruikersgegevens. Systeemprestaties, betrouwbaarheid en gebruikersvertrouwen in de output van AI-modellen worden evenzeer beïnvloed door de kwaliteit van het modelontwerp als door de gegevens die erin gaan. Gegevens zijn de brandstof die de AI-engine aandrijft die de potentiële energie van gebruikersgegevens virtueel omzet in kinetische energie in de vorm van bruikbare inzichten en intelligente output. Net zoals het vullen van een Formule 1-raceauto met slechte of bedorven brandstof de prestaties zou verminderen, en het vermogen van de bestuurder om te concurreren, kan een AI-systeem dat is getraind met onjuiste of ontoereikende gegevens onnauwkeurige of onvoorspelbare resultaten produceren die het vertrouwen van de gebruiker schaden. Eenmaal gebroken, is vertrouwen moeilijk terug te winnen. Dat is de reden waarom rigoureuze datastewardship-praktijken door AI-ontwikkelaars en leveranciers van cruciaal belang zijn voor het bouwen van effectieve AI-modellen en het creëren van klantacceptatie, tevredenheid en retentie.
Verantwoord databeheer zorgt voor een vertrouwensketen die zich uitstrekt van consumenten tot de bedrijven die gebruikersgegevens verzamelen en degenen onder ons die AI-aangedreven systemen bouwen. Het is onze verantwoordelijkheid om privacywetten en -beleid te kennen en te begrijpen en om tijdens de primaire ontwerpfase rekening te houden met beveiliging en naleving. We moeten een goed begrip hebben van hoe de gegevens worden gebruikt en wie er toegang toe heeft. We moeten ook verborgen vooroordelen in de gegevens detecteren en elimineren door middel van uitgebreide tests.
Gebruikersgegevens behandelen als eigen 'broncode'
Behandel gebruikersgegevens als gevoelige intellectuele eigendom (IP). Het is de eigen broncode die wordt gebruikt om AI-modellen te bouwen die specifieke problemen oplossen, op maat gemaakte ervaringen creëren en gerichte gewenste resultaten bereiken. Deze gegevens zijn afgeleid van persoonlijke gebruikersinteracties, zoals gesprekken tussen consumenten en call agents, artsen en patiënten, en banken en klanten. Het is gevoelig omdat het intieme, zeer gedetailleerde digitale gebruikersprofielen creëert op basis van persoonlijke financiële, gezondheids-, biometrische en andere informatie.
Gebruikersgegevens moeten net zo zorgvuldig worden beschermd en gebruikt als elk ander IP-adres, vooral voor AI-systemen in sterk gereguleerde sectoren zoals de gezondheidszorg en de financiële dienstverlening. Artsen gebruiken AI-spraak, begrip van natuurlijke taal en virtuele gespreksagenten die zijn gemaakt met gezondheidsgegevens van patiënten om zorg en toegang te documenteren diagnostische begeleiding in realtime . In de bank- en financiële dienstverlening verwerken AI-systemen miljoenen klanttransacties en gebruiken ze biometrische spraakafdrukken, oogbewegingen en gedragsgegevens (bijvoorbeeld hoe snel je typt, de woorden die je gebruikt, met welke hand je veegt) om mogelijke fraude detecteren of gebruikersidentiteiten verifiëren .
Zowel zorgverleners als bedrijven creëren hun eigen digitale voordeur die een efficiënte, gepersonaliseerde gebruikerservaring biedt via sms, internet, telefoon, video, apps en andere kanalen. Consumenten kiezen ook voor tijdbesparende realtime digitale interacties. Zorginstellingen en commerciële organisaties willen met recht hun patiënt- en klantrelaties en gegevens beheren en beschermen bij elke methode van digitale betrokkenheid om merkbekendheid, gepersonaliseerde interacties en loyaliteit op te bouwen.
Elke AI-leverancier en -ontwikkelaar moet zich niet alleen bewust zijn van de inherent gevoelige aard van gebruikersgegevens, maar ook van de noodzaak om met hoge ethische normen te werken om de vereiste vertrouwensketen op te bouwen en te behouden.
Hier zijn belangrijke vragen om te overwegen:
Wie heeft toegang tot de gegevens? Zorg voor een duidelijk en transparant beleid dat strikte beveiligingen omvat, zoals het beperken van de toegang tot bepaalde soorten gegevens en het verbieden van doorverkoop of delen met derden. Hetzelfde beleid zou moeten gelden voor cloudproviders of andere ontwikkelingspartners.
Waar worden de gegevens opgeslagen, en voor hoe lang? Vraag waar de gegevens zich bevinden (cloud, edge, device) en hoe lang ze worden bewaard. De implementatie van de Algemene Verordening Gegevensbescherming van de Europese Unie, de California Consumer Privacy Act en het vooruitzicht van aanvullende staats- en federale privacybescherming moeten ervoor zorgen dat gegevensopslag en bewaring centraal staan tijdens de ontwikkeling van AI.
Hoe worden voordelen gedefinieerd en gedeeld? AI-applicaties moeten ook worden getest met diverse datasets om de beoogde real-world applicaties te weerspiegelen, onbedoelde vooroordelen te elimineren en betrouwbare resultaten te garanderen.
Hoe manifesteren de gegevens zich in het systeem? Begrijp hoe gegevens door het systeem zullen stromen. Worden gevoelige gegevens benaderd en in wezen verwerkt door een neuraal netwerk als een reeks van nullen en enen, of worden ze in de oorspronkelijke vorm opgeslagen met medische of persoonlijk identificeerbare informatie? Stel een passend beleid voor het bewaren en verwijderen van gegevens vast en volg dit op voor elk type gevoelige gegevens.
Wie kan commerciële waarde halen uit gebruikersdata? Overweeg de mogelijke gevolgen van het delen van gegevens voor doeleinden buiten de oorspronkelijke reikwijdte of bron van de gegevens. Houd rekening met mogelijke fusies en overnames, mogelijke vervolgproducten en andere factoren.
Is het systeem veilig en compatibel? Ontwerp en bouw eerst voor privacy en veiligheid. Overweeg hoe transparantie, toestemming van de gebruiker en systeemprestaties kunnen worden beïnvloed gedurende de levenscyclus van het product of de service.
De realiteit van AI in actie
Biometrische toepassingen helpen fraude te voorkomen en authenticatie te vereenvoudigen. Het VoiceID-spraakbiometriesysteem van HSBC heeft: heeft met succes de diefstal van bijna £ 400 miljoen voorkomen (ongeveer $ 493 miljoen) door telefonische oplichters in het VK. Het vergelijkt de stemafdruk van een persoon met duizenden individuele spraakkenmerken in een vastgesteld spraakrecord om de identiteit van een gebruiker te bevestigen. Andere bedrijven gebruiken stembiometrie om de identiteit van externe callcentermedewerkers te valideren voordat ze toegang krijgen tot bedrijfseigen systemen en gegevens. De behoefte aan dergelijke maatregelen neemt toe naarmate consumenten meer digitale en telefonische interacties aangaan.
Intelligente applicaties leveren veilige, gepersonaliseerde, digital-first klantenservice. Een wereldwijd telecommunicatiebedrijf gebruikt conversatie-AI om consistente, veilige en gepersonaliseerde klantervaringen te creëren in zijn grote en diverse merkenportfolio. Omdat klanten steeds meer via digitale kanalen betrokken raakten, zocht het bedrijf naar technologiepartners om zijn eigen interne expertise uit te breiden en ervoor te zorgen dat het de controle over zijn gegevens zou behouden bij het inzetten van een virtuele assistent voor klantenservice.
Een top-drie retailer gebruikt spraakgestuurde virtuele assistent-technologie om shoppers foto's te laten uploaden van items die ze offline hebben gezien, en presenteert vervolgens items die ze kunnen overwegen om te kopen op basis van die afbeeldingen.
Ambient AI-aangedreven klinische toepassingen verbeteren de ervaringen in de gezondheidszorg en verminderen de burn-out van artsen. EmergeOrtho in North Carolina gebruikt de Nuance Dragon Ambient-ervaring (DAX) applicatie om te transformeren hoe zijn orthopedische praktijken in de hele staat kunnen omgaan met patiënten en documentzorg. De ambient clinical intelligence telehealth-toepassing legt nauwkeurig elke arts-patiëntinteractie in de onderzoekskamer of tijdens een telehealth-oproep vast en werkt vervolgens automatisch het gezondheidsdossier van de patiënt bij. Patiënten hebben de volledige aandacht van de arts en stroomlijnen het elektronische papierwerk dat burn-out veroorzaakt dat artsen moeten invullen om betaald te worden voor het leveren van zorg.
AI-gestuurde diagnostische beeldvormingssystemen zorgen ervoor dat patiënten de nodige nazorg krijgen. Radiologen in meerdere ziekenhuizen gebruiken AI en natuurlijke taalverwerking om automatisch aanbevelingen voor vervolgonderzoeken te identificeren en te extraheren voor vermoedelijke kankers en andere ziekten die worden gezien op röntgenfoto's en andere afbeeldingen. Dezelfde technologie kan helpen bij het beheren van een golf van achterstallige en follow-up beeldvorming naarmate de covid-19-beperkingen verminderen, waardoor zorgverleners procedures kunnen plannen, inkomstenherstel kunnen starten en de patiëntenzorg kunnen handhaven.
Naarmate de digitale transformatie versnelt, moeten we de uitdagingen waarmee we vandaag worden geconfronteerd, oplossen en ons tegelijkertijd voorbereiden op een overvloed aan toekomstige kansen. De kern van die inspanning is de toewijding om vertrouwen en gegevensbeheer op te bouwen in onze AI-ontwikkelingsprojecten en -organisaties.