Ud over AI-hype-cyklussen: Tillid og fremtiden for AI

Leveret af Nuance

Der er ingen mangel på løfter, når det kommer til AI. Nogle siger, at det vil løse alle problemer, mens andre advarer om, at det vil bringe verdens undergang, som vi kender den. Begge positioner udspiller sig jævnligt i Hollywood plotlines som Westworld, Carbon Black, Minoritetsrapport, Hende, og Eks maskine . Disse historier er overbevisende, fordi de kræver, at vi som skabere og forbrugere af AI-teknologi beslutter, om vi stoler på et AI-system eller mere præcist stoler på, hvad systemet gør med den information, det har fået.

Dette indhold er produceret af Nuance. Det er ikke skrevet af MIT Technology Reviews redaktion.

Joe Petro er CTO hos Nuance.

Disse historier giver også en vigtig lektie for dem af os, der bruger vores dage på at designe og bygge AI-applikationer: Tillid er en kritisk faktor for at bestemme succesen af ​​en AI-applikation. Hvem ønsker at interagere med et system, de ikke har tillid til?

Den sorte boks og forståelse af det ukendte

Selv som en ny teknologi er AI utrolig kompleks og kraftfuld, og den giver fordele ved at udføre beregninger og detektere mønstre i enorme datasæt med hastighed og effektivitet. Men den kraft, kombineret med black box-opfattelser af AI og dens appetit på brugerdata, introducerer en masse variabler, ukendte og mulige utilsigtede konsekvenser. Gemt i praktiske applikationer af AI er det faktum, at tillid kan have en dybtgående effekt på brugerens opfattelse af systemet, såvel som de associerede virksomheder, leverandører og brands, der bringer disse applikationer på markedet.

Fremskridt såsom allestedsnærværende cloud- og edge-beregningskraft gør AI mere kapabel og effektiv, samtidig med at det gør det nemmere og hurtigere at bygge og implementere applikationer. Historisk har fokus været på softwareudvikling og brugeroplevelsesdesign. Men det er ikke længere et spørgsmål om blot at designe et system, der løser for x . Det er vores ansvar at skabe en engagerende, personlig, friktionsfri og troværdig oplevelse for hver bruger.

AI er datahungrende: Ved, hvad du fodrer med den

Evnen til at gøre dette med succes er i høj grad afhængig af brugerdata. Systemydeevne, pålidelighed og brugertillid til AI-modeloutput påvirkes lige så meget af kvaliteten af ​​modeldesignet som de data, der indgår i det. Data er brændstoffet, der driver AI-motoren, der virtuelt konverterer den potentielle energi fra brugerdata til kinetisk energi i form af handlingsorienteret indsigt og intelligent output. Ligesom at fylde en Formel 1-racerbil med dårligt eller plettet brændstof ville mindske præstationen, og førerens evne til at konkurrere, kan et AI-system trænet med forkerte eller utilstrækkelige data producere unøjagtige eller uforudsigelige resultater, der bryder brugernes tillid. Når først den er brudt, er tilliden svær at genvinde. Det er grunden til, at strenge dataforvaltningspraksis fra AI-udviklere og -leverandører er afgørende for at opbygge effektive AI-modeller samt skabe kundeaccept, -tilfredshed og -fastholdelse.

Ansvarlig dataforvaltning etablerer en tillidskæde, der strækker sig fra forbrugere til virksomheder, der indsamler brugerdata, og dem af os, der bygger AI-drevne systemer. Det er vores ansvar at kende og forstå privatlivslove og -politikker og overveje sikkerhed og overholdelse i den primære designfase. Vi skal have en dyb forståelse af, hvordan data bruges, og hvem der har adgang til dem. Vi skal også opdage og eliminere skjulte skævheder i dataene gennem omfattende test.

Behandling af brugerdata som proprietær 'kildekode'

Behandl brugerdata som følsom intellektuel ejendom (IP). Det er den proprietære kildekode, der bruges til at bygge AI-modeller, der løser specifikke problemer, skaber skræddersyede oplevelser og opnår målrettede ønskede resultater. Disse data stammer fra personlige brugerinteraktioner, såsom samtaler mellem forbrugere og opkaldsagenter, læger og patienter samt banker og kunder. Det er følsomt, fordi det skaber intime, meget detaljerede digitale brugerprofiler baseret på privatøkonomiske, sundhedsmæssige, biometriske og andre oplysninger.

Brugerdata skal beskyttes og bruges lige så omhyggeligt som enhver anden IP, især for AI-systemer i stærkt regulerede industrier såsom sundhedspleje og finansielle tjenester. Læger bruger AI-tale, naturlig sprogforståelse og virtuelle samtaleagenter oprettet med patientsundhedsdata til at dokumentere pleje og adgang diagnostisk vejledning i realtid . I bank- og finansielle tjenester behandler AI-systemer millioner af kundetransaktioner og bruger biometriske stemmeaftryk, øjenbevægelser og adfærdsdata (f.eks. hvor hurtigt du skriver, de ord du bruger, hvilken hånd du stryger med) til at opdage mulig svindel eller autentificere brugeridentiteter .

Både sundhedsudbydere og virksomheder skaber deres egen brandede digitale hoveddør, der giver effektive, personlige brugeroplevelser via SMS, web, telefon, video, apps og andre kanaler. Forbrugerne vælger også tidsbesparende digitale interaktioner i realtid. Sundhedspleje og kommercielle organisationer ønsker med rette at kontrollere og beskytte deres patient- og kunderelationer og data i hver metode til digitalt engagement for at opbygge brandbevidsthed, personlige interaktioner og loyalitet.

Hver AI-leverandør og -udvikler skal ikke kun være opmærksom på den iboende følsomme karakter af brugerdata, men også på behovet for at arbejde med høje etiske standarder for at opbygge og vedligeholde den nødvendige tillidskæde.

Her er nøglespørgsmål at overveje:

Hvem har adgang til dataene? Hav en klar og gennemsigtig politik, der omfatter strenge beskyttelser såsom begrænsning af adgang til visse typer data og forbud mod videresalg eller tredjepartsdeling. De samme politikker bør gælde for cloud-udbydere eller andre udviklingspartnere.

Hvor opbevares dataene, og hvor længe? Spørg, hvor dataene bor (sky, kant, enhed), og hvor længe de vil blive opbevaret. Implementeringen af ​​EU's generelle databeskyttelsesforordning, California Consumer Privacy Act og udsigten til yderligere statslige og føderale privatlivsbeskyttelser bør gøre datalagring og opbevaringspraksis til topprioritet under AI-udvikling.

Hvordan defineres og deles fordele? AI-applikationer skal også testes med forskellige datasæt for at afspejle de tilsigtede applikationer fra den virkelige verden, eliminere utilsigtet skævhed og sikre pålidelige resultater.

Hvordan kommer data til udtryk i systemet? Forstå, hvordan data vil flyde gennem systemet. Fås adgang til følsomme data og behandles i det væsentlige af et neuralt net som en serie af 0'er og 1'ere, eller gemmes de i sin oprindelige form med medicinske eller personligt identificerende oplysninger? Etabler og følg passende dataopbevarings- og sletningspolitikker for hver type følsomme data.

Hvem kan realisere kommerciel værdi fra brugerdata? Overvej de potentielle konsekvenser af datadeling til formål uden for det oprindelige omfang eller datakilde. Redegør for mulige fusioner og opkøb, mulige opfølgende produkter og andre faktorer.

Er systemet sikkert og kompatibelt? Design og byg til privatliv og sikkerhed først. Overvej, hvordan gennemsigtighed, brugersamtykke og systemydeevne kan blive påvirket gennem hele produktets eller tjenestens livscyklus.

Virkeligheden af ​​AI i aktion

Biometriske applikationer hjælper med at forhindre svindel og forenkler godkendelse. HSBCs VoiceID stemmebiometrisystem har med held forhindret tyveri af næsten 400 millioner pund (ca. $493 millioner) af telefonsvindlere i Storbritannien. Den sammenligner en persons stemmeaftryk med tusindvis af individuelle taleegenskaber i en etableret stemmeregistrering for at bekræfte en brugers identitet. Andre virksomheder bruger stemmebiometri til at validere identiteten af ​​eksterne callcentermedarbejdere, før de kan få adgang til proprietære systemer og data. Behovet for sådanne foranstaltninger vokser, efterhånden som forbrugerne udfører flere digitale og telefonbaserede interaktioner.

Intelligente applikationer leverer sikker, personlig, digital-first kundeservice. En global telekommunikationsvirksomhed bruger konversations-AI til at skabe ensartede, sikre og personlige kundeoplevelser på tværs af sin store og mangfoldige mærkeportefølje. Med kunder, der i stigende grad engagerer sig på tværs af digitale kanaler, så virksomheden til teknologipartnere for at udvide sin egen interne ekspertise og samtidig sikre, at den ville bevare kontrollen over sine data ved at implementere en virtuel assistent til kundeservice.

En top-tre forhandler bruger stemmedrevet virtuel assistent-teknologi til at lade kunder uploade billeder af varer, de har set offline, og præsenterer derefter varer, som de kan overveje at købe baseret på disse billeder.

Ambient AI-drevne kliniske applikationer forbedrer sundhedsoplevelser og lindrer samtidig lægens udbrændthed. EmergeOrtho i North Carolina bruger Nuance Dragon Ambient oplevelse (DAX) applikation til at transformere, hvordan dens ortopædiske praksis på tværs af staten kan engagere sig med patienter og dokumentere pleje. Den omgivende kliniske intelligens-telesundhedsapplikation fanger nøjagtigt hver læge-patient-interaktion i undersøgelseslokalet eller på et telesundhedsopkald og opdaterer derefter automatisk patientens helbredsjournal. Patienter har lægens fulde opmærksomhed, mens de strømliner det udbrændthedsforårsagende elektroniske papirarbejde, læger skal udfylde for at blive betalt for at levere pleje.

AI-drevne billeddiagnostiske systemer sikrer, at patienter får den nødvendige opfølgende behandling. Radiologer på flere hospitaler bruger kunstig intelligens og naturlig sprogbehandling til automatisk at identificere og udtrække anbefalinger til opfølgningsundersøgelser for formodede kræftformer og andre sygdomme set på røntgenbilleder og andre billeder. Den samme teknologi kan hjælpe med at håndtere en bølge af efterslæbte og opfølgende billeddannelser, efterhånden som covid-19-restriktioner letter, hvilket giver udbydere mulighed for at planlægge procedurer, begynde indtægtsgenvinding og opretholde patientbehandling.

Efterhånden som den digitale transformation accelererer, må vi løse de udfordringer, vi står over for i dag, samtidig med at vi forbereder os på en overflod af fremtidige muligheder. Kernen i denne indsats er forpligtelsen til at opbygge tillid og dataforvaltning i vores AI-udviklingsprojekter og -organisationer.

skjule