211service.com
Løgnedetektorer har altid været mistænkelige. AI har gjort problemet værre.
Nicholas Ortega
Inden polygrafen erklærede ham skyldig, arbejdede Emmanuel Mervilus for et madolieselskab i havnen i Newark, New Jersey. Han tjente 12 dollars i timen med flyttekasser, men det var ikke nok. Hans bror og søster var for unge til at arbejde, og hans mor kæmpede en dyr kamp mod kræften. Hans chef i havnen havde dog fortalt ham, at han var den næste i køen for forfremmelse til en teknikerstilling, som ville komme med en raise til $25 i timen.
Mervilus ventede stadig på denne kampagne den 19. oktober 2006, da han og en ven stoppede ved en Dunkin' Donuts i det nærliggende Elizabeth, New Jersey. Et par minutter senere, da de gik ned ad gaden, henvendte to politibetjente sig til dem og anklagede dem for at have røvet en mand med knivspids et par minutter tidligere, uden for en nærliggende togstation.
Offeret havde identificeret Mervilus og hans ven på afstand. Desperat efter at bevise sin uskyld tilbød Mervilus at tage en polygraftest. Politiet var enig, men i dagene lige før testen døde Mervilus' mor. Han var fortvivlet og ængstelig, da politiet spændte ham fast til enheden. Han fejlede testen, bad om at tage den igen og fik afslag.
Efter at Mervilus fastholdt sin uskyldsindsigelse, gik hans sag for retten. Løjtnanten, der havde administreret polygrafen, vidnede i retten, at apparatet var en pålidelig sandhedsindikator. Han havde aldrig i sin karriere, sagde han, set et tilfælde, hvor nogen viste tegn på bedrag, og [det kom senere ud af], at de var sandfærdige. En jury dømte Mervilus – påvirket, fandt en appeldomstol senere, af malplaceret tro på polygrafen. Dommeren idømte ham 11 års fængsel.
Troen på, at bedrag kan opdages ved at analysere den menneskelige krop, er blevet forankret i det moderne liv. På trods af adskillige undersøgelser, der sætter spørgsmålstegn ved gyldigheden af polygrafen, udføres mere end 2,5 millioner screeninger med enheden hvert år, og polygraftests er en industri på 2 milliarder dollars. Amerikanske føderale regeringsorganer, herunder justitsministeriet, forsvarsministeriet og CIA, bruger alle enheden, når de screener potentielle medarbejdere. Ifølge tal fra 2007 fra Justitsministeriet brugte mere end tre fjerdedele af alle bypoliti og sheriffafdelinger også løgnedetektorer til at screene ansættelser.
Men polygrafmaskiner er stadig for langsomme og besværlige til at bruge ved grænseovergange, i lufthavne eller på store grupper af mennesker. Som følge heraf er en ny generation af løgnedetektorer baseret på kunstig intelligens dukket op i det seneste årti. Deres tilhængere hævder, at de både er hurtigere og mere nøjagtige end polygrafer.
I virkeligheden er det psykologiske arbejde, der ligger til grund for disse nye AI-systemer, endnu mere spinkelt end den forskning, der ligger til grund for polygrafen. Der er ringe beviser for, at de resultater, de producerer, kan stole på. Ikke desto mindre bringer den modernitets finér, som AI giver dem, disse systemer ind i indstillinger, som polygrafen ikke har været i stand til at trænge igennem: grænseovergange, private jobsamtaler, lånescreeninger og krav om forsikringssvindel. Virksomheder og regeringer er begyndt at stole på dem for at træffe beslutninger om troværdigheden af kunder, medarbejdere, borgere, immigranter og internationale besøgende. Men hvad nu hvis løgn er for kompleks til, at enhver maskine kan identificere pålideligt, uanset hvor avanceret dens algoritme er?
Inkvisitorer i det gamle Kina bad formodede løgnere om at putte ris i munden for at se, om de savler. Det Romernes bedrifter , en middelalderlig antologi af moralske fabler, fortæller historien om en soldat, der fik sin ekspedient til at måle sin kones puls for at finde ud af, om hun var utro.
En engelsk oversættelse af Romernes bedrifter , eller Deeds of the Romans, en samling historier, der oprindeligt blev udgivet på latin i slutningen af det 13. eller begyndelsen af det 14. århundrede. Wikimedia commons
Da USA gik ind i Første Verdenskrig, var William Marston, en forsker ved Harvard, banebrydende for brugen af maskiner, der målte blodtryk for at forsøge at fastslå bedrag. Et par år senere, inspireret af Marstons arbejde, udviklede John Augustus Larson, en politibetjent, der netop havde afsluttet sin ph.d. i fysiologi ved University of California, Berkeley, en maskine, han kaldte et cardio-pneumo psykogram, som leverede kontinuerlige aflæsninger af en forsøgspersonens blodtryk, puls og vejrtrækningsfrekvens. Disse aflæsninger, hævdede Larson, var en endnu bedre proxy for bedrag end blodtryk alene.
Larson brugte først maskinen til at efterforske et tyveri i en kvindes sovesal i Berkeley, og inden for et år var den blevet brugt til at dømme en mand i San Francisco, der var anklaget for at have myrdet en præst. I 1930'erne solgte en af Larsons protegéer en bærbar version til politiafdelinger rundt om i landet og tilføjede en sensor, der målte ændringer i galvanisk hudrespons - jo mere et forsøgsperson svedte, jo mere ledende ville huden være. I 1970'erne tog millioner af arbejdstagere i den private sektor regelmæssige polygrafprøver på foranledning af deres arbejdsgivere.
De fleste polygraftests i dag har den samme grundlæggende struktur som Larsons: Undersøgeren stiller en række spørgsmål for at måle et forsøgspersons normale fysiologiske tilstand, mens maskinen transskriberer disse målinger som bølgeformlinjer på en side eller en skærm. Undersøgeren leder derefter efter pludselige stigninger eller fald i disse niveauer, efterhånden som forsøgspersonen besvarer spørgsmål om mistanke om forbrydelser eller følelser.
Men psykologer og neurovidenskabsmænd har kritiseret polygrafen næsten siden det øjeblik, hvor Larson afslørede sin opfindelse for offentligheden. Mens nogle løgnere kan opleve ændringer i hjertefrekvens eller blodtryk, er der kun få beviser for, at sådanne ændringer konsekvent korrelerer med bedrag. Mange uskyldige mennesker bliver nervøse under afhøring, og praktiserede løgnere kan undertrykke eller fremkalde ændringer i deres krop for at narre testen. Polygrafer kan også blive slået ved bide sig i tungen , træde på et takke, eller tænker på sin værste frygt . Enhederne risikerer altid at opfange forvirrende variabler selv i kontrollerede laboratorieeksperimenter, og i det virkelige liv er de stadig mindre pålidelige: da kriminelle, der slog testen, næsten aldrig fortæller politiet, at de var skyldige, og da uskyldige mistænkte ofte giver falske tilståelser efter at have fejlet. test, er der ingen måde at sige, hvor godt de faktisk fungerede.
Leonarde Keeler, en protégé af polygrafopfinderen John Larson, administrerede testen til Bruno Hauptmann, som blev arresteret, dømt og henrettet for kidnapningen af Charles Augustus Lindbergh Jr. Hauptmann fastholdt sin uskyld indtil sin død. Offentligt domæne
På grund af disse begrænsninger har polygraftests længe været uantagelige i de fleste amerikanske domstole, medmindre begge parter er indforstået med deres medtagelse. Føderal lov har udelukket private arbejdsgivere fra at polygrafere deres ansatte siden 1988 (med undtagelser for dem i følsomme jobs, såsom bevæbnede vagter eller farmaceutiske distributører, og for nogle ansatte, der er mistænkt for tyveri eller bedrageri). American Psychological Association advarer, De fleste psykologer er enige om, at der er meget få beviser for, at polygraftests nøjagtigt kan detektere løgne, og en rapport fra 2003 fra National Academy of Sciences, der genlyder tidligere regeringsforskning, fandt berømt, at enheden opdager løgnere med hastigheder, der er langt over tilfældighederne , skønt langt under perfektion; rapportens hovedforfatter sagde dengang, at national sikkerhed er for vigtig til at overlades til et så sløvt instrument.
Men instrumentet behøver måske ikke være så sløvt. Det løfter et voksende antal virksomheder, der er ivrige efter at sælge løgnedetektionsteknologi til både regeringer og kommercielle industrier. Måske, siger de, kan visse komplekse mønstre af adfærds-tics signalere løgn mere pålideligt end blot en forhøjet puls eller blodtryk. Og måske kunne en sofistikeret algoritme spotte disse mønstre.
Fra 1969 til 1981 forgreb en seriemorder med tilnavnet Yorkshire Ripper unge kvinder i det nordlige England, dræbte mindst 13 og forsøgte at dræbe mindst syv andre. Politiet interviewede og løslod ham ni forskellige gange, mens hans drabstog fortsatte. Hans sidste offer var Jacqueline Hill, en 20-årig studerende ved University of Leeds, som blev dræbt i november 1980. Et par måneder senere fangede politiet ham endelig, da han forberedte sig på at dræbe en prostitueret i det nærliggende Sheffield.
Da Janet Rothwell ankom til University of Leeds i efteråret 1980, boede hun på sovesalen ved siden af Hill's. Hun fandt sig selv hjemsøgt af Hills mord.
Hun nåede bussen fra universitetsbiblioteket omtrent på samme tid som mig, sagde Rothwell, og hun blev myrdet, efter hun stod af bussen. Rothwell erfarede senere, hvor lang tid det tog at fange morderen. Jeg undrede mig, huskede hun, om en computer kunne markere en slags inkongruens i adfærd for at advare politiet?
Rothwell fortsatte til sidst med at studere ved Manchester Metropolitan University (MMU) i slutningen af 1990'erne. Hun mødte Zuhair Bandar, en irakisk-britisk underviser, der arbejder i datalogiafdelingen. Bandar havde for nylig haft et eureka-øjeblik, da et marketingfirma havde bedt ham om at skabe en rudimentær enhed til at måle forbrugernes interesse for produkter, de så på en skærm.
Et FBI-billede af en kvinde, der tager en polygraf. Federal Bureau of Investigation
De ville give kunden en håndholdt enhed, sagde Bandar, og hvis de godkender, trykker de 1; hvis de ikke kan lide det, trykker de på 2. Jeg tænkte, hvorfor har vi brug for håndholdte enheder, hvis der allerede er udtryk i deres ansigter? Bandar bad Rothwell om at blive på MMU efter sin master for at forfølge en ph.d. og hjælpe ham med at designe software, der kunne analysere ansigter for at udtrække information. Bedrageri, regnede de med, var ikke mindre sporbar end glæde eller vrede. Alle ville skabe en form for inkongruens - adfærdsmønstre, hvad enten de er verbale eller nonverbale, som en computer kan skelne.
Rothwell trænede et neuralt netværk i begyndelsen af 2000'erne til at spore ansigtsbevægelser som at blinke og rødme, og fodrede derefter computeren med et par dusin klip af mennesker, der besvarede det samme sæt spørgsmål ærligt og uærligt. For at bestemme, hvad løgnerne havde til fælles, undersøgte computeren en persons ansigtsbevægelser, forholdet mellem disse bevægelser og forholdet mellem disse forhold, og kom frem til en teori, der var for kompleks til at formulere på normalt sprog. Når først det er blevet trænet på denne måde, kunne systemet bruge sin viden til at klassificere nye emner som vildledende eller sandfærdige ved at analysere billede-for-billede ændringer i deres udtryk.
I en undersøgelse fra 2006 blev systemet, kaldet Silent Talker, lavet til at gætte, om et emne løj eller fortalte sandheden. Det opnåede aldrig mere end 80 % nøjagtighed, mens Rothwell arbejdede på det – det har heller ikke gjort det væsentligt bedre i noget, som forskergruppen har offentliggjort siden. Rothwell fortalte mig også, at det gik helt i stykker, hvis en deltager havde briller på, og hun påpegede, at du skal huske, at lysforholdene var de samme, og at interviewene var baseret på det iscenesatte tyveri. Men selv i de tidlige stadier, husker Rothwell, var Bandar opsat på at have et kommercielt produkt; han og en kollega præsenterede hende engang for en video af en kvinde, der var mistænkt for at være sin mand utro og bad hende om at få Silent Talker til at analysere den, ligesom i Romernes bedrifter .
Rothwell havde sine forbehold. Jeg kunne se, at softwaren, hvis den virkede, potentielt kunne være påtrængende, sagde hun. Jeg tror ikke, at noget system nogensinde kunne være 100%, og hvis [systemet] tager fejl, kan risikoen for forhold og liv være katastrofal. Hun forlod universitetet i 2006; efter uddannelse som audiolog fandt hun et arbejde på et hospital på Isle of Jersey, hvor hun stadig bor.
MMU udsendte en pressemeddelelse i 2003, der udråbte teknologien som en ny opfindelse, der ville gøre polygrafen forældet. Jeg var lidt chokeret, sagde Rothwell, fordi jeg følte, det var for tidligt.
Den amerikanske regering foretog adskillige indtog i teknologi til bedrageri-detektion i de første år efter 9/11, hvor Department of Homeland Security (DHS), Department of Defense (DoD) og National Science Foundation alle brugte millioner af dollars på sådan forskning . Disse agenturer finansierede oprettelsen af en kiosk kaldet AVATAR ved University of Arizona. AVATAR, som analyserede ansigtsudtryk, kropssprog og folks stemmer for at tildele forsøgspersoner en 'troværdighedsscore', blev testet i amerikanske lufthavne. I Israel hjalp DHS i mellemtiden med at finansiere en startup kaldet WeCU ('vi ser dig), som solgte en screeningskiosk, der ville udløse fysiologiske reaktioner blandt dem, der skjuler noget, ifølge en 2010 artikel i Fast Company . (Selskabet er siden lukket.)
Bandar begyndte at forsøge at kommercialisere teknologien. Sammen med to af sine elever, Jim O'Shea og Keeley Crockett, indarbejdede han Silent Talker som et firma og begyndte at søge kunder, herunder både politiafdelinger og private virksomheder, for dets psykologiske profileringsteknologi. Silent Talker var en af de første AI-løgnedetektorer, der kom på markedet. Ifølge virksomheden blev teknologi afledt af Silent Talker sidste år brugt som en del af iBorderCtrl, et EU-finansieret forskningsinitiativ, der testede systemet på frivillige ved grænserne i Grækenland, Ungarn og Letland. Bandar siger, at virksomheden nu er i forhandlinger om at sælge teknologien til advokatfirmaer, banker og forsikringsselskaber, hvilket bringer tests ind i arbejdspladsinterviews og svindelscreeninger.
Bandar og O'Shea brugte år på at tilpasse kernealgoritmen til brug i forskellige indstillinger. De forsøgte at markedsføre det til politiafdelinger i Manchester og Liverpools storbyområder. Vi taler uformelt med meget højtstående personer, fortalte virksomheden til den britiske publikation Ingeniøren i 2003 og bemærkede, at deres mål var at prøve dette i rigtige interviews. En hvidbog fra 2013 O'Shea offentliggjort på hans hjemmeside foreslog, at Silent Talker kunne bruges til at beskytte vores styrker på oversøisk udsendelse mod Green-on-Blue ('Insider') angreb. (Udtrykket grøn-på-blå bruges almindeligvis til at henvise til angreb afghanske soldater i uniform foretager mod deres tidligere allierede.)
Holdet offentliggjorde også eksperimentelle resultater, der viser, hvordan Silent Talker kunne bruges til at opdage forståelse såvel som detektion. I en undersøgelse fra 2012, den første til at vise Silent Talker-systemet, der blev brugt i marken, arbejdede holdet sammen med en sundheds-ngo i Tanzania for at registrere ansigtsudtryk af 80 kvinder, mens de tog onlinekurser om HIV-behandling og kondombrug. Ideen var at afgøre, om patienterne forstod den behandling, de ville få - som introduktionen til undersøgelsen bemærker, er vurderingen af deltagernes forståelse under den informerede samtykkeproces stadig et kritisk område af bekymring. Da holdet krydsreferencede AI's gæt om, hvorvidt kvinderne forstod forelæsningerne med deres score på korte post-forelæsningseksamener, fandt de ud af, at det var 80 % nøjagtigt til at forudsige, hvem der ville bestå, og hvem der ville fejle.
Algoritmen, der blev trænet i Manchester, ville, ifølge pressemeddelelsen, levere mere effektive og sikre landegrænseovergange og bidrage til at forebygge kriminalitet og terrorisme.
Tanzania-eksperimentet var det, der førte til Silent Talkers optagelse i iBorderCtrl. I 2015 sendte Athos Antoniades, en af arrangørerne af det begyndende konsortium, en e-mail til O'Shea og spurgte, om Silent Talker-teamet ønskede at slutte sig til en gruppe virksomheder og politistyrker, der byder på et EU-tilskud. I de foregående år havde voksende biltrafik ind i EU overvældet agenter ved unionens grænselande, og som et resultat tilbød EU 4,5 millioner euro (5 millioner dollars) til enhver institution, der kunne levere mere effektive og sikre landegrænseovergange ... og dermed bidrage til forebyggelse af kriminalitet og terrorisme. Antoniades mente, at Silent Talker kunne spille en afgørende rolle.
Da projektet endelig annoncerede en offentlig pilot i oktober 2018, var Europa-Kommissionen hurtig til at præsentere succeshistorien om systemets unikke tilgang til afsløring af bedrag. i en pressemeddelelse , der forklarer, at teknologien analyserer rejsendes mikrogestik for at finde ud af, om interviewpersonen lyver. Algoritmen trænet i Manchester ville, fortsatte pressemeddelelsen, levere mere effektive og sikre landegrænseovergange og bidrage til at forebygge kriminalitet og terrorisme.
O'Shea fortalte mig, at programmets underliggende algoritme kunne bruges i en række andre indstillinger - annoncering, analyse af forsikringskrav, screening af jobansøgere og medarbejdervurdering. Hans overvældende tro på dens visdom var svær for mig at dele, men selv da han og jeg talte over telefonen, screenede Silent Talker allerede frivillige ved EU's grænseovergange; virksomheden var for nylig lanceret som en virksomhed i januar 2019. Så jeg besluttede at tage til Manchester for at se det selv.
Silent Talkers kontorer ligger omkring en kilometer væk fra Manchester Metropolitan University, hvor O'Shea nu er universitetslektor. Han har overtaget den daglige udvikling af teknologien fra Bandar. Virksomheden er baseret på en blink-og-du-vil-gå-glip-det murstenskontorpark i et boligkvarter, nede ad gaden fra en kebabrestaurant og overfor en fodboldbane. Indenfor er Silent Talkers kontor et enkeltværelse med et par computere, skriveborde med dokumentmapper på og forklarende plakater om teknologien fra begyndelsen af 2000'erne.
Da jeg besøgte virksomhedens kontor i september, satte jeg mig ned med O’Shea og Bandar i et mødelokale nede ad gangen. O'Shea var streng, men en smule krøllet, skaldet bortset fra nogle få totter hår og et Van Dyke-skæg. Han startede samtalen med at insistere på, at vi ikke taler om iBorderCtrl-projektet, og kaldte senere dets kritikere for misinformerede. Han talte om kraften i systemets AI-ramme i lange, degressive tangenter og citerede af og til computerpioneren Alan Turing eller sprogfilosoffen John Searle.
Maskiner og mennesker har begge intentionalitet - overbevisninger, ønsker og hensigter om genstande og tingenes tilstand i verden, sagde han og forsvarede systemets afhængighed af en algoritme. Derfor kræver komplicerede applikationer, at du giver gensidig vægt til begges ideer og hensigter.
O'Shea demonstrerede systemet ved at få det til at analysere en video af en mand, der besvarer spørgsmål om, hvorvidt han stjal $50 fra en kasse. Programmet lagde en gul firkant rundt om mandens ansigt og to mindre firkanter omkring hans øjne. Mens han talte, flyttede en nål i hjørnet af skærmen fra grøn til rød, når han gav falske svar, og tilbage til en moderat orange, når han ikke talte. Da interviewet var slut, genererede softwaren en graf, der plottede sandsynligheden for bedrag i forhold til tiden. I teorien viste dette sig, når han startede og holdt op med at lyve.
Mens han talte, flyttede en nål i hjørnet af skærmen fra grøn til rød, når han gav falske svar, og tilbage til en moderat orange, når han ikke talte.
Systemet kan køre på en traditionel bærbar computer, siger O'Shea, og brugere betaler omkring $10 pr. minut af analyseret video. O'Shea fortalte mig, at softwaren foretager en foreløbig lokal behandling af videoen, sender krypterede data til en server, hvor de analyseres yderligere, og derefter sender resultaterne tilbage: brugeren ser en graf over sandsynligheden for bedrag overlejret i bunden af videoen.
Ifølge O'Shea overvåger systemet omkring 40 fysiske kanaler på en deltagers krop - alt fra den hastighed, hvormed man blinker, til vinklen på ens hoved. Det bringer til hvert nyt ansigt en teori om bedrag, som det har udviklet ved at se et træningsdatasæt af løgnere og sandhedssigere. Ved at måle et emnes ansigtsbevægelser og holdningsændringer mange gange i sekundet, leder systemet efter bevægelsesmønstre, der matcher dem, der deles af løgnerne i træningsdataene. Disse mønstre er ikke så enkle som øjne, der svirper mod loftet eller et hoved, der vipper mod venstre. De er mere som mønstre af mønstre, mangefacetterede forhold mellem forskellige bevægelser, for komplekse til at et menneske kan spore - et typisk træk ved maskinlæringssystemer.
AI's opgave er at bestemme, hvilke slags bevægelsesmønstre der kan forbindes med bedrag. Psykologer siger ofte, at du skal have en form for model for, hvordan et system fungerer, fortalte O'Shea mig, men vi har ikke en fungerende model, og vi har ikke brug for en. Vi lod AI finde ud af det. Han siger dog også, at begrundelsen for kanalerne i ansigtet kommer fra akademisk litteratur om bedragets psykologi. I en 2018 papir om Silent Talker , siger dets skabere, at deres software antager, at visse mentale tilstande forbundet med vildledende adfærd vil drive en interviewpersons [ikke-verbale adfærd], når de bedrager. Blandt disse adfærdsmønstre er kognitiv belastning, eller den ekstra mentale energi, det angiveligt kræver at lyve, og duping-glæde eller den fornøjelse, en person angiveligt får ved at fortælle en vellykket løgn.
Paul Ekman, en psykolog, hvis teori om 'mikro-udtryk' er meget omstridt, har konsulteret for utallige amerikanske regeringsorganer. Wikimedia / Momopuppycat
Men Ewout Meijer, professor i psykologi ved Maastricht University i Holland, siger, at grunden til at tro, at sådan adfærd er universel, i bedste fald er ustabil. Ideen om, at man kan finde afslørende adfærdslækager i ansigtet, har rødder i Paul Ekmans arbejde, en amerikansk psykolog, der i 1980'erne gik ind for en nu berømt teori om mikroudtryk eller ufrivillige ansigtsbevægelser, der er for små til at kontrollere. Ekmans forskning gjorde ham til en bestsellerforfatter og inspirerede tv-krimidramaet Lyv for mig . Han konsulterede for utallige amerikanske regeringsagenturer, herunder DHS og DARPA. Med henvisning til national sikkerhed har han holdt forskningsdata hemmelige. Dette har ført til en kontroversiel debat om, hvorvidt mikroudtryk overhovedet har nogen betydning.
Silent Talker's AI sporer alle former for ansigtsbevægelser, ikke Ekman-specifikke mikroudtryk. Vi dekomponerede disse signaler på højt niveau i vores eget sæt af mikrobevægelser og trænede AI-komponenter til at rekombinere dem til meningsfulde vejledende mønstre, skrev en talsmand for virksomheden i en e-mail. O'Shea siger, at dette gør det muligt for systemet at opdage vildledende adfærd, selv når et motiv bare kigger sig omkring eller flytter sig i en stol.
Meget afhænger af, om du har et teknologisk spørgsmål eller et psykologisk spørgsmål, siger Meijer og advarer om, at O'Shea og hans team måske kigger efter teknologi for at få svar på psykologiske spørgsmål om bedrageri. Et AI-system kan udkonkurrere folk med at opdage [ansigtsudtryk], men selv hvis det var tilfældet, fortæller det dig stadig ikke, om du kan udlede fra dem, om nogen er vildledende … bedrag er en psykologisk konstruktion. Ikke alene er der ingen konsensus om hvilken udtryk hænger sammen med bedrag, tilføjer Meijer; der er ikke engang konsensus om om de gør. I en e-mail sagde virksomheden, at sådanne kritikker ikke er relevante for Silent Talker, og at den anvendte statistik ikke er passende.
TV-dramaet Lyv for mig var delvist baseret på Ekmans mikro-ekspressionsteori. Fox studier
Ydermere påpeger Meijer, at algoritmen stadig vil være ubrugelig ved grænseovergange eller i jobsamtaler, medmindre den er blevet trænet i et datasæt så forskelligartet som det, den vil evaluere i det virkelige liv. Forskning viser, at ansigtsgenkendelsesalgoritmer er dårligere til at genkende minoriteter, når de er blevet trænet på sæt af overvejende hvide ansigter, noget O'Shea selv indrømmer. En talsmand for Silent Talker skrev i en e-mail: Vi udførte flere eksperimenter med mindre varierende stikprøvestørrelser. Disse summer op til hundredvis. Nogle af disse er akademiske og er blevet offentliggjort [sic], nogle er kommercielle og er fortrolige.
Al den offentliggjorte forskning, der underbygger Silent Talkers nøjagtighed, stammer dog fra små og delvise datasæt: i 2018-avisen for eksempel indeholdt en træningspopulation på 32 personer dobbelt så mange mænd som kvinder og kun 10 deltagere af asiatisk/arabisk afstamning, med ingen sorte eller spansktalende emner. Mens softwaren i øjeblikket har forskellige indstillinger til at analysere mænd og kvinder, sagde O'Shea, at han ikke var sikker på, om den havde brug for indstillinger for etnisk baggrund eller alder.
Efter at pilotprojektet for iBorderCtrl blev annonceret i 2018, fordømte aktivister og politikere programmet som en hidtil uset, orwellsk udvidelse af overvågningsstaten. Sophie in 't Veld, et hollandsk medlem af Europa-Parlamentet og leder af partiet centrum-venstre Demokrater 66, sagde i et brev til Europa-Kommissionen, at Silent Talker-systemet kan krænke de grundlæggende rettigheder for mange grænseoverskridende rejsende, og at organisationer som Privacy International fordømte det som en del af en bredere tendens til at bruge uigennemsigtige og ofte mangelfulde automatiserede systemer til at bedømme, vurdere og klassificere mennesker. Oppositionen så ud til at overraske iBorderCtrl-konsortiet: Selvom Europa-Kommissionen oprindeligt hævdede, at iBorderCtrl ville udvikle et system til at fremskynde grænseoverskridelser, siger en talsmand nu, at programmet var et rent teoretisk forskningsprojekt. Antoniades fortalte en hollandsk avis i slutningen af 2018, at bedrageri-detektionssystemet måske i sidste ende ikke kommer med i designet, men da dette blev skrevet, udråbte Silent Talker stadig sin deltagelse i iBorderCtrl på sin hjemmeside .
Hvor ofte kritikere som Wilde dog afkræfter det, vil drømmen om en perfekt løgnedetektor bare ikke dø, især når den bliver oversvømmet af AI.
Silent Talker er en ny version af det gamle bedrageri, mener Vera Wilde, en amerikansk akademiker og privatlivsaktivist, der bor i Berlin, og som var med til at starte en kampagne mod iBorderCtrl. På nogle måder er det samme svindel, men med værre videnskab. I en polygraftest leder en undersøger efter fysiologiske hændelser, der menes at være korreleret med bedrag; i et AI-system lader eksaminatorer computeren selv finde ud af sammenhængene. Når O’Shea siger, at han ikke har en teori, tager han fejl, fortsætter hun. Han har en teori. Det er bare en dårlig teori.
Hvor ofte kritikere som Wilde dog afkræfter det, vil drømmen om en perfekt løgnedetektor bare ikke dø, især når den bliver oversvømmet af AI. Efter at DHS brugte millioner af dollars på at finansiere bedrageriforskning på universiteter i 2000'erne, forsøgte det at skabe sin egen version af en adfærdsanalyseteknologi. Dette system, kaldet Future Attribute Screening Technology (FAST), havde til formål at bruge AI til at lede efter kriminelle tendenser i et individs øjen- og kropsbevægelser. (En tidlig version krævede, at interviewpersonerne stod på et Wii Fit-balancebræt for at måle ændringer i kropsholdning.) Tre forskere, der talte off the record for at diskutere klassificerede projekter, sagde, at programmet aldrig kom i gang – der var for meget uenighed i afdelingen over om man skal bruge Ekmans mikroudtryk som rettesnor for adfærdsanalyse. Afdelingen afviklede programmet i 2011.
På trods af fejlen i FAST viser DHS stadig interesse for løgnedetektionsteknikker. Sidste år, for eksempel, tildelte det en kontrakt på $110.000 til et menneskelige ressourcefirma for at træne sine officerer i at opdage bedrag og fremkalde respons gennem adfærdsanalyse. Andre dele af regeringen kaster i mellemtiden stadig deres vægt bag AI-løsninger. Army Research Laboratory (ARL) har i øjeblikket en kontrakt med Rutgers University om at skabe et AI-program til at opdage løgne i salonspillet Mafia, som en del af et større forsøg på at skabe noget som et Google Glass, der advarer os om et par lommetyve i den overfyldte basar, ifølge Purush Iyer, ARL-divisionschefen med ansvar for projektet. Nemesysco, et israelsk firma, der sælger AI-stemmeanalysesoftware, fortalte mig, at dets teknologi bruges af politiafdelinger i New York og sheriffer i Midtvesten til at interviewe mistænkte såvel som af inkassocentre for at måle skyldneres følelser. telefonopkald.
Den umiddelbare og potentielt farlige fremtid for AI-løgnedetektion er ikke hos regeringer, men på det private marked. Politikere, der støtter initiativer som iBorderCtrl, skal i sidste ende stå til ansvar over for vælgerne, og de fleste AI-løgnedetektorer kan blive udelukket fra retten under den samme juridiske præcedens, der styrer polygrafen. Private virksomheder står imidlertid over for færre begrænsninger i at bruge sådan teknologi til at screene jobansøgere og potentielle kunder. Silent Talker er en af flere virksomheder, der hævder at tilbyde en mere objektiv måde at opdage unormal eller vildledende adfærd, hvilket giver kunderne en risikoanalysemetode, der går ud over kreditscore og profiler på sociale medier.
Softwaren genererer et stort antal falske positiver.
Et Montana-baseret firma kaldet Neuro-ID udfører AI-analyse af musebevægelser og tastetryk for at hjælpe banker og forsikringsselskaber med at vurdere svindelrisiko, og tildeler låneansøgere en tillidsscore på 1 til 100. I en video viste virksomheden mig, da en kunde lavede en online låneansøgning tager ekstra tid at udfylde feltet for husstandsindkomst, flytte musen rundt, mens du gør det, det indregner systemet i dets troværdighedsscore. Det er baseret på forskning fra virksomhedens stiftende videnskabsmænd, der hævder at vise en sammenhæng mellem musebevægelser og følelsesmæssig ophidselse: et papir, der hævder, at vildledende kan øge den normaliserede bevægelsesafstand, mindske bevægelseshastigheden, øge responstiden og resultatet. i flere venstreklik. Virksomhedens egne test afslører dog, at softwaren genererer et stort antal falske positiver: I et casestudie, hvor Neuro-ID behandlede 20.000 ansøgninger til et e-handelswebsted, var det færre end halvdelen af de ansøgere, der fik de laveste score (5 til 10) viste sig at være svigagtig, og kun 10 % af dem, der fik score fra 20 til 30, repræsenterede en svindelrisiko. Efter virksomhedens egen indrømmelse markerer softwaren ansøgere, der kan vise sig at være uskyldige, og lader virksomheden bruge disse oplysninger til at følge op, som den vil. Der er ikke sådan noget som adfærdsbaseret analyse, der er 100 % nøjagtig, fortalte en talsmand til mig. Det, vi anbefaler, er, at du bruger dette i kombination med andre oplysninger om ansøgere for at træffe bedre beslutninger og fange [svigagtige klienter] mere effektivt.
Converus, en Utah-baseret startup, sælger software kaldet EyeDetect, der måler udvidelsen af et emnes elever under et interview for at detektere kognitiv belastning. Ligesom Silent Talker tager værktøjet udgangspunkt i, at det at lyve er mere kognitivt krævende end at fortælle sandheden. Ifølge en 2018 artikel i Wired har politiafdelinger i Salt Lake City og Columbus, Georgia, brugt EyeDetect til at screene jobansøgere. Converus fortalte også Wired, at McDonald's, Best Western, Sheraton, IHOP og FedEx brugte sin software i Panama og Guatemala på måder, der ville have været ulovlige i USA.
I en erklæring, det gav mig, citerede virksomheden til få undersøgelser der viser, at EyeDetect opnår omkring 85 % nøjagtighed i at identificere løgnere og sandhedssigere med prøver på op til 150 personer. Virksomhedsdirektør Todd Mickelsen siger, at hans firmas algoritme er blevet trænet i hundredtusindvis af interviews. Men Charles Honts, en professor i psykologi ved Boise State University, som også sidder i Converus' rådgivende udvalg, sagde, at disse resultater ikke beviste, at man kunne stole på EyeDetect i feltinterviews. Jeg synes, at EyeDetect-systemet er rigtig interessant, men på den anden side bruger jeg det ikke, fortalte han. Jeg tror, at databasen stadig er forholdsvis lille, og den kommer for det meste fra ét laboratorium. Indtil det er udvidet, og andre mennesker har kopieret det, ville jeg være tilbageholdende med at bruge det i marken.
Forskere fra University of Arizona, der udviklede AVATAR-systemet, har også startet et privat firma, Discern Science, for at markedsføre deres egen vildledende teknologi. Discern blev lanceret sidste år og sælger en seks fod høj kiosk, der ligner den originale AVATAR; ifølge en artikel i Financial Times har virksomheden indgået en joint venture-aftale med en partner i luftfartsindustrien om at sælge værktøjet til lufthavne. Systemet foranstaltninger ansigtsbevægelser og stemmestress for usynligt at indsamle information fra emnet på en samtaleafstand ifølge reklamemateriale. Ligesom Silent Talker og Converus hævder Discern, at teknologien pålideligt kan detektere omkring 85 % af løgnere og sandhedssigere, men igen, dens resultater er aldrig blevet gentaget uafhængigt. Mindst et af de input, kiosken bruger, har været gentagne gange vist at være utroværdig . (Honts bemærkede endvidere, at der næsten ikke er nogen støtte til ansigtsbevægelsesanalyse som AVATAR's og Silent Talker's - der har været så mange fejl at replikere der, sagde han.)
Enhver, der fortæller dig, at de har en enhed, der er en direkte løgnedetektor, er en charlatan.
Da de blev spurgt om den videnskabelige opbakning til virksomhedens kiosk, understregede Discern-forsker Judee Burgoon, at de blot foretager vurderinger, ikke bindende domme om sandhed og løgn. Systemer som AVATAR og Silent Talker, sagde hun, kan ikke direkte måle bedrag, og tilføjer, at enhver, der fortæller dig, at de har en enhed, der er en direkte løgnedetektor, er en charlatan. I marketingmateriale præsenterer Discern dog værktøjet som en pålidelig løgnedetektor: virksomhedens hjemmeside påstande at det kan hjælpe med at afsløre skjulte planer, og at dets algoritmer er videnskabeligt bevist til at opdage bedrag hurtigere og mere pålideligt end noget andet alternativ.
Appelretten frafaldt Emmanuel Mervilus' domfældelse i 2011, løsladte ham fra fængslet og beordrede en ny retssag; han havde afsonet mere end tre år af sin straf. Ved den anden retssag, i 2013, drøftede nævningene sig i kun 40 minutter, før de frifandt ham. Var det ikke for polygrafen og den vedholdende tro på dens nøjagtighed, ville han måske aldrig have sat sine ben i en retssal første gang. Mervilus har sagsøgt de politibetjente, der oprindeligt anholdt og afhørte ham, og hævdede, at de krænkede hans ret til retfærdig rettergang ved at bruge polygrafprøver, som de vidste var fejlbehæftede for at sikre en domfældelse. Sagen går videre til en forligskonference den 13. marts.
Selvom den udbredte brug af Silent Talker og systemer som den ikke fører til flere domme over uskyldige mennesker som Mervilus, kan det stadig være med til at skabe en ny form for social shibboleth, der tvinger folk til at gennemgå troværdighedsvurderinger, før de lejer en bil eller tager ud et lån.
I en domstol skal du afgive materielle beviser, som dit hår og dit blod, siger Wilde. Men du har også ret til at tie, ret til ikke at tale imod dig selv. Mervilus valgte at tage polygraftesten ud fra den antagelse, at den ligesom en DNA-test ville vise, at han var uskyldig. Og selvom enheden tog fejl, var det ikke selve maskinen, der sendte ham i fængsel. Det var juryens overbevisning, at testresultaterne var mere troværdige end sagens fakta.
Den grundlæggende forudsætning for AI løgnedetektion er, at løgne er til for at blive set med de rigtige værktøjer. Psykologer ved stadig ikke, hvor gyldig den påstand er, men i mellemtiden kan troen på dens gyldighed være nok til at diskvalificere fortjente ansøgere til job og lån og til at forhindre uskyldige mennesker i at krydse nationale grænser. Løftet om et vindue ind i andres indre liv er for fristende til at gå glip af, selvom ingen kan være sikker på, hvor klart vinduet er.
Det er løftet om tankelæsning, siger Wilde. Du kan se, at det er falsk, men det er det, de sælger.