211service.com
Vores mærkelige adfærd under pandemien roder med AI-modeller
Getty
I ugen 12-18 april var de 10 bedste søgetermer på Amazon.com: toiletpapir, ansigtsmaske, håndsprit, papirhåndklæder, Lysol spray, Clorox servietter, maske, Lysol, masker til bakteriebeskyttelse og N95 maske . Folk søgte ikke bare, de købte også - og i løs vægt. De fleste mennesker, der ledte efter masker, endte med at købe ny Amazon #1 bestseller, ansigtsmaske, pakke med 50 stk .
Da covid-19 ramte, begyndte vi at købe ting, vi aldrig havde købt før. Skiftet var pludseligt: grundpillerne i Amazons top ti - telefoncovers, telefonopladere, Lego - blev slået ud af hitlisterne på få dage. Nozzle, et London-baseret konsulentfirma med speciale i algoritmisk annoncering for Amazon-sælgere, fangede den hurtige ændring i denne simple graf.
Det tog mindre end en uge i slutningen af februar, før de 10 bedste Amazon-søgeudtryk i flere lande var fyldt op med produkter relateret til covid-19. Du kan spore spredningen af pandemien efter, hvad vi købte efter: varerne toppede først i Italien, efterfulgt af Spanien, Frankrig, Canada og USA. Storbritannien og Tyskland halter lidt bagud. Det er en utrolig overgang i løbet af fem dage, siger Rael Cline, Nozzles administrerende direktør. Ringvirkningerne er set på tværs af detailforsyningskæder.
Men de har også påvirket kunstig intelligens, hvilket har forårsaget hikke for de algoritmer, der kører bag kulisserne inden for lagerstyring, afsløring af svindel, markedsføring og meget mere. Maskinlæringsmodeller, der er trænet i normal menneskelig adfærd, oplever nu, at det normale har ændret sig, og nogle fungerer ikke længere, som de burde.
Hvor slem situationen er afhænger af, hvem du taler med. Ifølge Pactera Edge, et globalt AI-konsulentfirma, er automatisering på vej. Andre siger, at de holder et forsigtigt øje med automatiserede systemer, der bare er ved at holde op, og træder ind med en manuel rettelse, når det er nødvendigt.
Det, der er klart, er, at pandemien har afsløret, hvor sammenflettet vores liv er med AI, og afsløret en delikat medafhængighed, hvor ændringer i vores adfærd ændrer, hvordan AI fungerer, og ændringer i, hvordan AI fungerer, ændrer vores adfærd. Dette er også en påmindelse om, at menneskelig involvering i automatiserede systemer fortsat er nøglen. Du kan aldrig sidde og glemme, når du er i så ekstraordinære omstændigheder, siger Cline.
Mere om coronavirus
Vores vigtigste dækning af covid-19 er gratis, herunder:
Hvad er flokimmunitet?
Hvordan virker coronavirus?
Hvad er de potentielle behandlinger?
Hvilke lægemidler virker bedst?
Hvad er den rigtige måde at gøre social distancering på?
Andre ofte stillede spørgsmål om coronavirus
---
Nyhedsbrev: Coronavirus Tech Report
Zoom-show: Radio Corona
Se også:
Al vores covid-19 dækning
Covid-19 særnummeret
Klik venligst her for at abonnere og støtte vores non-profit journalistik.
Maskinlæringsmodeller er designet til at reagere på ændringer. Men de fleste er også skrøbelige; de klarer sig dårligt, når inputdata afviger for meget fra de data, de blev trænet på. Det er en fejl at antage, at du kan opsætte et AI-system og gå væk, siger Rajeev Sharma, global vicepræsident hos Pactera Edge: AI er en levende, åndbar motor.
Sharma har talt med flere virksomheder, der kæmper med egensindig AI. En virksomhed, der leverer saucer og krydderier til detailhandlere i Indien, havde brug for hjælp til at rette sit automatiserede lagerstyringssystem, da bulkordrer brød dets forudsigelige algoritmer. Systemets salgsprognoser, som virksomheden stolede på for at genbestille lager, stemte ikke længere overens med det, der faktisk blev solgt. Det er aldrig blevet trænet på en spids som denne, så systemet var ude af skygge, siger Sharma.
Et andet firma bruger en AI til at vurdere følelsen af nyhedsartikler og giver daglige investeringsanbefalinger baseret på resultaterne. Men da nyhederne i øjeblikket er dystrere end normalt, kommer rådene til at være meget skæve, siger Sharma. Og et stort streamingfirma, der har fået en pludselig tilstrømning af indholdshungrende abonnenter, har også problemer med sine anbefalingsalgoritmer, siger han. Virksomheden bruger maskinlæring til at foreslå relevant og personligt tilpasset indhold til seerne, så de bliver ved med at vende tilbage. Men den pludselige ændring i abonnentdata gjorde systemets anbefalinger mindre nøjagtige.
Mange af disse problemer med modeller opstår, fordi flere virksomheder køber maskinlæringssystemer, men mangler den interne knowhow, der er nødvendig for at vedligeholde dem. Omskoling af en model kan kræve ekspert menneskelig indgriben.
Den nuværende krise har også vist, at tingene kan blive værre end de temmelig vanille worst-case scenarier, der er inkluderet i træningssæt. Sharma mener, at flere kunstige intelligenser bør trænes, ikke kun på op- og nedture i de sidste par år, men også på freak begivenheder som den store depression i 1930'erne, Black Monday-børskrakket i 1987 og finanskrisen 2007-2008. En pandemi som denne er en perfekt udløser til at bygge bedre maskinlæringsmodeller, siger han.
Alligevel kan du ikke forberede dig på alt. Generelt, hvis et maskinlæringssystem ikke kan se, hvad det forventer at se, så vil du have problemer, siger David Excell, grundlægger af Featurespace, et adfærdsanalysefirma, der bruger AI til at opdage kreditkortsvindel. Måske overraskende har Featurespace ikke set sin AI ramt for dårligt. Folk køber stadig ting på Amazon og abonnerer på Netflix, som de var før, men de køber ikke store billetter eller bruger nye steder, hvilket er den adfærd, der kan vække mistanke. Folks forbrugsadfærd er en sammentrækning af deres gamle vaner, siger Excell.
Firmaets ingeniører behøvede kun at træde til for at tilpasse sig en stigning i folk, der købte haveudstyr og elværktøj, siger Excell. Det er den slags unormale køb i mellemprisen, som algoritmer til registrering af svindel kan opfange. Jeg tror bestemt, der er mere tilsyn, siger Excell. Verden har ændret sig, og dataene har ændret sig.
At få den rigtige tone
London-baserede Phrasee er et andet AI-firma, der er hands-on. Det bruger naturligt sprogbehandling og maskinlæring til at generere e-mail marketing kopi eller Facebook-annoncer på vegne af sine kunder. At sørge for, at den får den rigtige tone, er en del af dens opgave. Dens AI fungerer ved at generere masser af mulige sætninger og derefter køre dem gennem et neuralt netværk, der udvælger de bedste. Men fordi generering af naturlige sprog kan gå meget galt, får Phrasee altid mennesker til at tjekke, hvad der går ind og kommer ud af dets AI.
Da covid-19 ramte, indså Phrasee, at mere følsomhed end normalt kunne være påkrævet og begyndte at filtrere yderligere sprog fra. Virksomheden har forbudt specifikke sætninger, såsom at gå viralt, og tillader ikke sprog, der refererer til modløse aktiviteter, såsom festtøj. Den har endda fjernet emojis, der kan læses som for glade eller for alarmerende. Og det har også droppet udtryk, der kan vække angst, såsom OMG, vær forberedt, fylde op, og spænd dig selv. Folk ønsker ikke, at marketing skal få dem til at føle sig ængstelige og bange - du ved, at denne aftale er ved at løbe ud, presset pres, siger Parry Malm, firmaets administrerende direktør.
Som et mikrokosmos for detailbranchen som helhed kan du dog ikke slå Amazon. Det er også her, nogle af de mest subtile justeringer bag kulisserne bliver lavet. Da Amazon og de 2,5 millioner tredjepartssælgere, den støtter, kæmper for at imødekomme efterspørgslen, foretager den små justeringer af sine algoritmer for at hjælpe med at sprede belastningen.
De fleste Amazon-sælgere er afhængige af Amazon for at udføre deres ordrer. Sælgere opbevarer deres varer i et Amazon-lager, og Amazon tager sig af al logistikken, leverer til folks hjem og håndterer returvarer. Det promoverer derefter sælgere, hvis ordrer det selv opfylder. Hvis du f.eks. søger efter en bestemt vare, såsom en Nintendo Switch, er resultatet, der vises øverst ved siden af den fremtrædende Tilføj i kurv-knap, mere sandsynligt, at det kommer fra en leverandør, der bruger Amazons logistik end en, der gør det. 't.
Men i de sidste par uger har Amazon vendt det rundt, siger Cline. For at lette efterspørgslen på sine egne varehuse, ser dets algoritmer nu ud til at være mere tilbøjelige til at fremme sælgere, der håndterer deres egne leverancer.
Volatile markeder
Denne form for justering ville være svær at udføre uden manuel indgriben. Situationen er så ustabil, siger Cline. Du forsøger at optimere til toiletpapir i sidste uge, og i denne uge vil alle købe puslespil eller træningsudstyr.
De justeringer, Amazon foretager til sine algoritmer, har så en afsmittende effekt på de algoritmer, som sælgere bruger til at beslutte, hvad de skal bruge på online annoncering. Hver gang en webside med annoncer indlæses, finder en superhurtig auktion sted, hvor automatiserede budgivere indbyrdes bestemmer, hvem der skal udfylde hver annonceboks. Det beløb, disse algoritmer beslutter sig for at bruge for en annonce, afhænger af et utal af variabler, men i sidste ende er beslutningen baseret på et estimat af, hvor meget du, øjeæblerne på siden, er værd for dem. Der er masser af måder at forudsige kundeadfærd på, herunder ikke kun data om dine tidligere køb, men også det hul, som annoncefirmaer har placeret dig i på baggrund af din online aktivitet.
Men nu er en af de bedste forudsigere for, om en person, der klikker på en annonce, vil købe dit produkt, hvor lang tid du siger, det vil tage at levere det, siger Cline. Så Nozzle taler med kunderne om at justere deres algoritmer for at tage højde for dette. Hvis du for eksempel mener, at du ikke kan levere hurtigere end en konkurrent, er det måske ikke værd at prøve at overbyde dem på en annonceauktion. På den anden side, hvis du ved, at din konkurrent er løbet tør for lager, så kan du gå ind i et billigt spil, som de ikke vil byde.
Alt dette er kun muligt med et dedikeret team, der holder øje med tingene, siger Cline. Han mener, at den nuværende situation er en øjenåbner for mange mennesker, der antog, at alle automatiserede systemer kunne køre sig selv. Du har brug for et datavidenskabshold, der kan forbinde det, der foregår i verden, med det, der foregår på algoritmerne, siger han. En algoritme ville aldrig samle nogle af disse ting op.
Med alt forbundet, er virkningen af en pandemi blevet følt vidt og bredt, rørende mekanismer, der i mere typiske tider forbliver skjulte. Hvis vi leder efter en sølvbeklædning, så er det nu tid til at gøre status over de nyligt eksponerede systemer og spørge, hvordan de kan designes bedre, gøres mere modstandsdygtige. Hvis maskiner er til at stole på, skal vi passe på dem.