211service.com
AI er ægte nu: En samtale med Sophie Vandebroek
Hvorfor der aldrig kommer en AI-vinter mere, og hvad IBM og MIT gør sammen for at sikre det.
28. februar 2019
Sponsoreret af Darktrace
Flere gange end næsten noget andet innovationsfelt har kunstig intelligens klaret tilbagevendende cyklusser af overoppustet håb, efterfulgt af skuffelse, pessimisme og nedskæringer i finansieringen. Men Sophie Vandebroek, IBMs vicepræsident for nye teknologipartnerskaber, mener, at AI-vintrene virkelig hører fortiden til, takket være de enorme mængder computerkraft og data, der nu er tilgængelige til at træne neurale netværk.
I denne episode deler Vandebroek eksempler på applikationer fra den virkelige verden, der er aktiveret af dette skift, fra billedgenkendelse til chatbots. Og hun beskriver missionen for det nye MIT-IBM Watson AI Lab, et 10-årigt samarbejde på $240 millioner mellem IBM-forskere og MIT-fakultetet og studerende om at fokusere på de kernefremskridt, der vil gøre AI mere nyttig og pålidelig på tværs af industrier fra sundhedspleje til finansiering til sikkerhed.
Denne episode bringes til dig af Darktrace, verdens førende inden for AI-teknologi til cyberforsvar. Darktrace har hovedkontor i San Francisco og Cambridge, Storbritannien, og har næsten 2.500 kunder over hele verden, som bruger deres software til at opdage og reagere på cybertrusler mod deres virksomheder, brugere og enheder. Darktrace har bygget innovativ maskinlæringsteknologi, der kan spotte usædvanlig aktivitet ved hjælp af en tilgang, der er modelleret på det menneskelige immunsystem. I anden halvdel af showet forklarer Darktrace CEO Nicole Eagan, hvordan Darktraces teknologi fungerer, og hvorfor virksomheder skal bringe nyt forsvar til nutidens cybervåbenkapløb.
VIS NOTER OG LINKS
FULD TRANSCRIPT
Elizabeth Bramson-Boudreau: Fra MIT Technology Review hedder jeg Elizabeth Bramson-Boudreau, og dette er Business Lab, showet, der hjælper virksomhedsledere med at forstå nye teknologier, der kommer ud af laboratoriet og ind på markedet. Denne episode bringes til dig af Darktrace, verdens førende inden for AI-teknologi til cyberforsvar. Senere i programmet vil jeg tale med CEO for Darktrace, Nicole Eagan. Hun vil vise os, hvordan fremskridt inden for kunstig intelligens og maskinlæring giver os et nyt sæt måder at forsvare os mod hackere og cyberkriminelle.
Elizabeth: Men vores første gæst kommer fra et af de nyeste centre for AI-forskning, MIT-IBM Watson AI .Lab, kun et par gader fra vores kontorer her i Cambridge, Massachusetts. Det er stedet for mere end 50 nye projekter, der involverer IBM-forskere og MIT-fakultetet, alle rettet mod at fremme de grundlæggende teknologier bag kunstig intelligens. Og her for at tale med os er en af arkitekterne bag denne indsats, Dr. Sophie Vandebroek.
Elizabeth: Sophie er i øjeblikket IBMs vicepræsident for nye teknologipartnerskaber, og hun er kendt i computerindustrien for sin fornemme historie, der skubber innovation fremad – ikke kun hos IBM, men hos Xerox, hvor hun tilbragte over et årti som teknologichef hos Xerox. Hun var direktør for PARC Inc., det berømte laboratorium tidligere kendt som Xerox PARC. I 2011 blev hun optaget i Women in Technology Hall of Fame. I overensstemmelse med temaerne i MIT IBM Watson AI-laboratoriet begyndte vi at tale om, hvordan AI udvikler sig, og hvorfor det transformerer virksomheder på måder, som de fleste ledere først er begyndt at forstå.
Elizabeth: Sophie, tak fordi du kom her for at tale med os og velkommen.
Sophie Vandebroek: Åh, det er mig en stor fornøjelse at være her. Jeg har været en ivrig læser af din journal, så jeg er meget glad for at deltage i podcasten.
Elizabeth : Jeg håber, du kan tale med ikke kun mig, men også de mennesker, der lytter til denne podcast, om, hvor AI er på vej hen, og den fase, vi er i i AI-udvikling. Jeg ved, at mange mennesker taler om, hvordan kunstig intelligens har været på nippet til at transformere arbejde, blot for på en måde at få disse håb udslettet. Kunne vi muligvis være i en anden af disse situationer, hvor det forsvinder, eller er det anderledes nu?
Sophie: Det er meget anderledes nu AI er ægte. Og ja, ordet kunstig intelligens blev opfundet for næsten 70 år siden. Det er så mange årtier senere. Hvad skete der? Hvorfor var det ikke rigtigt dengang, og hvorfor er det virkeligt nu? Der er to hovedårsager til, at det er ægte nu. Og det er begge dele på grund af eksponentielle love. Den første er Moores lov, som vi alle kender og elsker meget godt. Transistoren, den grundlæggende transistor blev opfundet i 50'erne. I 1975 var der 1000 transistorer på en centimeter-firkantet chip. I dag er der 10 milliarder transistorer på en centimeter-firkantet chip, som IBM udvikler i dag, og den computerkraft har resulteret i de mobile enheder, vi har i vores lommer, den seneste højtydende computer, Summit, du ved, den IBM-computer, som Oak Ridge National Lab købt for nylig. Den laver 200 petaflops, hvilket er 200 tusind billioner beregninger i sekundet. Jeg mener, superhurtigt.
Sophie: Så vi har en volumen, jeg mener en enorm mængde computerkraft, som er afgørende for, at AI er ægte. Derudover den anden lov, som er Metcalfes lov. Bob Metcalfe, som også var en del af Boston-samfundet i lang tid, var hos Xerox PARC, og som du ved, før han kom til IBM, var jeg et par årtier i Xerox og arbejdede tæt sammen med PARC-teamet, da han opfandt Ethernet. Og Ethernet tilsluttet ... værdien af Ethernet, værdien af et netværk er proportional med 2 til den n'te med n, antallet af enheder på netværket. Og så kaldes det Metcalfes lov, og det refererede ikke kun til Ethernet, men naturligvis til World Wide Web, til sociale netværk, og det har skabt mange meget værdifulde virksomheder, som vi alle kender i dag.
Sophie: Men derudover har det skabt denne enorme mængde data, ikke? Og så data på nettet sammen med de strukturerede digitale data, som mange virksomheder har i dag, er mange virksomheder begyndt at digitalisere alle deres arbejdsprocesser sammen med alle data, der kommer fra sensorer med tingenes internet og sensorer og fremstilling og kameraer, allestedsnærværende kameraer osv. Der er en enorm mængde data, faktisk er den steget eksponentielt i løbet af det sidste årti eller mere nu. Og så 'AI-vintrene' skete, fordi der faktisk ikke var regnekraften, og der var ikke dataene til at træne disse neurale netværk. Og i dag har vi regnekraften. Vi har dataene. Og der er sket en enorm mængde fremskridt i de neurale netværk i løbet af de sidste fem år, siden det for første gang i 2012 var et neuralt netværk med dyb læring, som kørte på en grafisk behandlingsenhed, en GPU, som for første gang vandt en konkurrence om billedgenkendelse. Og faktisk er det i disse snævre områder, at AI har overmenneskelig kvalitet og super hastighed. Og så af disse grunde, disse to eksponentialer, er AI reel. Og faktisk vil jeg sige, at kunstig intelligens i sig selv nu er i begyndelsen af en eksponentiel kurve, at vi skaber eksponentielt hurtig ny indsigt, som enkeltpersoner, uanset hvilken branche du er i, kan bruge til at træffe hurtige beslutninger i realtid. Det kan også fremskynde opdagelsesprocessen inden for biovidenskabelig forskning og udvikling generelt. Så det bliver brugt. Og det har virkelig mulighed for at påvirke flere felter.
Elizabeth: Så det er en god forklaring på, hvad der virkelig har muliggjort dette skift, og hvorfor AI er så allestedsnærværende et emne for virksomhedsledere i dag. Hvad tillader det, hvad tillader AI virksomheder at gøre, som kunne have været svært eller endda umuligt at gøre for et årti siden?
Sophie: Ja, så det har det, det giver virksomheder mulighed for både at øge deres effektivitet og effektivitet fra bundlinjens synspunkt, fra et rentabilitetssynspunkt. Men det giver dem også mulighed for at skabe helt nye forretningsmodeller og nye indtægtsmuligheder. Lad mig give et eksempel på den første. For eksempel virtuelle agenter, der passer ind i denne kategori af smal AI, som vi lige har bestået den fase, vi er i fasen med bred AI i dag, og vi kan tale om det, før vi kommer til generel kunstig intelligens. Men de virtuelle agenter eller chatbots, som mange af os kender og interagerer med i dag som en del af kundeservere, eksisterede bare ikke for et årti siden. Alt blev udført af callcenter-agenter, der skulle udnytte store databaser for at give dig dine svar på dine spørgsmål osv. I dag, det meste af det, kan virtuelle agenter gøre en meget effektiv og effektiv måde. Faktisk vil nogle af disse virtuelle agenter i dag meget hurtigt vurdere, om du er udadvendt eller indadvendt og tilpasse deres sprog efter din stil.
Sophie: Også automatisering. hvis du for eksempel kører din bil gennem en betalingsautomat i dag, er det helt automatisk nummerpladegenkendelse og aflæsning af nummerpladerne, således at du i backend-processerne faktisk bliver opkrævet for at køre gennem betalingsanlæggene. Igen blev de fleste af disse processer alle udført manuelt tidligere. Billeder ville blive taget af nummerplader, ville blive sendt til Indien for at blive behandlet, og så ville fire ud af fem personer, hvis din nummerplade er indlæst i systemet, så blive faktureret. Det er alle disse transaktionelle, rutinemæssige, meget snævre, meget specifikke processer, der er automatiseret i dag.
Elizabeth: Det hele lyder fantastisk. Og som virksomhedsleder kan jeg tro, at du ved, hvorfor jeg ikke ønsker at se større effektivitet. Men er der ting, jeg måske skal tænke på omkring risiciene ved maskinlæringsbaserede værktøjer?
Sophie: Ja, der er bestemt risici. Og mange virksomheder – hos IBM er det top of mind. Vi skaber værktøjerne og mulighederne som en del af IBM OpenScale, eller vi har andre værktøjssæt, jeg vil fremhæve. En af dem er at hjælpe virksomheder med at håndtere risici. Det er også begyndt at blive top of mind hos bestyrelser og direktører i virksomheder, for at sikre, at disse risici relateret til implementering og omfavnelse af kunstig intelligens som en del af organisationen bliver løst. Lad mig blot fremhæve nogle få. Nummer et er at sikre, at algoritmerne, AI-algoritmerne er retfærdige - at resultatet af AI-algoritmen, da AI hjælper mennesker med at træffe beslutninger, at beslutningerne er retfærdige og etiske og ikke forudindtaget. Så vi har lige lanceret åben kildekode, alle kan hjælpe os med at forbedre det, så IBM-forskning har åbnet AI Fairness 360 Toolkit, hvor du kan trække din algoritme ind, og så bliver den tjekket for alle slags skævheder. I dag tjekker vi for kønsbias, aldersbias, racebias, ting som postnummerbias. Nogle af årsagerne til skævheden er, at det datasæt, som argumentet trænes med, og især i virksomheder - virksomheder ikke har enorme mængder data som i forbrugerverdenen, vel, hvor der kunne være enorme mængder af kattebilleder at træne en billedalgoritme til at genkende en kat. De virksomheder, hvor en virksomhed, lad os sige et hospital eller en skole eller en virksomhed, har en begrænset mængde data til at træne algoritmerne, så dataene måske ikke har tilstrækkelig mængde af diversitet og inklusion i datasættet, så algoritmerne faktisk bliver forudindtaget.
Sophie: Et eksempel er for eksempel personaleafdelinger, der begynder at bruge kunstig intelligens til at hjælpe med at finde nye medarbejdere. Og så hvis din kilde til softwareudviklere udnytter en AI-algoritme, der kan trænes på dine data, vil algoritmen lære, at de fleste af softwareudviklerne er mænd, fordi det er det, du har hyret i fortiden. Så risikoen er, at algoritmer derefter kan anbefale, at din næste ansættelse, ser på alle CV'erne, forholdsmæssigt kan anbefale flere mænd end kvinder til softwareingeniørjob. Vi ved alle, at køn er irrelevant for en softwareingeniør. Det sker bare sådan, at historiske data var partiske i dataene. Så værktøjerne vil da anbefale at have et mere varieret datasæt.
Elizabeth: Okay, så hvad er nogle af de andre risici?
Sophie: Okay. De andre risici er, det er mere jeg mener nutidens algoritmer, især deep learning og neurale netværk, er ligesom sorte bokse. Så risikoen er, at algoritmen vil give dig et svar. Ja, du får et lån, eller nej, du får ikke et lån, eller ja, du har hudkræft, fordi smal AI er bedre end mennesker til at identificere hudkræft. Men det kan ikke forklares. Det forklarer ikke hvorfor eller hvordan det kom til det svar. Og så forklarlighed er meget vigtig. Så det er en risiko for, at du i din virksomhed ikke vil være i stand til at forklare, hvordan bestemte svar blev opnået. Og faktisk i EU, med GDPR, de generelle databeskyttelsesforordninger, er det et krav. Virksomheder kan ikke engang bruge AI, hvis det ikke kan forklare sig selv. Alt skal kunne forklares.
Elizabeth: Så fortæl os lidt om MIT-IBM Watson Lab og dets mission.
Sophie: Ja. Tak for spørgsmålet. Dette er et meget spændende partnerskab mellem IBM research og MIT, som vi etablerede for lidt over et år siden. Så det er en forpligtelse på $240 millioner fra IBM over 10 år, og det er et unikt laboratorium, et universitetsindustrielt samarbejdslaboratorium i verden. Der findes ingen anden af en sådan art. Faktisk begyndte jeg selv og ingeniørdekanen ved MIT, Anantha [Chandrakasan], at brainstorme i sommeren 2017, jeg tror, det var...
Sophie: Du fortalte mig, at det hele skete ret hurtigt.
Elizabeth: Det skete på tre uger. Måske fire uger, hvis jeg havde, hvis jeg inkluderede frokosten, som Anantha og jeg havde, før vores senior vicepræsident talte med præsidenten for MIT en mandag morgen og tre uger senere på en fredag, blev kontrakten underskrevet. Og sådan er det faktisk, visionen var at skabe dette fælles laboratorium med omkring 100 forskere, og forskerne inkluderede IBM-forskere, MIT-professorer og studerende, og vi fejrede det første jubilæum i september. Sidste september 2018. Og vi har faktisk 49 fælles projekter, der er aktive i dag, med omkring 100 personer eller hvad der svarer til 100 personer på de projekter. Og det er de virkelig, de er forskningsprojekter og ikke anvendt teknologi. Vi ville virkelig sikre os, at disse 50 projekter løser de sværeste problemer inden for kunstig intelligens. Og det gør de præcis.
Sophie: Så der er fire søjler. Vi definerede fire søjler. Den ene handler om kerne AI-algoritmer, og der er præcis dér, hvor vi adresserer disse vanskelige problemer som AI, der kan forklare sig selv. Eller lære af små data, forskellige metoder til at lære af små data, ligesom hospitaler har et lille sæt patienter, men et lille sæt data.
Elizabeth: For at løse det problem, du nævnte før, om hvordan der ikke er det på virksomhedssiden, er der ofte ikke nok data til virkelig at træne algoritmerne.
Sophie: Ikke som det er gjort tidligere i højre i den smalle AI-fase. Nu er vi i denne fase af bred kunstig intelligens, hvor systemerne skal lære af små data. Så flere af projekterne i MIT-IBM Watson AI lab er også forbundet med det.
Sophie: Den anden søjle er at anvende kunstig intelligens til industrier. Og i dag ser vi på tre brancher: sundhedspleje og biovidenskab, fordi IBMs forretningsenhed Watson Health har hovedkvarter lige her i Cambridge, Massachusetts. AI anvendt på industrien er også sikkerhed, anvendt på sikkerhedsvirksomheder. Og selvfølgelig er sikkerhed relevant for alle brancher. Og så er den tredje branche, som vi fokuserer på, finansielle tjenesteydelser, altså finans og økonomi. Så det er en anden søjle. Der er fire søjler i MIT-IBM Watson AI Lab.
Sophie: Den tredje er, vi kalder det AI-fysikken. Hvad er hardwareudfordringerne for at lave effektiv og effektiv træning i skyerne såvel som på kanten. Og så er den fjerde kategori, som jeg er meget begejstret for, en kategori, vi kalder velstand aktiveret af AI, eller delt velstand aktiveret af AI. Det ser igen på disse udfordringer med, hvordan man skaber AI-systemer, og som har virkelig moralske værdier, der kan træffe etiske beslutninger. Hvad er fremtiden for jobs for eksempel, er et projekt, vi har i den kategori. Og så ja, disse er de fire søjler: kerne AI-algoritmer, AI-fysik, AI for industrier og velstand aktiveret af AI. Og nu, hvor vi fejrede vores første jubilæum, har vi netop aftalt mellem MIT og IBM, at vi vil åbne vores døre for andre store virksomheder, der virkelig er interesserede i at være på forkant med forskning i kunstig intelligens, for at slutte sig til vores laboratorium. Så det er det, vi arbejder på næste gang.
Elizabeth: To områder, som vi hos MIT Technology Review bruger meget tid på at rapportere om, er kryptovalutaer eller blockchain og kvanteberegning. Jeg vil rigtig gerne høre, hvad I alle laver på de områder. Og måske kan vi starte med krypto. Og jeg gætter på, at spørgsmålet, jeg ville have, er, hvordan vi tænker på, at blockchain er mere end en kuriosum og faktisk noget, der er troværdigt og stabilt og på en måde kan forbedre den forretningsmæssige kontekst, hvori det bruges?
Sophie: Ja, du sagde det rigtige ord der. Så det handler om tillid. Når vi hos IBM taler om blockchain, faktisk blockchain, foregik der meget forskning i blockchain i flere år i forskningslaboratorierne, og IBM oprettede en virksomhed for nu for to et halvt år siden, en blockchain-forretningsenhed. Jeg ser tre slags områder, hvor blockchain bliver brugt i dag, eller hvor der er mange prototyper, der eksperimenterer. Man er faktisk i kryptovalutaer som Bitcoin. Og det er sådan, de fleste kender blockchain, de tænker på Bitcoin. Og det er et helt område af kryptovaluta. Hos IBM er vi ikke interesserede i kryptovaluta, fordi vores kunder ikke er interesserede i kryptovaluta. Vi er interesserede i den underliggende blockchain-platform. Og faktisk har en stor del af den underliggende platform været open source på Hyperledger, drevet af Linux Foundation, og IBM har bidraget væsentligt til koden, og vi vil fortsætte med at gøre det. Den næste er, at blockchain, denne underliggende platform, bliver brugt i værdikæder til at spore værdifulde varer eller værdifulde digitale varer, når de går fra hvor de kommer fra, til hvor de bliver brugt. Og jeg kan give nogle eksempler. Og det tredje område, hvor det er værdifuldt, især i den finansielle sektor, er omkring digital identitet. Og jeg kan give nogle eksempler der. Men det, som virksomheder er interesserede i, er at være i stand til at skabe betroede transaktioner mellem partnere, som i sagens natur måske ikke kender hinanden som små virksomheder eller større virksomheder eller distributører eller landmænd.
Sophie: Og så skabe tilliden på en distribueret måde. Så de blockchain-netværk, som vi har skabt med vores kunder, er private netværk. De er ikke åbne for alle at være med. De er private. Det er kun tilladt netværk. Et af de første eksempler, vi gjorde, startede for mange, mange år siden, og det er nu i drift, er et blockchain-netværk for fødevaresikkerhed, vi skabte med Walmart. Walmart var et søjlemedlem i dette blockchain-netværk, og mange af Walmart-leverandørerne er på netværket. Og der sporer den mad fra gården til bordet. Og især hensigten her er, at hvis som et udbrud af E. coli eller ethvert andet fødevaresikkerhedsproblem...
Elizabeth: Romainesalat.
Sophie: Ja, romainesalat. Jeg mener, det sker hele tiden. Vi vidste, at udbruddet var i Californien et eller andet sted, men alt inklusive salat, dyrket her i Massachusetts, blev taget fra hylden med det samme. Det er, hvad der sker i dag. Det tager lang tid at spore, hvor et udbrud skete. Men hvis du sporer alle dine varer gennem blokkæden inden for to minutter eller hurtigere, kan du hurtigt spore, hvor netop denne salat kom fra. Så skal du stadig ind og se, på hvilket tidspunkt i kæden fra gård til butik til bord E. coli faktisk forurenede fødevarerne. Men det er nemmere end først at finde ud af, selv hvor det kom fra. Ret.
Elizabeth: Store. Nå, helt vidunderligt at høre fra dig og få chancen for at tale med dig igen. Og det er dejligt at have laboratoriet lige rundt om hjørnet. Det er et vidunderligt anlæg, og det er godt at have dig i nabolaget. Så tak.
Sophie: Åh, mange tak. Det var min store fornøjelse.
Elizabeth: Denne episode bringes til dig af Darktrace, verdens førende inden for cyber AI-teknologi. Darktrace har hovedkvarter i San Francisco i Cambridge England. Det har omkring 2.500 kunder over hele verden, som bruger dets software til at opdage og reagere på cybertrusler mod deres virksomheder, brugere og enheder. Darktrace har bygget innovativ maskinlæringsteknologi, der kan spotte usædvanlig aktivitet. For at finde ud af mere om, hvordan det fungerer, talte jeg med virksomhedens administrerende direktør, Nicole Eagan.
Elizabeth: Dejligt at kunne snakke.
Nicole Eagan: Intet problem.
Elizabeth: Sætter pris på, at du gør dette. Hos Darktrace sammenligner du dit brand af cybersikkerhed med det menneskelige immunsystem. Og jeg håber, du kan forklare os, hvad du mener med det.
Nicole: Så det, der virkelig skete, er, at jeg tror, at sikkerhedsindustrien var besat af at forsøge at holde de onde ude. Og det, vi kom til at erkende, er, at mange gange vil de meget sofistikerede angribere, såsom nationalstaterne, komme ind i ethvert netværk, de ønsker. Så vi besluttede på en måde at vende problemet den anden vej rundt og antage, at de onde var inde eller ville være i stand til at komme ind. Det førte os til denne idé om faktisk at basere vores kunstige intelligens på principperne for det menneskelige immunsystem. Så hvis du tænker på den menneskelige krops immunsystem, har den en medfødt følelse af selv, der gør det muligt for den at vide, hvad der ikke er sig selv og have en meget præcis og hurtig reaktion. Det er præcis sådan vores kunstige intelligens fungerer. Det er indlejret i hver enkelt af vores kunders virksomheder, og det er bare at lære en følelse af sig selv, hvad der er normalt. Det, vi kalder 'livsmønsteret' for hver bruger og enhed, der er tilsluttet det netværk. Og det giver os mulighed for at finde ting, der er ud over det sædvanlige og bogstaveligt talt stoppe angrebene eller neutralisere dem i deres spor.
Elizabeth: Og hvordan ser du generelt, mere generelt, at cyberangreb ændrer sig i disse dage, hvad enten de kommer fra nationalstater eller fra individuelle skurke, cyberkriminelle?
Nicole: Jeg mødtes for nylig med en sikkerhedschef hos en af vores kunder, og jeg synes, han havde en god måde at beskrive det på. Han sagde Bare tænk, der er et hold et andet sted i verden, og det holds fuldtidsjob er at tænke på, hvordan man enten stjæler din intellektuelle ejendom eller på en eller anden måde får information fra dig. Og det er virkelig, hvad virksomheder er oppe imod, og grunden til det er den slags cybervåbenkapløb, hvor vi er vant til, at regeringer kæmper mod regeringer – mens det stadig finder sted, har vi nu denne helt nye dimension, hvor nationalstaterne faktisk er. muligvis angribe virksomhederne. Og det betyder, at den digitale slagmark virkelig har ændret sig, og det er noget, som de fleste virksomheder virkelig ikke har været nødt til at forsvare sig imod tidligere. Nu komplicerer og kombinerer man det med, at disse nationalstater i mange tilfælde også kan organiseres med en meget stærk global cyberkriminalitetsring. Og den slags samarbejde mellem disse enheder er også en slags ny dimension. Så det er noget af det, virksomheder er oppe imod, det er ret nyt og ret nyt sammenlignet med angrebene for måske fem eller 10 år siden.
Elizabeth: Okay. Så når det kommer til, hvad Darktrace gør, bruger du så kunstig intelligens til at opdage angreb, til at forsvare sig mod angreb eller begge dele?
Nicole: Det er et glimrende spørgsmål. Du ved, jeg tror, at virksomheder i nogle tilfælde bruger kunstig intelligens blot til at automatisere menneskelige processer. Så for eksempel har hver virksomhed normalt et sikkerhedsdriftscenter. Du kommer til at have en række trusselsanalytikere og hændelsesvarere derinde. Og der er én tilgang, der siger godt, hvorfor ikke bare tage AI ud og lære af de trin, de tager i det, der kaldes Playbook, for at reagere på brud og automatisere det. Og at det kan give dig en lille smule effektivitetsgevinst. Men samtidig bliver det ikke en game changer. Den anden ting, jeg har set AI brugt til, er grundlæggende at analysere alle de historiske angreb, der er sket på andre mennesker, på andre virksomheder, og prøve at bruge det som en indikator for fremtidige trusler. Selvom det nu lyder meget interessant og lidt praktisk, ser det faktisk ud til at være grundlæggende fejlbehæftet, og det er fordi angrebene ændrer sig så hurtigt. Faktisk er der i mange tilfælde bare nye angrebsstammer, hvor en enkelt kodelinje ændres, og nu stemmer det, der kaldes signaturerne, ikke længere. Så i vores tilfælde bruger vi adskillige typer af uovervåget, overvåget og dyb læring for ikke kun at kunne finde angrebene, men også have den kunstige intelligens til at vide, hvordan man efterforsker angrebet. Og vigtigst af alt, hvordan man rent faktisk handler. Og det er meget sjældent. Der er faktisk ingen anden virksomhed, der bruger AI til at tage handlingen.
Elizabeth: Ret. Så du gør begge ting. Du både opdager og handler.
Nicole: Vi bruger virkelig AI til at opdage, undersøge og tage handlingen. Og den sidste del, handlingen, er virkelig svær og virkelig interessant. Det er fantastisk, fordi det kan reagere på angreb meget hurtigt, faktisk i gennemsnit kan det reagere på mindre end to sekunder på et angreb. Og når disse angreb bevæger sig med maskinhastighed, er det helt afgørende. Men den anden ting, vi fandt ud fra et praktisk perspektiv, er, at det tager tid for folk i sikkerhedsorganisationen - måske er det første gang, de endda arbejder med kunstig intelligens og bliver udvidet - det tager noget tid for dem for rent faktisk at opbygge den tillid. Så vi har faktisk skabt en helt ny mulighed for at få den til at komme med anbefalinger. Hvad hvis AI anbefaler, hvilken handling den ville tage og får et menneske til at bekræfte det? Og når først mennesker begynder at se, wow, det giver den rigtige anbefaling hver gang, de opbygger en tillid, og de sætter den i det, vi kalder aktiv tilstand. Så jeg tror, at efter at have gjort dette i løbet af de sidste fem år på tværs af næsten 2.500 virksomheder, er vi blevet rigtig gode til at forstå, hvad der skal til for at opbygge det tillidsforhold, men også vores algoritmer er blevet virkelig stærke og virkelig smarte til at reagere på disse angreb i realtid.
Elizabeth: Så efterhånden som forsvaret bliver bedre, er det så ikke rimeligt at sige, at angreb også bliver bedre, måske ved at bruge AI til at kæmpe tilbage mod AI-orienteret eller AI-organiseret cyberforsvar?
Nicole: Du har fuldstændig ret, selvom det er lidt tidlige dage, og vi har kun set indikationer på, at det kan gå i den retning, og vi har set ting som adfærdsangreb, hvor AI faktisk kan lære din stil og kommunikationsmåde. som du bruger, lad os sige en e-mail. Det har lidt været en noget grundlæggende maskinlæring på dette stadium. Men vi forventer fuldt ud, at der vil være en helt ny kategori af angreb kaldet offensiv AI. Og det betyder, at angriberne vil begynde at bruge forskellige former for maskinlæring, AI og til sidst deep learning som en del af angrebene. Så det vil ændre hele denne branche fra den ene dag til den anden. Og jeg tror i det store og hele, at det er noget, som mange ledere nok ikke har overvejet endnu.
Elizabeth: Ret. Så det er meget interessant, for da du talte om måden, hvorpå Darktrace gør status over, hvad 'normal aktivitet' er på et netværk, kommer det op for mig, at der kan være andre use cases for den information eller den indsigt. Og jeg spekulerer på, om du ud over en slags cybersikkerhed, hvis du har tænkt på at se på normal aktivitet for at hjælpe med andre slags ting, f.eks. lovoverholdelse eller risikostyring, sådan noget.
Nicole: Absolut. Jeg synes, at det, der har været interessant, er, at vi har skabt et virkelig unikt datasæt på vegne af vores kunder. Så hver enkelt af dem, der bruger Darktrace til sikkerhed i dag, har faktisk indlejret kunstig intelligens, der lærer selvfølelsen og løbende lærer og opdaterer. Og det er et datasæt, der kan bruges til andre ting. Det kan bruges til overholdelse af lovgivningen. Faktisk har vi nogle Darktrace-kunder, der bruger os i dag til overholdelse af HIPAA og HITRUST i sundhedsvæsenet, eller med ting som DFS, som er New York State-reglerne for finansielle tjenester. Så vi ser allerede tidlige indikatorer for, hvordan disse kunstige intelligensmodeller og det unikke datasæt kan udnyttes. Jeg synes, at en rigtig interessant use case er fusioner og opkøb. Vi har nogle virksomheder, der bruger os i due diligence-faser til M&A for faktisk at få mere synlighed i målaktivets miljø. Og i dag bruger de det til faktisk at se, om der måske er en konkurrent eller en nationalstat inde i det netværk, som måske forsøger at stjæle intellektuel ejendom for eksempel. Men der er meget bredere typer af M&A due diligence, som det kan bruges til. Og endelig har vi nogle kunder, der også bruger os til overholdelse af databeskyttelse som GDPR, ved at se, hvilken trafik der kan gå ind og ud af Europa. Så absolut, jeg tror, at selvom vi i dag kun låser op for kraften i det datasæt og vores AI-modeller til cybersikkerhed, kan vi træffe en beslutning i fremtiden om at hjælpe kunder med at bruge andre nøgler til at låse det op for at levere ekstra værdi.
Elizabeth: Og gør forskellige ting med den information. Ja, det er fascinerende. Nicole, mange tak for at snakke med mig om dette.
Nicole: Mange tak, Elizabeth.
Elizabeth: Det var det for denne episode af Business Lab. Jeg er din vært Elizabeth Bramson-Boudreau. Jeg er administrerende direktør og udgiver af MIT Technology Review. Vi blev grundlagt i 1899 på Massachusetts Institute of Technology. Du kan finde os på tryk, på nettet, ved snesevis af livebegivenheder hvert år og nu i lydform. For mere information om magasinet og showet, tjek venligst vores hjemmeside på TechnologyReview.com. Vores show er tilgængeligt overalt, hvor du får dine podcasts. Hvis du kunne lide denne episode, håber vi, at du vil bruge et øjeblik på at bedømme og anmelde os på Apple Podcasts. Business Lab er en produktion hos MIT Technology Review. Producenten er Wade Roush med redaktionel hjælp fra Mindy Blodgett. Særlig tak til vores gæster Sophie Vandebroek og Nicole Eagan. Og tak til vores sponsor Darktrace, verdens førende inden for AI-teknologi til cyberforsvar. Tak fordi du lyttede. Vi vender snart tilbage med et nyt afsnit.