Nvidia har netop gjort det nemmere at bygge smartere chatbots og smartere falske nyheder

Et billede af en stemmeassistentenhed ved siden af ​​lydbølger fru Tech; originalbillede: HARMON KARDON

Kunstig intelligens har gjort imponerende fremskridt i det sidste årti, men maskiner er stadig elendige til at forstå sprog. Prøv bare at engagere Alexa i lidt vittige drillerier.

Nvidia, firmaet, der laver computerchips, der driver mange AI-algoritmer, tror, ​​at dette er ved at ændre sig og søger at udnytte en forventet eksplosion.

Software, som chipproducenten udgiver, gør det lettere at bygge AI-programmer på sin hardware, der er i stand til at bruge sproget mere yndefuldt. Den nye kode kan fremskynde udviklingen af ​​nye sprogalgoritmer og gøre chatbots og stemmeassistenter hurtigere og smartere.

Nvidia laver allerede de mest populære chips til træning af deep-learning AI-modeller, som er dygtige til opgaver som billedklassificering. Traditionelt har det dog været meget sværere at anvende statistiske maskinlæringsmetoder som dyb læring på det skrevne eller talte ord, fordi sproget er så tvetydigt og komplekst.

Men der er sket betydelige fremskridt på det seneste. To nye dyb-læringstilgange til sprog fra Google, kendt som Transformer og BERT, har vist sig at være særligt dygtige til at oversætte mellem sprog, besvare spørgsmål om et stykke tekst og endda generere tekst, der ser realistisk ud. Dette har udløst en stigning i akademisk og industris interesse for at fremme sprog ved hjælp af maskinlæring.

Kombinationen af ​​Transformer og BERT har haft enorm indflydelse, siger Alexander Rush , en professor ved Harvard University, der har specialiseret sig i underområdet AI kendt som naturlig sprogbehandling (NLP). Det er dybest set state-of-the-art i hvert benchmark og giver en undergraduat mulighed for at producere verdensklassemodeller i fem linjer kode.

Nvidia har været dygtige til at jagte de seneste trends inden for AI-forskning. Hvis dens seneste fornemmelse viser sig at være korrekt, kan stemmeassistenter gå fra blot at svare på gøende kommandoer til at sætte flere ord sammen. Chatbots kan i mellemtiden blive mindre forvirrede, mens autofuldførelsesfunktionen fandt mange i programmer og apps kan begynde at foreslå hele afsnit i stedet for kun de næste par ord.

Vi har en stor efterspørgsel efter sprogmodellering, siger Bryan Catanzaro , VP for anvendt dyb læring hos Nvidia. Og ser man på tempoet i sproglige fremskridt, virker det som et oplagt sted for os at foretage investeringer.

Nvidia udviklede sin software ved at optimere adskillige dele af processen, der bruges til at træne sprogmodeller på sine GPU'er. Dette fremskyndede træningen af ​​AI-modeller (fra flere dage til mindre end en time), accelererede ydeevnen af ​​trænede sprogmodeller (fra 40 millisekunder til lidt over 2 millisekunder) og gjorde det muligt at træne meget større sprogmodeller (Nvidias sprogmodel , kaldet Megatron, er mange gange større end noget tidligere lavet med 8,6 milliarder parametre).

Autofuldfør intet ondt

Fremskridt i sproget kan dog have en mørkere side. Smartere algoritmer kunne bruges til at masseproducere mere overbevisende, skræddersyede falske anmeldelser, opslag på sociale medier og nyhedshistorier. Andre forskergrupper har vist, hvordan kraftfulde sprogmodeller kan skabe realistisk udseende tekst efter at have indtaget store dele af skrift fra internettet.

Nvidia har en simpel plan for at forhindre potentielt misbrug: det vil ikke frigive den største sprogmodel, det har udviklet, og planlægger at stole på, at forskere bruger sine værktøjer med omhu. Vi udgiver kode, der viser, hvordan man bruger GPU'er til at træne disse store modeller, siger Catanzaro. Vi tror på, at fællesskabet vil bruge denne kode ansvarligt, men husk, at træningsmodeller af denne størrelse kræver seriøs computerkraft, hvilket sætter den uden for rækkevidde for de fleste mennesker.

Selvom fremskridtene fortsætter hurtigt, vil der sandsynligvis gå lang tid, før maskiner virkelig kan tale med os. Sproget er vildledende svært for maskiner at forstå, til dels på grund af dets kompositoriske kompleksitet: ord kan omarrangeres for at låse op for uendelig betydning. At forstå betydningen af ​​en sætning kræver ofte også en form for sund fornuftsforståelse af verden - noget computere ikke har.

Vi ser en renæssance inden for NLP-kapaciteter, siger Oren Etzioni, administrerende direktør for Allen Institute for Artificial Intelligence (Ai2) , en nonprofitorganisation i Seattle dedikeret til banebrydende AI-forskning. Det vil udmønte sig i bedre chatbots og stemmeassistenter, siger han, selvom de vil lide under mangel på sund fornuft. En stemmeassistent, der er lige så hjælpsom som en dygtig hotelconcierge, er stadig uden for horisonten, siger Etzioni.

Ai2 lancerede for nylig et værktøj, kaldet Grover , der bruger NLP-fremskridt til at fange tekst, der ser ud til at være blevet trukket ud af AI. Etzioni påpeger, at bots allerede bedrager folk på Facebook og Twitter. Automatisk genereret falsk tekst er her allerede, siger han, og vil sandsynligvis stige eksponentielt.

skjule