En AI hjælper dig med at opsummere det seneste inden for AI

Fru Tech | howadesign/navneord Project

Nyhederne: En ny AI-model for at opsummere videnskabelig litteratur kan nu hjælpe forskere med at vade igennem og identificere de nyeste banebrydende artikler, de ønsker at læse. Den 16. november rullede Allen Institute for Artificial Intelligence (AI2) modellen ud på sit flagskibsprodukt, Semantisk lærd , en AI-drevet videnskabelig papirsøgemaskine. Det giver et resumé af én sætning tl;dr (for lang; læste ikke) under hver datalogi-opgave (indtil videre), når brugere bruger søgefunktionen eller går til en forfatters side. Værket blev også accepteret til konferencen Empirical Methods for Natural Language Processing i denne uge.

Et skærmbillede af tl;dr-funktionen i Semantic Scholar.

AI2

Konteksten: I en tid med overbelastning af information har brug af kunstig intelligens til at opsummere tekst været et populært problem med behandling af naturligt sprog (NLP). Der er to generelle tilgange til denne opgave. Den ene kaldes ekstraktiv, som søger at finde en sætning eller et sæt af sætninger fra teksten ordret, der fanger dens essens. Den anden kaldes abstrakt, hvilket involverer generering af nye sætninger. Mens udvindingsteknikker plejede at være mere populære på grund af begrænsningerne ved NLP-systemer, har fremskridt inden for naturlig sproggenerering i de senere år gjort den abstrakte en hel del bedre.

Sådan gjorde de det: AI2s abstrakte model bruger det, der er kendt som en transformer - en type neural netværksarkitektur, der først blev opfundet i 2017, og som siden har drevet alle de store spring i NLP, inklusive OpenAI's GPT-3 . Forskerne trænede først transformatoren på et generisk tekstkorpus for at etablere dens grundlæggende fortrolighed med det engelske sprog. Denne proces er kendt som fortræning og er en del af det, der gør transformere så kraftfulde. Derefter finjusterede de modellen – med andre ord trænede den videre – på den specifikke opgave at opsummere.

Finjusteringsdata: Forskerne oprettede først et datasæt kaldet SciTldr, som indeholder omkring 5.400 par videnskabelige artikler og tilsvarende resuméer med enkelt sætning. For at finde disse højkvalitetsresuméer gik de først på jagt efter dem på OpenReview, en offentlig platform for indsendelse af konferencepapirer, hvor forskere ofte vil poste deres egen en-sætnings synopsis af deres papir. Dette gav et par tusinde par. Forskerne hyrede derefter annotatorer til at opsummere flere artikler ved at læse og yderligere kondensere de synopser, der allerede var skrevet af fagfællebedømmere.

For at supplere disse 5.400 par endnu mere, kompilerede forskerne et andet datasæt med 20.000 par videnskabelige artikler og deres titler. Forskerne mente, at fordi titler i sig selv er en form for sammenfatning, ville de yderligere hjælpe modellen med at forbedre dens resultater. Dette blev bekræftet gennem eksperimenter.

tl;dr-funktionen er især nyttig til at skimme papirer på mobil.

AI2

Ekstrem opsummering: Mens mange andre forskningsindsatser har tacklet opgaven med at opsummere, skiller denne sig ud for det kompressionsniveau, den kan opnå. De videnskabelige artikler, der er inkluderet i SciTldr-datasættet, er i gennemsnit på 5.000 ord. Deres resuméer med én sætning er i gennemsnit 21. Det betyder, at hvert papir i gennemsnit er komprimeret til 238 gange dets størrelse. Den næstbedste abstrakte metode er trænet til at komprimere videnskabelige artikler med et gennemsnit på kun 36,5 gange. Under testen vurderede menneskelige anmeldere også, at modellens resuméer var mere informative og nøjagtige end tidligere metoder.

Næste skridt: Der er allerede en række måder, hvorpå AI2 nu arbejder på at forbedre deres model på kort sigt, siger Daniel Weld, professor ved University of Washington og leder af forskningsgruppen Semantic Scholar. For det første planlægger de at træne modellen til at håndtere mere end blot datalogi-opgaver. For en anden, måske delvist på grund af træningsprocessen, har de fundet ud af, at tl;dr-resuméerne nogle gange overlapper for meget med papirtitlen, hvilket mindsker deres overordnede nytte. De planlægger at opdatere modellens træningsproces for at straffe sådanne overlapninger, så den lærer at undgå gentagelser over tid.

På længere sigt vil teamet også arbejde med at opsummere flere dokumenter ad gangen, hvilket kan være nyttigt for forskere, der går ind i et nyt felt eller måske endda for politiske beslutningstagere, der ønsker at komme hurtigt i gang. Det, vi virkelig er begejstrede for at gøre, er at skabe personlige forskningsbriefinger, siger Weld, hvor vi ikke kun kan opsummere et papir, men et sæt af seks seneste fremskridt inden for et bestemt underområde.

skjule