Videnskab i en nøddeskal

En konceptuel illustration, der viser en computer, papirer og AI Minji månen

Et team af videnskabsmænd ved MIT og andre steder har udviklet et neuralt netværk, der kan læse videnskabelige artikler og give et kort almindeligt engelsk resumé. Et sådant system kunne hjælpe redaktører, forfattere og videnskabsmænd med at scanne et stort antal artikler for at få en foreløbig fornemmelse af, hvad de handler om. Og tilgangen kunne også bruges i maskinoversættelse og talegenkendelse.

Fysikprofessor Marin Soljačić, kandidatstuderende Rumen Dangovski og Li Jing og kolleger havde udviklet neurale netværk til at tackle vanskelige problemer i fysik, da de indså, at de kunne anvende noget af deres fysikviden til at forbedre visse AI-algoritmer.

Neurale netværk efterligner én måde, mennesker lærer på: computeren undersøger mange forskellige eksempler og identificerer de vigtigste underliggende mønstre. Selvom de er udbredt til mønstergenkendelse, har sådanne systemer ofte svært ved at korrelere information fra en lang række data, såsom et forskningspapir. Andre teknikker, der bruges til at forbedre denne kapacitet - inklusive en kaldet langtidshukommelse (LSTM) - kan ikke håndtere naturligt sprogbehandlingsopgaver, der kræver virkelig langtidshukommelse.

Mens neurale netværk typisk er baseret på multiplikation af matricer, udviklede Soljačićs team et baseret på vektorer, der roterer i et multidimensionelt rum. Den bruger, hvad de kalder en rotationsenhed af hukommelse (RUM), som de fandt på for at hjælpe med visse hårde fysikproblemer, såsom lysets opførsel i komplekse konstruerede materialer. De tilpassede det derefter til naturlig sprogbehandling for at hjælpe med memorering og genkaldelse.

I det væsentlige er hvert ord i teksten repræsenteret af en vektor. Hvert efterfølgende ord svinger denne vektor i en eller anden retning, repræsenteret i et teoretisk rum, der i sidste ende kan have tusindvis af dimensioner. Ved slutningen af ​​processen oversættes den endelige vektor eller sæt af vektorer tilbage til dens tilsvarende række af ord.

Da holdet fodrede den samme pressemeddelelse om et forskningspapir gennem et konventionelt LSTM-baseret neuralt netværk og gennem det RUM-baserede system, gav LSTM-systemet denne gentagne og ret tekniske oversigt: Baylisascariasis, dræber mus, har truet allegheny woodrat og har forårsaget sygdom som blindhed eller alvorlige konsekvenser. Denne infektion, kaldet baylisascariasis, dræber mus, har truet allegheny woodrat og har forårsaget sygdom som blindhed eller alvorlige konsekvenser. Denne infektion, kaldet baylisascariasis, dræber mus, har truet allegheny woodrat.

RUM-systemet producerede en meget mere læsbar oversigt: By vaskebjørne kan smitte mennesker mere end tidligere antaget. 7 procent af de adspurgte personer testede positive for vaskebjørn rundorm-antistoffer. Over 90 procent af vaskebjørne i Santa Barbara er vært for denne parasit.

Forskerne har siden udvidet systemet, så det kan opsummere hele papirer, ikke kun pressemeddelelser.

skjule