Denne algoritme gennemser Wikipedia for automatisk at generere lærebøger

Wikipedia

Machine Learning – Den komplette vejledning er en vægtig bog. På mere end 6.000 sider er denne bog en omfattende introduktion til maskinlæring med opdaterede kapitler om kunstige neurale netværk, genetiske algoritmer og maskinsyn.

Men dette er ikke nogen almindelig udgivelse. Det er en Wikibog, en lærebog, som alle kan få adgang til eller redigere, som består af artikler på Wikipedia, det store online-leksikon.

Det er en styrke. Crowdsourced information bliver konstant opdateret med alle de seneste fremskridt og konsekvent redigeret for at rette fejl og uklarheder.

Men det er også en svaghed. Wikipedia er enorm. At beslutte, hvad der skal med i sådan en lærebog, er en svær opgave, og det er måske derfor, bogen er så enorm. Med mere end 550 kapitler er det ikke let læsning.

Det rejser et interessant spørgsmål. I betragtning af de seneste års fremskridt inden for kunstig intelligens, er der så en måde at automatisk redigere Wikipedia-indhold for at skabe en sammenhængende helhed, der er nyttig som lærebog?

Indtast Shahar Admati og kolleger ved Ben-Gurion University of the Negev i Israel. Disse fyre har udviklet en måde til automatisk at generere Wikibooks ved hjælp af maskinlæring. De kalder deres maskine for Wikibook-bot. Det nye ved vores teknik er, at den er rettet mod at generere en hel Wikibog uden menneskelig involvering, siger de.

Fremgangsmåden er forholdsvis ligetil. Forskerne begyndte med at identificere et sæt eksisterende Wikibøger, der kan fungere som et træningsdatasæt. De startede med 6.700 Wikibøger inkluderet i et datasæt stillet til rådighed af Wikipedia til denne form for akademisk undersøgelse.

Da disse Wikibøger danner en slags guldstandard både for træning og test, havde holdet brug for en måde at sikre deres kvalitet på. Vi valgte at koncentrere os om Wikibøger, der blev set mindst 1000 gange, ud fra den antagelse, at populære Wikibøger er af en rimelig kvalitet, siger de.

Det efterlod 490 Wikibøger, som de filtrerede yderligere, baseret på faktorer som at have mere end 10 kapitler. Det efterlod 407 Wikibøger, som holdet brugte til at træne deres maskiner.

Holdet delte derefter opgaven med at skabe en Wikibog i flere dele, som hver især kræver en anden maskinlæringsfærdighed. Opgaven begynder med en titel genereret af et menneske, der beskriver et koncept af en slags, som f.eks Machine Learning – Den komplette vejledning .

Den første opgave er at sortere gennem hele sættet af Wikipedia-artikler for at afgøre, hvilke der er relevante nok til at inkludere. Denne opgave er udfordrende på grund af den store mængde artikler, der findes i Wikipedia, og behovet for at vælge de mest relevante artikler blandt millioner af tilgængelige artikler, siger Admati og co.

For at hjælpe med denne opgave brugte teamet Wikipedias netværksstruktur – artikler peger ofte på andre artikler ved hjælp af hyperlinks. Det er rimeligt at antage, at den linkede artikel sandsynligvis er relevant.

Så de startede med en lille kerne af artikler, der nævner frøkonceptet i titlen. De identificerede derefter alle de artikler, der er op til tre hop væk fra disse frø på netværket.

Men hvor mange af disse linkede artikler skal medtages? For at finde ud af det begyndte de med titlerne på de 407 Wikibøger skabt af mennesker og udførte tre-hop-analysen. De regnede derefter ud, hvor meget af indholdet i de menneskeskabte bøger, der var inkluderet af den automatiserede tilgang.

Det viser sig, at den automatiserede tilgang ofte omfattede meget af det originale Wikibook-indhold, men betydeligt mere. Så holdet havde brug for en anden måde at beskære indholdet yderligere på.

Igen kommer netværksvidenskab i spil. Hver menneskeskabt Wikibook har sin egen netværksstruktur, bestemt af antallet af links, der peger ind fra andre artikler, antallet af links, der peger på, sideplaceringen af ​​de inkluderede artikler og så videre.

Så holdet skabte en algoritme, der kiggede på hver automatisk udvalgte artikel for et givet emne og derefter afgjorde, om det ville gøre netværksstrukturen mere lig med menneskeskabte bøger eller ej. Hvis ikke, udelades artiklen.

Det næste trin er at organisere artiklerne i kapitler. Dette er i bund og grund en klyngeopgave; at se på det netværk, der dannes af hele sættet af artikler, og finde ud af, hvordan man deler det op i sammenhængende klynger. Forskellige klyngealgoritmer er tilgængelige til denne slags opgaver.

Det sidste trin er at bestemme, i hvilken rækkefølge artiklerne skal vises i hvert kapitel. For at gøre dette organiserer teamet artiklerne i par og bruger en netværksbaseret model til at bestemme, hvilken der skal vises først. Ved at gentage dette for alle kombinationer af artikelpar, udarbejder algoritmen en foretrukken rækkefølge for artiklerne og dermed kapitlerne.

På denne måde var holdet i stand til at producere automatiserede versioner af Wikibooks, som allerede var blevet skabt af mennesker. Hvor godt disse automatiserede bøger kan sammenlignes med de menneskeskabte er svært at bedømme. De indeholder bestemt meget af det samme materiale, ofte i en lignende rækkefølge, hvilket er en god start.

Men Adamti og co har en plan for at bestemme nytten af ​​deres tilgang. De planlægger at producere en række Wikibøger om emner, der endnu ikke er dækket af menneskeskabte bøger. De vil derefter overvåge sidevisningerne og redigeringerne af disse bøger for at se, hvor populære de bliver, og hvor meget de er redigeret sammenlignet med menneskeskabte bøger. Dette vil være en test i den virkelige verden for vores tilgang, siger de.

Det er interessant arbejde, der har potentialet til at producere værdifulde lærebøger om en bred vifte af emner, og endda til at skabe andre tekster såsom konferencehandlinger. Hvor værdifulde de vil være for menneskelige læsere er endnu ikke fastlagt. Men vi vil se for at finde ud af det.

Ref: arxiv.org/abs/1812.10937 : Wikibook-Bot—Automatisk generering af en Wikipedia-bog

skjule