Kogebøger, Wikipedia og autogenereret Spanglish: De finurlige måder AI-forskere indsamler data på

Joe Raedle/Getty Images

Data er olien, der driver AI-udviklingen, og det giver os mange af de fremskridt, vi tager for givet: YouTube-tekster, Spotify-musikanbefalinger, de uhyggelige annoncer, der følger dig rundt på internettet.

Men når det kommer til at indsamle nyttige data, skal AI-eksperter ofte være kreative. Tag natural-language processing (NLP), et underområde af AI, der fokuserer på at lære computere at analysere menneskeligt sprog. På den årlige konference om empiriske metoder i NLP præsenterede eksperter en bred vifte af forskning, der trak på information indsamlet på nogle geniale måder. Vi har opsummeret fire af vores yndlingsprojekter nedenfor.

SPANGLISK

Blandt artiklerne om flersproget NLP i år, Microsoft præsenterede en der fokuserede på at behandle kodeblandet sprog - tekst eller tale, der skifter flydende mellem to sprog. I betragtning af, at mere end halvdelen af ​​verdens befolkning er flersproget, er dette undersøgte område vigtigt.

Forskerne startede med Spanglish (spansk og engelsk), men de manglede nok Spanglish tekst til at træne maskinen. Så almindeligt som kodeblanding er i flersprogede samtaler, findes det sjældent i tekst. For at overvinde den udfordring skrev forskerne et program til at indsætte engelsk i Microsoft Bing-oversætteren og flette nogle sætninger fra den spanske oversættelse tilbage til den originale tekst. Programmet sørgede for, at de ord og sætninger, der blev byttet om, havde samme betydning. Lige sådan var de i stand til at skabe så meget Spanglish, som de havde brug for.

Den resulterende NLP-model klarede sig bedre end tidligere modeller, der kun blev trænet på spansk og engelsk separat. Forskerne håber, at deres arbejde på sigt vil hjælpe med at udvikle flersprogede chatbots, der kan tale naturligt i kodeblandet sprog.

KOGEBØGER

Opskrifter er gode til at lave mad, men de kan også give næring til maskiner. De følger alle et lignende trin-for-trin-mønster, og de inkluderer ofte billeder, der svarer til teksten - en fremragende kilde til strukturerede data til at lære maskiner at forstå tekst og billeder på samme tid. Det er derfor forskere ved Hacettepe University i Tyrkiet udarbejdet et kæmpe datasæt af omkring 20.000 illustrerede madlavningsopskrifter. De håber, at det vil være en ny ressource til at benchmarke ydeevnen af ​​fælles billed-tekstforståelse.

Det, de kalder RecipeQA, vil bygge på tidligere forskning, der har fokuseret på maskinel læseforståelse og visuel forståelse hver for sig. I førstnævnte skal maskinen forstå et spørgsmål og en tilhørende passage for at finde svaret; i sidstnævnte søger den i stedet efter svaret på et relateret billede. At have tekst og billeder side om side øger opgavens kompleksitet, fordi billederne og teksten kan dele supplerende eller overflødig information.

KORTE SÆTNINGER

Google vil have kunstig intelligens til at pifte din prosa op. Til dette formål skabte forskere dér største datasæt nogensinde for at dele lange sætninger op i mindre med tilsvarende betydning. Hvor ville du finde enorme mængder redigeringsdata? Wikipedia, selvfølgelig.

Fra Wikipedias rige redigeringshistorie udtog forskerholdet tilfælde, hvor folk deler lange sætninger. Resultatet: 60 gange flere tydelige sætningsopdelte eksempler og 90 gange flere ordforrådsord, end der blev fundet i det tidligere benchmarkdatasæt for denne opgave. Datasættet spænder også over flere sprog.

Da de trænede en maskinlæringsmodel på deres nye data, opnåede den 91 % nøjagtighed. (Her afspejler procentdelen andelen af ​​sætninger, der beholdt deres betydning og grammatiske korrekthed efter at være blevet omskrevet.) Til sammenligning nåede en model trænet på tidligere data kun 32 % nøjagtighed. Da de kombinerede begge datasæt og trænede en anden model, opnåede den 95 % nøjagtighed. Forskerne konkluderede, at fremtidige forbedringer kunne foretages ved at finde endnu flere datakilder.

SOCIAL-MEDIA BIAS

Undersøgelser har vist, at det sprog, vi genererer, kan være en stor forudsigelse for vores race, køn og alder, selvom den information aldrig er eksplicit angivet. Med det i tankerne forsøgte forskere ved Bar-Ilan University i Israel og Allen Institute for Artificial Intelligence at bruge AI til at de-bias tekst vha. fjernelse af de indlejrede indikatorer .

For at få nok data, der kunne repræsentere sprogmønstrene på tværs af forskellige demografiske grupper, henvendte de sig til Twitter. De samlede en masse tweets fra brugere, der var jævnt fordelt mellem ikke-spansktalende hvide og ikke-spansktalende sorte; mellem mænd og kvinder; og mellem personer i aldersgruppen 18-34 og over 35 år.

De brugte derefter en kontradiktorisk tilgang - at sætte to neurale netværk op mod hinanden - for at se, om de automatisk kunne fjerne de iboende demografiske indikatorer i tweets. Det ene neurale net forsøgte at forudsige demografien, mens det andet forsøgte at tilpasse teksten til at være fuldstændig neutral, med det mål at reducere den første models forudsigelsesnøjagtighed til 50 % (eller chance). Tilgangen mindskede i sidste ende race, køn og aldersindikatorer betydeligt, men ikke helt.

skjule