Manden, der hjalp med at opfinde virtuelle assistenter, tror, ​​de er dømt uden en ny AI-tilgang

Ms. Tech

Siri, Alexa, Google Home – teknologi, der analyserer sprog, finder i stigende grad vej ind i hverdagen.

Boris Katz , en hovedforsker ved MIT, er ikke så imponeret. I løbet af de sidste 40 år har Katz ydet vigtige bidrag til maskinernes sproglige evner. I 1980'erne udviklede han sig START , et system, der er i stand til at svare på naturligt formulerede forespørgsler. Idéerne brugt i START hjalp IBMs Watson med at vinde videre Fare! og lagde grunden til nutidens pladrende kunstige tjenere.

Men Katz er nu bekymret for, at feltet lider af afhængighed af årtier gamle ideer, og at disse ideer ikke vil give os maskiner med reel intelligens. Jeg mødtes med ham for at diskutere de nuværende grænser for AI-assistenter og for at høre hans tanker om, hvor forskningen skal hen, hvis de nogensinde skal blive klogere.

Hvordan blev du interesseret i at få computere til at bruge sprog?

Jeg stødte første gang på computere i 1960'erne som bachelorstuderende ved Moskva Universitet. Den særlige maskine jeg brugte var en mainframe kaldet BESM-4. Man kunne kun bruge oktal kode til at kommunikere med den. Mit første computerprojekt involverede at lære en computer at læse, forstå og løse matematiske problemer.

Så udviklede jeg et computerprogram til digtskrivning. Jeg kan stadig huske, at jeg stod i maskinrummet og ventede på at se det næste digt genereret af maskinen. Jeg var lamslået over digtenes skønhed; de så ud til at være produceret af en intelligent enhed. Og jeg vidste der og da, at jeg vil arbejde resten af ​​mit liv på at skabe intelligente maskiner og finde måder at kommunikere med dem på.

Hvad synes du om Siri, Alexa og andre personlige assistenter?

Det er sjovt at tale om, for på den ene side er vi meget stolte af denne utrolige fremgang – alle i lommen har noget, som vi var med til at skabe her for mange, mange år siden, hvilket er vidunderligt.

MED

Men på den anden side er disse programmer så utroligt dumme. Så der er en følelse af at være stolt og næsten flov. Du lancerer noget, som folk føler er intelligent, men det er ikke engang tæt på.

Der er sket betydelige fremskridt inden for kunstig intelligens takket være maskinlæring. Er det ikke at gøre maskiner bedre til sprog?

På den ene side er der dette dramatiske fremskridt, og så er noget af dette fremskridt pustet op. Hvis man ser på maskinlæringsfremskridt, kom alle ideerne for 20 til 25 år siden. Det er bare, at ingeniører til sidst gjorde et godt stykke arbejde med at gøre disse ideer til virkelighed. Denne teknologi, så stor som den er, vil ikke løse problemet med reel forståelse - med reel intelligens.

Det ser dog ud til, at vi gør fremskridt inden for kunstig intelligens... (se 10 banebrydende teknologier: Smooth-talking Personal Assistants ) ?

På et meget højt niveau er moderne teknikker – statistiske teknikker som maskinlæring og deep learning – meget gode til at finde regelmæssigheder. Og fordi mennesker normalt producerer de samme sætninger meget af tiden, er det meget nemt at finde dem på sproget.

Se på prædiktiv tekst. Maskinen ved bedre end dig, hvad du vil sige. Man kunne kalde det intelligent, men det er bare at tælle ord og tal. Fordi vi bliver ved med at sige det samme, er det nemt at bygge systemer, der fanger regelmæssighederne og opfører sig, som om de er intelligente. Dette er den fiktive karakter af meget af de nuværende fremskridt.

Hvad med det farlige sproggenererende værktøj annonceret for nylig af OpenAI ?

Disse eksempler er meget imponerende, men jeg er ikke sikker på, hvad de lærer os. OpenAI-sprogmodellen blev trænet på 8 millioner websider for at forudsige det næste ord, givet alle de foregående ord i en eller anden tekst (som handlede om det samme emne som det, modellen blev trænet på). Denne enorme mængde træning sikrede bestemt lokal sammenhæng (syntaktisk og endda semantisk) af teksten.

Hvorfor tror du, at AI er på vej den forkerte vej i sproget?

Inden for sprogbehandling, ligesom på andre områder, blev der gjort fremskridt ved at træne modeller på enorme mængder data - mange millioner af sætninger. Men den menneskelige hjerne ville ikke være i stand til at lære sprog ved hjælp af dette paradigme. Vi efterlader ikke vores babyer med en encyklopædi i krybben og forventer, at de mestrer sproget.

Når vi ser noget, beskriver vi det i sproget; når vi hører nogen tale om noget, forestiller vi os, hvordan de beskrevne genstande og begivenheder ser ud i verden. Mennesker lever i et fysisk miljø, fyldt med visuelle, taktile og sproglige sanseindtryk, og disse inputs overflødige og komplementære karakter gør det muligt for menneskelige børn at få mening ud af verden og lære sprog på samme tid. Måske ved at studere disse modaliteter isoleret, har vi gjort problemet sværere snarere end lettere?

Hvorfor er sund fornuft vigtig?

Sig, at din robot hjælper dig med at pakke, og du fortæller det: Denne bog ville ikke passe i den røde boks, fordi det er også lille. Det er klart, du vil have din robot til at forstå, at net boks er for lille, så du kan fortsætte med at have en meningsfuld samtale. Men hvis du siger til robotten: Denne bog ville ikke passe i det røde felt pga det er også stor, du vil have din robot til at forstå, at Bestil er for stor.

At vide, hvilken entitet i en samtale et pronomen refererer til, er en meget almindelig opgave, som mennesker udfører hver dag, og alligevel, som du kunne se fra disse og andre eksempler, er det ofte afhængigt af dyb forståelse af verden, som i øjeblikket er uden for rækkevidde af vores maskiner: forståelse af sund fornuft og intuitiv fysik, forståelse af andres overbevisninger og hensigter, evne til at visualisere og ræsonnere om årsag og virkning og meget mere.

Du forsøger at lære maskiner om sprog ved hjælp af simulerede fysiske verdener. Hvorfor det?

Jeg har endnu ikke set en baby, hvis forældre lægger et leksikon i vuggen og siger: Gå og lær. Og det er, hvad vores computere gør i dag. Jeg tror ikke, at disse systemer vil lære, som vi vil have dem til, eller forstå verden, som vi vil.

Det, der sker med babyer, er, at de straks får en taktil oplevelse af verden. Så begynder babyer at se verden og absorbere begivenheder og objekters egenskaber. Og så hører babyen til sidst sproglige input. Og det er dette komplementære input, der får forståelsens magi til at ske.

Hvad er en bedre tilgang?

En vej frem er at få en større forståelse af menneskelig intelligens og derefter bruge denne forståelse til at skabe intelligente maskiner. AI-forskning skal bygge på ideer fra udviklingspsykologi, kognitiv videnskab og neurovidenskab, og AI-modeller bør afspejle, hvad der allerede er kendt om, hvordan mennesker lærer og forstår verden.

Reelle fremskridt vil først komme, når forskere kommer ud af vores kontorer og begynder at tale med folk på andre områder. Sammen vil vi komme tættere på at forstå intelligens og finde ud af, hvordan vi kopierer den i intelligente maskiner, der kan tale, se og fungere i vores fysiske verden.

Udfordringen med at skabe virkelig intelligente maskiner er meget vanskelig, men det er også en af ​​de vigtigste udfordringer, vi har.

skjule