211service.com
Vil maskiner eliminere os?
Folk, der bekymrer sig om, at vi er på vej til at opfinde farligt intelligente maskiner, misforstår computervidenskabens tilstand. 29. januar 2016
Yoshua Bengio leder en af verdens fremtrædende forskningsgrupper, der udvikler en kraftfuld AI-teknik kendt som deep learning. De opsigtsvækkende egenskaber, som dyb læring har givet computere i de senere år, fra stemmegenkendelse på menneskeligt niveau og billedklassificering til grundlæggende samtalefærdigheder, har givet advarsler om de fremskridt, AI gør i retning af at matche eller måske overgå menneskelig intelligens. Fremtrædende personer som Stephen Hawking og Elon Musk har endda advaret om, at kunstig intelligens kan udgøre en eksistentiel trussel mod menneskeheden. Musk og andre investerer millioner af dollars i at undersøge de potentielle farer ved kunstig intelligens samt mulige løsninger. Men de mest forfærdelige udtalelser lyder overdrevne for mange af de mennesker, der rent faktisk udvikler teknologien. Bengio, professor i datalogi ved University of Montreal, satte tingene i perspektiv i et interview med MIT Technology Review seniorredaktør for kunstig intelligens og robotteknologi, Will Knight.
Skal vi bekymre os om, hvor hurtigt kunstig intelligens udvikler sig?
Denne historie var en del af vores marts 2016-udgave
- Se resten af problemet
- Abonner
Der er mennesker, der groft overvurderer de fremskridt, der er gjort. Der er mange, mange år med små fremskridt bag mange af disse ting, inklusive hverdagsagtige ting som mere data og computerkraft. Hypen handler ikke om, hvorvidt de ting, vi laver, er nyttige eller ej – det er det. Men folk undervurderer, hvor meget mere videnskab der skal gøres. Og det er svært at adskille hypen fra virkeligheden, fordi vi ser disse fantastiske ting, og også med det blotte øje ser de magiske ud.
Er der en risiko for, at AI-forskere ved et uheld kan slippe dæmonen løs, som Musk har udtrykt det?
Det er ikke sådan, at nogen pludselig fandt en magisk opskrift. Tingene er meget mere komplicerede end den simple historie, nogle mennesker gerne vil fortælle. Journalister vil nogle gange gerne fortælle historien om, at nogen i deres garage får denne fantastiske idé, og så har vi et gennembrud og har AI. På samme måde ønsker virksomheder at fortælle en fin lille historie om, at Åh, vi har denne revolutionerende teknologi, der kommer til at ændre verden – AI er næsten her, og vi er den virksomhed, der skal levere den. Sådan fungerer det slet ikke.
Vi mangler noget stort. Vi har gjort ret hurtige fremskridt, men det er stadig ikke på det niveau, hvor vi vil sige, at maskinen forstår. Det er vi stadig langt fra.
Hvad med ideen, der er central for disse bekymringer, at AI på en eller anden måde kan begynde at forbedre sig selv og derefter blive svær at kontrollere?
Det er ikke sådan AI er bygget i disse dage. Maskinlæring betyder, at du har en omhyggelig, langsom proces med at erhverve information gennem millioner af eksempler. En maskine forbedrer sig selv, ja, men meget, meget langsomt og på meget specialiserede måder. Og den slags algoritmer, vi leger med, er slet ikke som små virusting, der er selvprogrammerende. Det er ikke det, vi gør.
Hvad er nogle af de store uløste problemer med AI?
Uovervåget læring er virkelig, virkelig vigtigt. Lige nu er den måde, vi lærer maskiner at være intelligente på, at vi skal fortælle computeren, hvad der er et billede, selv på pixelniveau. Til autonom kørsel mærker mennesker et stort antal billeder af biler for at vise, hvilke dele der er fodgængere eller veje. Det er slet ikke sådan, mennesker lærer, og det er ikke sådan, dyr lærer. Vi mangler noget stort. Dette er en af de vigtigste ting, vi laver i mit laboratorium, men der er ingen kortsigtede applikationer - det vil sandsynligvis ikke være nyttigt at bygge et produkt i morgen.
En anden stor udfordring er naturlig sprogforståelse. Vi har gjort ret hurtige fremskridt i de sidste par år, så det er meget opmuntrende. Men det er stadig ikke på det niveau, hvor vi vil sige, at maskinen forstår. Det ville være, når vi kunne læse et afsnit og derefter stille ethvert spørgsmål om det, og maskinen ville grundlæggende svare på en rimelig måde, som et menneske ville. Det er vi stadig langt fra.
Hvilke tilgange ud over deep learning vil være nødvendige for at skabe en ægte maskinintelligens?
Traditionelle bestræbelser, inklusive ræsonnement og logik – vi er nødt til at kombinere disse ting med dyb læring for at bevæge os mod AI. Jeg er en af de få mennesker, der mener, at maskinlæringsfolk, og især deep learning-folk, burde være mere opmærksomme på neurovidenskab. Hjerner fungerer, og vi ved stadig ikke hvorfor på mange måder. At forbedre denne forståelse har et stort potentiale til at hjælpe AI-forskning.
Og jeg tror, at neurovidenskabsfolk ville få meget ud af at holde styr på, hvad vi laver, og prøve at tilpasse det, de observerer af hjernen, med den slags koncepter, vi udvikler inden for maskinlæring.
Troede du nogensinde, at du skulle forklare folk, at kunstig intelligens ikke er ved at overtage verden? Det må være mærkeligt.
Det er bestemt en ny bekymring. I så mange år har AI været en skuffelse. Som forskere kæmper vi for at gøre maskinen lidt mere intelligent, men de er stadig så dumme. Jeg plejede at tro, at vi ikke skulle kalde feltet kunstig intelligens, men kunstig dumhed. Virkelig, vores maskiner er dumme, og vi prøver bare at gøre dem mindre dumme.
På grund af disse fremskridt, som folk kan se med demoer, kan vi nu sige, åh, gud, den kan faktisk sige ting på engelsk, den kan forstå indholdet af et billede. Nå, nu forbinder vi disse ting med al den science fiction, vi har set, og det er som: Åh, jeg er bange!
Okay, men det er sikkert stadig vigtigt nu at tænke på de eventuelle konsekvenser af AI.
Absolut. Vi burde tale om disse ting. Det, jeg er mere bekymret for i en overskuelig fremtid, er ikke computere, der overtager verden. Jeg er mere bekymret over misbrug af AI. Ting som dårlig militær anvendelse, manipulation af folk gennem virkelig smart reklame; også de sociale konsekvenser, ligesom mange mennesker mister deres job. Samfundet skal tage sig sammen og komme med et kollektivt svar og ikke overlade det til junglens lov at ordne tingene.