211service.com
Doomsday Grants vil fremme vigtig AI-forskning
Selvom du ikke frygter den forestående stigning af superintelligente maskiner, er der grund til at juble over nye midler, der går til at forske i emnet, da det kan hjælpe med at gøre kunstig intelligens mere praktisk på kort sigt.
De seneste fremskridt inden for datalogi, især maskinlæring, er faldet sammen med nogle bemærkelsesværdigt ligefremme spekulationer om, hvor kunstig intelligens kan tage os hen. Sidste år advarede milliardærentreprenøren Elon Musk åbent om, at AI-forskning risikerede at tilkalde dæmonen og kunne udgøre den største eksistentielle trussel mod menneskeheden. Andre prominente personer, herunder Bill Gates og Stephen Hawking, har også udtrykt bekymring over de potentielle risici ved at udvikle virkelig intelligente maskiner.
Det Future of Life Institute , en organisation grundlagt i Cambridge, Massachusetts, for at afbøde de potentielle eksistentielle risici, som AI udgør, i denne uge annonceret 7 millioner dollars i tilskud til projekter dedikeret til at holde AI robust og gavnlig. Bevillingen blev for en stor del finansieret af Musk, som har givet 10 millioner dollars til instituttet.
Måske giver det mening at overveje sådanne uønskede resultater, men vi er stadig et stykke vej fra at skabe noget, vi kunne betragte som ægte intelligent. Mens nogle af de 37 projekter, der modtager støtte fra Future of Life Institute, udforsker temmelig langt ude scenarier, der involverer ekstremt kraftig AI, tager andre fat på vigtige bestræbelser på at gøre software mere pålidelig, ansvarlig og nyttig i komplekse eller tvetydige sammenhænge.
For eksempel:
* Fuxin Li , en forsker ved Georgia Tech, vil studere måder at forstå og forudsige fejl i deep-learning-systemer. Dette er en meget værdifuld indsats. Selvom disse avancerede neurale netværk har produceret spektakulære resultater i de senere år inden for områder som billed- og stemmegenkendelse, kan de fejle på overraskende måder.
* Stefano Ermon , en assisterende professor ved Stanford University, vil undersøge måder at få autonome agenter til at opføre sig rationelt i komplekse situationer. I sidste ende kan dette for eksempel hjælpe en automatiseret bil til at afveje de risici, som forskellige handlinger udgør i en kompleks situation, hvilket gør det muligt for den i sidste ende at handle på en måde, som vi ville finde mere ansvarlig og etisk acceptabel.
* Seth Herd , en forsker ved University of Colorado, vil søge at anvende neurovidenskabelig forskning i menneskelig beslutningstagning til bestræbelser på at bygge computerhardware med såkaldte neuromorfe systemer, inspireret af hjernen. Dette kan give vigtig indsigt i design af disse systemer og pege på nogle nye applikationer.
* Manuela Veloso , en professor ved Carnegie Mellon University, vil lede et forsøg på at udvikle måder, hvorpå maskiner kan forklare deres adfærd til mennesker. Det kan være svært selv for eksperter at forstå, hvorfor en maskine opfører sig på en uventet måde. At forbedre denne situation kan være særligt vigtigt, da robotter begynder at arbejde tættere sammen med mennesker.
Ironisk nok viser disse forskningsprojekter også, hvor langt vi er fra at bygge noget, der kunne tænkes at overtage verden. Og selvom det måske giver mening at overveje fremtidige risici, mens der stadig er masser af tid, så lad os håbe, at angst for futuristiske scenarier ikke udgør en risiko for betydningsfulde teknologiske fremskridt.