211service.com
Google bliver praktisk om farerne ved kunstig intelligens
Kunne maskiner blive så intelligente og kraftfulde, at de udgør en trussel mod menneskeliv, eller endda menneskeheden som helhed?
Det er et spørgsmål, der er blevet moderne i nogle dele af Silicon Valley i de senere år, på trods af at det er mere eller mindre uforeneligt med nutidens simple robotter og glitchy virtuelle assistenter (se AI Doomsayer Says His Ideas Are Catching On). Nogle eksperter i kunstig intelligens mener, at spekulationer om farerne ved fremtidig, superintelligent software skader feltet.
Nu forsøger Google, et firma, der er stærkt investeret i kunstig intelligens, at finde en mellemvej. EN nyt papir udgivet i dag beskriver fem problemer, som forskere bør undersøge for at hjælpe med at gøre fremtidig smart software mere sikker. I en blogindlæg på papiret siger Google-forsker Chris Olah, at de viser, hvordan debatten om AI-sikkerhed kan gøres mere konkret og produktiv.
De fleste tidligere diskussioner har været meget hypotetiske og spekulative, skriver han. Vi mener, at det er vigtigt at skabe bekymringer i ægte maskinlæringsforskning og at begynde at udvikle praktiske tilgange til konstruktion af AI-systemer, der fungerer sikkert og pålideligt.
Olah bruger en rengøringsrobot til at illustrere nogle af sine fem punkter. Et område af bekymring er at forhindre systemer i at nå deres mål ved at snyde. For eksempel kan rengøringsrobotten opdage, at den kan opfylde sin programmering til at rense pletter ved at skjule dem i stedet for rent faktisk at fjerne dem.
Et andet af problemerne er, hvordan man gør robotter i stand til at udforske nye miljøer sikkert. For eksempel skal en rengøringsrobot kunne eksperimentere med nye måder at bruge rengøringsværktøj på, men ikke prøve at bruge en vådmoppe på en stikkontakt.
Olah beskriver de fem problemer i et nyt papir skrevet sammen med Google-kollegaen Dario Amodei, med bidrag fra andre ved Google, Stanford University, University of California, Berkeley og OpenAI, et forskningsinstitut, der er medstiftet og delvist finansieret af Teslas CEO og serieiværksætter Elon Musk.
Musk, der engang sammenlignede arbejdet med kunstig intelligens med at tilkalde dæmonen, gjorde skabelse af sikker AI til et af OpenAIs grundlæggende mål (se Hvad skal der til for at bygge en dydig AI?).
Google har også talt om en forpligtelse til at sikre, at kunstig intelligens-software ikke har utilsigtede konsekvenser. virksomhedens første forskningsartikel om emnet blev udgivet i denne måned af deres DeepMind-gruppe i London. DeepMinds leder, Demis Hassabis, har også indkaldt et etisk råd for at overveje de mulige ulemper ved AI, selvom dets medlemmer ikke er blevet afsløret (se Hvordan Google planlægger at løse kunstig intelligens).
Oren Etzioni, administrerende direktør for Allen Institute for AI , glæder sig over den tilgang, der er skitseret i Googles nye papir. Han har tidligere kritiseret diskussioner om farerne ved kunstig intelligens som værende for vage til, at videnskabsmænd eller ingeniører kan engagere sig produktivt. Men de scenarier, som Google har opstillet, er specifikke nok til at tillade reel forskning, selvom det stadig er uklart, om sådanne eksperimenter vil være praktisk nyttige, siger han.
Det er de rigtige mennesker, der stiller de rigtige spørgsmål, siger Etzioni. Hvad angår de rigtige svar - det må tiden vise.