Sådan opretter du en ondsindet kunstig intelligens

Muligheden for, at en ondsindet kunstig intelligens kan udgøre en alvorlig trussel mod menneskeheden, er blevet et meget omdiskuteret emne. Forskellige højt profilerede personer fra fysikeren Stephen Hawking til tech-iværksætteren Elon Musk har advaret om faren.

Derfor er området for kunstig intelligens sikkerhed ved at dukke op som en vigtig disciplin. Dataloger er begyndt at analysere de utilsigtede konsekvenser af dårligt designede AI-systemer, af AI-systemer skabt med defekte etiske rammer eller dem, der ikke deler menneskelige værdier.

Men der er en vigtig udeladelse på dette område, siger uafhængige forskere Federico Pistono og Roman Yampolskiy fra University of Louisville i Kentucky. Der er, så vidt vi ved, intet offentliggjort om, hvordan man designer en ondsindet maskine, siger de.

Det er et betydeligt problem, fordi computersikkerhedsspecialister skal forstå udyret, de er oppe imod, før de kan håbe på at besejre det.

I dag forsøger Pistono og Yampolskiy at rette op på det, i det mindste delvist, og den vigtigste pointe, de gør, er, at en ondsindet AI højst sandsynligt kun dukker op i visse miljøer. Så de har opstillet betingelserne for, at et ondsindet AI-system kunne opstå. Og deres konklusioner vil gøre det til en ubehagelig læsning for en eller to virksomheder.

Så hvilke advarselstegn indikerer, at arbejde på et ondsindet AI-system kan være muligt? Pistono og Yampolskiy siger, at der sandsynligvis vil være nogle klare tegn.

En af de mest åbenlyse ville være fraværet af tilsynsnævn i udviklingen af ​​AI-systemer. Hvis en gruppe besluttede at skabe en ondsindet kunstig intelligens, følger det, at det ville øge sandsynligheden for at lykkes at forhindre et globalt tilsynsudvalg i at eksistere, siger de.

Sådan en gruppe gør dette ved at bagatellisere betydningen af ​​deres arbejde og de farer, det udgør, og endda ved at cirkulere forvirrende information. Strategien er at formidle modstridende information, der ville skabe tvivl i offentlighedens fantasi om farerne og mulighederne ved forskning i kunstig generel intelligens, siger de.

Et andet vigtigt tegn ville være eksistensen af ​​lukket kildekode bag det kunstige intelligens-system. Det er velkendt blandt kryptografi- og computersikkerhedseksperter, at lukket kildekode-software og algoritmer er mindre sikre end deres gratis og open source-modstykke, siger Pistono og Yampolskiy. Selve eksistensen af ​​ikke-fri software og hardware sætter menneskeheden i en større risiko.

I stedet siger de, at kunstig intelligens kunne udvikles ved hjælp af open source-software, selvom det er uklart, om dette ville være sikrere. Open source-processen giver flere mennesker mulighed for at lede efter og rette fejl. Men det giver også adgang til kriminelle, terrorister og lignende, som kan bruge softwaren til ondsindede formål.

Kunstig intelligens udvikles i øjeblikket på begge disse måder.

De lukkede kildesystemer har haft velkendte succeser. Googles AI-system sejrede for nylig over menneskeheden i det gamle spil Go, for eksempel. Facebook har også en højprofileret AI-forskningsgruppe, omend en der har haft mindre offentlig succes.

Ingen af ​​selskaberne har været klar over, hvordan deres forskning styres. Googles DeepMind-datterselskab siger for eksempel, at det har et AI-etikråd, men har konsekvent nægtet at afsløre, hvem der sidder i det. Facebook siger blot, at frygten for kunstig intelligens er blevet overdrevet.

Udviklingen af ​​open source kunstig intelligens er mindre fremskreden. Men det er for nylig begyndt at tage fart, i det mindste delvist drevet af frygten for kommercielle rivaler.

Den højeste profil af disse bestræbelser er OpenAI, en nonprofitorganisation for kunstig intelligens, der startede i 2015 med det formål at fremme digital intelligens på den måde, der med størst sandsynlighed vil gavne menneskeheden som helhed, ubegrænset af et behov for at generere økonomisk afkast.

Det bakkes op af løfter på op til 1 milliard dollars i finansiering fra blandt andre tech-iværksætteren Elon Musk, som gentagne gange har advaret om farerne ved AI. (Musk delfinansierede også arbejdet fra en af ​​forfatterne til denne undersøgelse, Roman Yampolskiy.)

Hvorvidt OpenAI vil øge eller reducere chancerne for, at et ondsindet AI-system dukker op, er ikke klart. Men målet er i det mindste at sikre, at hvad der end sker sker i fuld offentlighed.

En mangel i alt dette er, at cybersikkerhedspraksis for AI-systemer er meget mindre veludviklet end for almindelig software.

Computersikkerhedseksperter har længe erkendt, at skadelig software udgør en væsentlig trussel mod det moderne samfund. Mange sikkerhedskritiske applikationer - atomkraftværker, lufttrafikkontrol, livsstøttesystemer og så videre - er ikke meget mere end en alvorlig designfejl væk fra katastrofer. Situationen forværres af designere af bevidst ondsindet software – vira, trojanske heste og lignende – der jager og udnytter disse fejl.

For at bekæmpe dette har sikkerhedseksperter udviklet et kraftfuldt økosystem, der identificerer fejl og retter dem, før de kan udnyttes. De studerer ondsindet software og leder efter måder at neutralisere det.

De har også et kommunikationssystem til at sprede denne information inden for deres samfund, men ikke udenfor. Dette gør det muligt at rette eventuelle fejl hurtigt, før kendskabet til dem spreder sig.

Men et lignende system fungerer endnu ikke effektivt i AI-forskningens verden.

Det betyder måske ikke noget, mens AI-systemer er relativt godartede. Det meste af nutidens kunstig intelligens er fokuseret på emner som naturlig sprogbehandling, objektgenkendelse og opgaver som kørsel.

Men i betragtning af de seneste års udviklingstempo vil dette sandsynligvis ændre sig hurtigt. Et vigtigt spørgsmål er, hvordan mennesker kan bekæmpe en ondsindet kunstig intelligens, der kan have alvorlige konsekvenser for menneskeheden. Det er et spørgsmål, der er værd at overveje i detaljer nu.

Ref: arxiv.org/abs/1605.02817 : Uetisk forskning: Hvordan man skaber en ondsindet kunstig intelligens

skjule