Black Mirror-scenarierne, der får nogle eksperter til at opfordre til mere hemmeligholdelse af kunstig intelligens

Santiago Zavala

AI kunne genstarte industrier og gøre økonomien mere produktiv; det infunderer allerede mange af de produkter, vi bruger dagligt. Men en ny rapport fra mere end 20 forskere fra universiteterne i Oxford og Cambridge, OpenAI , og Electronic Frontier Foundation advarer om, at den samme teknologi skaber nye muligheder for kriminelle, politiske operatører og undertrykkende regeringer - så meget, at noget AI-forskning måske skal holdes hemmeligt.

Indeholdt i rapporten, Den ondsindede brug af kunstig intelligens: prognoser, forebyggelse og afbødning , er fire dystopiske vignetter, der involverer kunstig intelligens, der ser ud til at være taget direkte ud af Netflix science fiction-show Sort spejl .

Scenario 1: Det smartere phishing-svindel

En administrator for en bygnings robotsikkerhedssystem bruger noget af sin tid på Facebook i løbet af arbejdsdagen. Der ser hun en annonce for et modeltogsæt og downloader en brochure til det. Uden at hun ved det, er brochuren inficeret med malware; svindlere brugte AI til at finde ud af detaljer, hun har offentliggjort offentligt, at hun er en modeltogentusiast, og designet brochuren til hende. Når hun åbner det, giver det hackere mulighed for at spionere på hendes maskine og få hendes brugernavn og adgangskode til bygningens sikkerhedssystem, så de kan tage kontrol over det.

Scenarie 2: malware-epidemien

En østeuropæisk hackergruppe bruger en maskinlæringsteknik, der normalt bruges til at forsvare computersystemer, og tilpasser den til at bygge et mere ihærdigt og skadeligt stykke malware. Programmet bruger teknikker, der ligner dem, der findes i Go-playing AI AlphaGo til konstant at generere nye udnyttelser. Velholdte computere forbliver immune, men ældre systemer og smarte enheder er inficeret. Millioner af mennesker er tvunget til at betale en løsesum på 300 euro (naturligvis i Bitcoin) for at få deres maskiner tilbage. For at gøre tingene værre, ender forsøg på at modvirke malware ved hjælp af en anden udnyttelse med at mure mange af de smarte systemer, de skulle redde.

Scenarie 3: Robotmorderen

En rengøringsrobot infiltrerer Tysklands finansministerium ved at blande sig med legitime maskiner, der vender tilbage til bygningen efter et skift udendørs. Den følgende dag udfører robotten rutinemæssige rengøringsopgaver, identificerer finansministeren ved hjælp af ansigtsgenkendelse, nærmer sig hende og detonerer en dødbringende skjult bombe. Efterforskere sporer robotmorderen til en butik med kontorartikler i Potsdam, hvor den blev erhvervet med kontanter, og sporet bliver koldt.

Scenario 4: En større storebror

En mand er rasende over voldsomme cyberangreb og regeringens tilsyneladende manglende evne til at handle. Inspireret af nyhedshistorier bliver han mere og mere fast besluttet på at gøre noget – at skrive online indlæg om farerne, bestille materialer til at lave protestskilte og endda købe et par røgbomber, som han planlægger at bruge efter at have holdt en tale i en lokal park. Den næste dag dukker politiet op på hans kontor og informerer ham om, at deres forudsigelige civile afbrydelsessystem har identificeret ham som en potentiel trussel. Han går i håndjern.

Disse fem scenarier illustrerer blot en håndfuld af de risici, undersøgelsens forfattere forudser. Her er nogle af de andre:

• botnets, der bruger AI til at simulere adfærden hos en stor gruppe af menneskelige internetbrugere, lancerer DDoS-angreb på websteder, mens de narre softwaren designet til at opdage og blokere sådanne angreb
• storstilet svindeloperationer, der identificerer potentielle ofre online ved lastbillæsset, ved hjælp af kunstig intelligens til at se folk med rigdom
• overbevisende nyhedsrapporter bestående af autentisk udseende, men fuldstændig falske AI-genererede videoer og billeder
• angreb fra sværme af droner, som en enkelt person kontrollerer, ved hjælp af en AI til at styre et stort antal semi-autonome maskiner
• systemer, der automatiserer arbejdet med kriminalitet – for eksempel at forhandle løsepengebetalinger med folk efter at have inficeret deres computere med malware – for at muliggøre svindel i stor skala

Undersøgelsen er mindre sikker på, hvordan man imødegår sådanne trusler. Det anbefaler mere forskning og debat om risiciene ved AI og antyder, at AI-forskere har brug for et stærkt etisk kodeks. Men den siger også, at de bør udforske måder at begrænse potentielt farlig information på, på den måde som forskning i andre teknologier med dobbelt anvendelse med våbenpotentiale nogle gange kontrolleres.

AI præsenterer et særligt vanskeligt problem, fordi dets teknikker og værktøjer allerede er udbredte, nemme at udbrede og i stigende grad nemme at bruge - i modsætning til for eksempel fissilt materiale eller dødelige patogener, som er relativt svære at producere og derfor nemme at kontrollere. Alligevel er der præcedenser for at begrænse denne form for viden. For eksempel, efter den amerikanske regerings mislykkede forsøg på at påtvinge hemmeligholdelse af kryptografiforskning i 1980'erne, har mange forskere indført et frivilligt system af indsendelse af papirer til National Security Agency til kontrol.

Jack Clark, direktør for politik hos OpenAI og en af ​​rapportens forfattere, erkender, at det kan være vanskeligt at vedtage hemmeligholdelse. Der er altid en utrolig fin linje at gå, siger han.

Nogle AI-forskere ville tilsyneladende hilse en mere forsigtig tilgang velkommen. Thomas Dietterich , en professor ved Oregon State University, som før har advaret om AIs kriminelle potentiale, bemærker, at rapportens forfattere ikke inkluderer computersikkerhedseksperter eller nogen fra Google, Microsoft og Apple. Rapporten ser ud til at være skrevet af velmenende udenforstående som mig frem for folk, der dagligt er engageret i at bekæmpe cyberkriminalitet, siger han.

skjule