211service.com
Vær ikke AI-vil: Google siger, at dets algoritmer ikke vil skade
IYIKON/anbileru adaleru/yaroslav samoylov/SBTS/Hea Pon Lin (The Noun Project)
Google har lavet et etisk kodeks for kunstig intelligens, der forbyder udvikling af autonome våben. Men principperne giver tilstrækkeligt spillerum til, at Google kan drage fordel af lukrative forsvarsaftaler ned ad linjen.
Meddelelsen kommer i kølvandet på betydelig intern protest over brugen af Googles AI-teknologi af et initiativ fra forsvarsministeriet kaldet Algorithmic Warfare Cross-Functional Team. Målet med denne satsning, kendt internt som Project Maven , er blandt andet at forbedre nøjagtigheden af droneangreb.
Sidste måned sagde et dusin Google-medarbejdere op på grund af skandalen, og mange flere underskrev et åbent protestbrev.
Opstyret fanger den frygt, som mange har om, hvordan teknologi kan hjælpe med at automatisere krigsførelse i fremtiden. Situationen er dog ikke enkel.
Kunstig intelligens kan hjælpe med at gøre nogle våbensystemer sikrere og mindre udsatte for fejl. Der er også mange banale anvendelser af kunstig intelligens på tværs af forsvarsindustrien. Google ønsker ikke at afvise dette enorme potentielle marked for sin cloud AI-teknologi.
Googles administrerende direktør, Sundar Pichai, annoncerede den nye kode i et blogindlæg i dag. Det foreslår syv principper for at vejlede Googles brug af kunstig intelligens, der siger, at det skal gavne samfundet; undgå algoritmisk skævhed; respektere privatlivets fred; blive testet for sikkerhed; være ansvarlig over for offentligheden; opretholde videnskabelig stringens; og stilles til rådighed for andre i overensstemmelse med de samme principper.
Men Pichai gjorde sig også umage med at sige, at Google ikke ville tillade, at dets AI-teknologi blev brugt til at udvikle noget, der kunne forårsage skade, inklusive våben eller andre teknologier, hvis hovedformål eller implementering er at forårsage eller direkte lette skade på mennesker.
Pichai sagde, at Google også ville undgå at udvikle overvågningsteknologi, der overtræder internationalt accepterede normer for menneskerettigheder, eller enhver teknologi, der strider mod internationale love.
Kunstig intelligens udvikler sig hurtigt, og Google er stødt på andre problemer, der involverer AI-projekter. Et af dets computervisionssystemer har for eksempel gentagne gange fejlidentificeret mennesker af afrikansk arv som gorillaer. Virksomheden opgav sit Don't be evil-motto i april, men det bevarer en idealistisk kultur.
Militær brug af kunstig intelligens kan blive mere og mere omstridt, efterhånden som teknologien bliver adopteret på nye måder, og virksomheder søger at sælge deres cloud AI-teknologi så bredt som muligt.
Maskinlæring og kunstig intelligens vil uundgåeligt blive vigtigere for intelligens- og forsvarsarbejdet. Andre amerikanske teknologivirksomheder, herunder Amazon og Microsoft, har budt på et multimilliard-dollar cloud computing-projekt med Pentagon.