Tech Titans går sammen for at forhindre AI i at opføre sig dårligt

Når det kommer til politiarbejde med kunstig intelligens, mener teknologiledere, at der er sikkerhed i tal.

En ny organisation kaldet Partnerskab om kunstig intelligens til gavn for mennesker og samfund vil søge at fremme offentlig dialog og skabe retningslinjer for udvikling af kunstig intelligens, så systemerne ikke opfører sig forkert. De involverede virksomheder omfatter Google og dets datterselskab DeepMind, Facebook, Amazon, Microsoft og IBM. Partnerskabet er baseret på otte principper eller principper, herunder ideen om, at AI skal gavne så mange mennesker som muligt; at offentligheden skal inddrages i dens udvikling; at forskning skal udføres på en åben måde; og at AI-systemer skal kunne forklare deres ræsonnement.

At så voldsomme rivaler ville komme sammen på denne måde viser, hvor vigtigt virksomhederne føler, det er at afværge offentlig bekymring og spekulation over de potentielle virkninger af kunstig intelligens. Disse virksomheder høster alle store gevinster fra fremskridt inden for kunstig intelligens, og de ønsker ikke at se deres branche være underlagt streng regeringsregulering, som kan bremse eller ændre teknologiens fremskridt på et kritisk tidspunkt i dens udvikling. Men samtidig har hurtige seneste fremskridt rejst bekymringer om potentialet for AI-systemer til at diskriminere, forfordele og fortrænge mennesker.

Vi deler alle en pligt til at føre feltet fremad på en tankevækkende og positiv og vigtigst af alt etisk måde, siger Mustafa Suleyman, medstifter af Google DeepMind og midlertidig medformand for organisationen. De positive virkninger af AI vil ikke kun afhænge af kvaliteten af ​​vores algoritmer, men af ​​niveauet af offentligt engagement, af gennemsigtighed og etisk diskussion, der finder sted omkring det.

AI udvikler sig med en så voldsom hastighed, at der er legitime bekymringer om, at den bliver implementeret på måder, der har utilsigtede eller uønskede effekter. For eksempel kan et maskinlæringssystem designet til at identificere sygdom, der er fodret med forudindtaget data, diskriminere visse mennesker. De virksomheder, der er involveret i partnerskabet, erkender, at der kan opstå en modreaktion som reaktion på sådanne effekter.

AI er en utrolig vigtig teknologi for Amazon, siger Rolf Herbrich, direktør for machine learning for e-handelsgiganten. [Og] det største aktiv i kundeoplevelsen er kundetillid.

Det er uklart præcist, hvordan organisationen vil engagere sig i offentligheden eller dem, der udvikler AI. Det vil ikke søge at håndhæve sine retningslinjer så meget som at føre en åben diskussion, ifølge Suleyman.

Der er også legitime bekymringer over potentialet for kunstig intelligens og relaterede teknologier såsom robotteknologi til at fortrænge mennesker og øge uligheden (se How Technology Is Destroying Jobs). Men de seneste fremskridt har ført til nogle mere besynderlige og futuristiske advarsler om potentialet for AI til at udgøre en eksistentiel trussel mod menneskeheden (se Vores frygt for kunstig intelligens). En bekymring blandt teknologer er, at disse advarsler kan vække uberettiget offentligt ramaskrig og inspirere til unødvendige regeringsbestemmelser.

Med al overdrejningen omkring kunstig intelligens i løbet af de sidste to til fire år har der været bekymring for, at regeringen selv i dette angstkammer vil blive misinformeret, siger Eric Horvitz, administrerende direktør for Microsoft Research og organisationens anden medformand.

Regeringen har signaleret interesse i at sikre, at kunstig intelligens ikke får uvelkomne konsekvenser, koordinere en række workshops i år med det formål at udforske dets potentielle virkninger.

Nogle etiske gåder, der involverer kunstig intelligens, vil være mere komplekse at løse end andre. For eksempel kan det vise sig at være udfordrende at udtænke systemer, der tager hensyn til forskellige etiske perspektiver. Dette spørgsmål er blevet rejst, på en overvejende teoretisk måde, vedrørende selvkørende bilers adfærd . Hvordan man gør AI-systemer mere gennemsigtige og ansvarlige er også et åbent spørgsmål, og et spørgsmål, der i sig selv kan kræve fremskridt i teknologien (se AI's sprogproblem).

Idéen til partnerskabet opstod ved en begivenhed, der blev koordineret i New York i januar af Facebook for at diskutere etiske spørgsmål omkring AI. Andre virksomheder og organisationer, der er involveret i at udvikle kunstig intelligens, såsom Apple og Allen Institute for Artificial Intelligence, har diskuteret at blive involveret i indsatsen i en eller anden kapacitet, siger de stiftende medlemmer.

Oren Etzioni, administrerende direktør for Allen Institute for Artificial Intelligence, siger, at det vil være vigtigt for organisationen at tage fat på spørgsmålet om, hvordan AI kan fjerne arbejdspladser. Og han tilføjer, at den største udfordring kan være at finde en måde, hvorpå konkurrenterne kan arbejde effektivt sammen. Det er nogle af de førende højteknologiske virksomheder i verden, siger han. De skal arbejde sammen her.

skjule