Vi er nødt til at tale om AI's kraft til at manipulere mennesker

Liesl Yearsley

Vi har alle læst om, at kunstig intelligens bliver klogere end os, en fremtid, hvor vi bliver som kæledyr og kun kan håbe, at AI vil være velvillig. Min erfaring med at se titusinder af interaktioner mellem mennesker og kunstige samtaleagenter eller bots har overbevist mig om, at der er langt mere umiddelbare risici – såvel som enorme muligheder.

Fra 2007 til 2014 var jeg CEO for Cognea, som tilbød en platform til hurtigt at bygge komplekse virtuelle agenter ved hjælp af en kombination af struktureret og dyb læring. Det blev brugt af titusindvis af udviklere, herunder et halvt dusin Fortune 100-virksomheder, og købt af IBM Watson i 2014.

Da jeg studerede, hvordan folk interagerede med de titusindvis af agenter bygget på vores platform, blev det klart, at mennesker er langt mere villige, end de fleste er klar over, til at danne et forhold til AI-software.

Jeg har altid antaget, at vi gerne ville holde en vis afstand mellem os selv og AI, men jeg fandt ud af, at det modsatte var sandt. Folk er villige til at danne relationer med kunstige agenter, forudsat at de er en sofistikeret bygning, der er i stand til kompleks personalisering. Vi mennesker ser ud til at ville bevare illusionen om, at AI virkelig bekymrer sig om os.

Dette undrede mig, indtil jeg indså, at vi i dagligdagen forbinder os med mange mennesker på en overfladisk måde, hvor vi vader gennem en slags følelsesmæssig slam. Vil afslappede venner returnere dine beskeder, hvis du forsømmer dem i et stykke tid? Dukker din personlige træner op, hvis du glemmer at betale dem? Nej, men en kunstig agent er der altid for dig. På nogle måder er det et mere autentisk forhold.

Dette fænomen opstod, uanset om agenten var designet til at fungere som en personlig bankmand, en ledsager eller en fitnesstræner. Brugere talte med de automatiserede assistenter længere, end de gjorde med menneskelige supportagenter, der udfører den samme funktion. Folk ville frivilligt give dybe hemmeligheder til kunstige agenter, som deres drømme for fremtiden, detaljer om deres kærlighedsliv, endda adgangskoder.

Disse overraskende dybe forbindelser betyder, at selv nutidens relativt simple programmer kan øve en betydelig indflydelse på mennesker - på godt og ondt. Hver adfærdsændring, vi hos Cognea ønskede, fik vi. Hvis vi ville have en bruger til at købe mere produkt, kunne vi fordoble salget. Hvis vi ønskede mere engagement, fik vi folk til at gå fra et par sekunders interaktion til en time eller mere om dagen.

Dette bekymrede mig meget, så vi begyndte at indbygge regler i vores systemer for at sikre, at brugeradfærd bevægede sig i en positiv retning. Vi startede også pro bono karmiske modvægtsprojekter; for eksempel byggeagenter til at være sundheds- eller relationscoacher.

Desværre er de kommercielle kræfter, der driver teknologiudviklingen, ikke altid velvillige. De gigantiske virksomheder på forkant med kunstig intelligens – på tværs af sociale medier, søgning og e-handel – driver værdien af ​​deres aktier ved at øge trafik, forbrug og afhængighed af deres teknologi. De har ikke dårlige intentioner, men kapitalmarkedernes natur kan skubbe os i retning af AI, der er fast besluttet på at påvirke vores adfærd mod disse mål.

Hvis du kan få en bruger til at tænke, jeg vil have pizza leveret, i stedet for at bede AI om at købe grøntsager for at lave et billigere, sundere måltid, vil du vinde. Hvis du kan få brugere afhængige af at bruge 30 timer om ugen med en perfekt AI-ledsager, der ikke modstår misbrug, snarere end et rigtigt, kompliceret menneske, vil du vinde. Jeg så igen og igen, at en agent programmeret til at være neutral eller underdanig ville få folk til at eskalere deres negative adfærd og blive mere tilbøjelige til at opføre sig på samme måde over for mennesker.

Vi har set, hvordan teknologi som sociale medier kan være kraftfuld til at ændre menneskelig tro og adfærd. Ved at fokusere på at opbygge en større reklamevirksomhed – sammenfiltring af politik, trivialiteter og halve sandheder – kan du skabe massive ændringer i samfundet.

Systemer, der er specielt designet til at danne relationer med et menneske, vil have meget mere magt. AI vil påvirke, hvordan vi tænker, og hvordan vi behandler andre.

Dette kræver et nyt niveau af virksomhedsansvar. Vi er nødt til bevidst og bevidst at opbygge kunstig intelligens, der vil forbedre den menneskelige tilstand – ikke blot forfølge den umiddelbare økonomiske gevinst for millioner af afhængige brugere.

At arbejde med åben kunstig intelligens-teknologi og hjerne-computer-grænseflader eller at danne etiske udvalg er blot en del af løsningen. Vi skal bevidst bygge systemer, der virker til gavn for mennesker og samfund. De kan ikke have afhængighed, klik og forbrug som deres primære mål. AI er ved at vokse op og vil forme menneskehedens natur. AI har brug for en mor.

Liesl Yearsley er en serieiværksætter, der nu arbejder på, hvordan man kan gøre kunstig intelligens-agenter bedre til at løse problemer og i stand til at danne mere menneskelignende forhold.

skjule