IBMs fotoskrabningsskandale viser, hvilken mærkelig boble AI-forskere lever i

Kategori: Kunstig intelligens Udsendt 15. marts

Tirsdag offentliggjorde NBC en historie med en gribende overskrift: Ansigtsgenkendelses 'beskidte lille hemmelighed': Millioner af onlinebilleder skrabet uden samtykke. jeg forbundet til det i vores sidste Algoritme-udgave, men det er et gensyn værd i dag.

Historien fremhæver et nyligt datasæt udgivet af IBM med 1 million billeder af ansigter, beregnet til at hjælpe med at udvikle mere retfærdige ansigtsgenkendelsesalgoritmer. (Jeg skrev også om nyhederne dengang.) Det viser sig, NBC fandt ud af, at disse ansigter blev skrabet direkte fra online-foto-hosting-siden Flickr uden tilladelse fra forsøgspersonerne eller fotograferne.

For nogle af jer vil denne praksis straks føles uhyggelig og mærkelig. For andre vil det virke helt normalt. Hvad denne historie afslørede, var ikke så meget en beskidt lille hemmelighed, men snarere den kulturelle kløft mellem offentligheden og AI-samfundet.

For industriinsidere gjorde IBM virkelig ikke noget ud over det sædvanlige. AI-forskere samler data op fra forskellige hjørner af internettet hele tiden for at fodre de evigt sultne maskinlæringsalgoritmer, der kræver enorme mængder af det at træne. Instagram-billeder er for eksempel en almindelig kilde til billeddata; hashtaggene svarer ofte bekvemt til billedernes indhold, hvilket gør det ekstra nemt at generere mærkede data. New York Times og Wall Street Journal-artikler er også en almindelig kilde til data for velskrevne, kopiredigerede sætninger. Endnu bedre, at de er kategoriseret efter emne: teknologi, forretning, sport.

Faktisk er skrabe data fra offentligt tilgængelige kilder så meget af en industristandard, at det undervises som en grundlæggende færdighed (sans etik) i de fleste datavidenskab og maskinlæringstræning. I mellemtiden er de fleste teknologiske platforme designet til at invitere til sådan skrabning ved at tilbyde API'er med direkte adgang til deres data. Indtil for nylig blev dette gjort uden omtanke. (Hej, Facebook.)

Alt dette betyder ikke, at det er rigtigt eller forkert at skrabe data. Der er nogle fuldstændig godartede eller legitime måder, hvorpå praksis kan bruges (se Vi analyserede 16.625 artikler for at finde ud af, hvor AI er på vej hen næste gang); det afhænger virkelig af konteksten. Denne historie fremhæver snarere behovet for, at teknologiindustrien tilpasser sine kulturelle normer og standardpraksis for at holde trit med den hurtige udvikling af selve teknologien, såvel som offentlighedens bevidsthed om, hvordan deres data bruges.

Der er måder at bruge vores data på i dag, som vi ikke var klar over for fem, 10 år siden, siger Rumman Chowdhury, den globale leder for ansvarlig AI hos Accenture Applied Intelligence. Hvordan kunne vi [offentligheden] overhovedet have accepteret en kapacitet, der ikke eksisterede?

Med andre ord kan det engang have været en levedygtig praksis at gladelig skrabe folks data, og det kan engang have været tilstrækkeligt samtykke til, at de nævnte data blev brugt, så længe de var offentligt tilgængelige, men fremkomsten af ​​AI og den hidtil usete omfang af Silicon Valleys datamonopolisering og indtægtsgenerering har alle ændret ligningen. Teknologer bærer ansvaret for at ændre sig med det og sørge for, at der er en bred, informeret samfundsmæssig konsensus for deres praksis.

Chowdhurys tip til dem, der kæmper for at navigere i de grå områder af databeskyttelse? Tænk over, om den måde, du bruger data på, er i den ånd, som de oprindeligt blev genereret og delt i. Hvis du bruger det på en fuldstændig tangentiel måde, er det tid til at holde pause og genoverveje.

Denne historie dukkede oprindeligt op i vores AI-nyhedsbrev The Algorithm. For at få det leveret direkte til din indbakke, tilmeld dig her gratis.