Hvorfor børn har brug for særlig beskyttelse mod AI's indflydelse

Ludovic Toinel / Unsplash

Algoritmer kan ændre forløbet af børns liv. Børn interagerer med Alexas, der kan optage deres stemmedata og påvirke deres tale og sociale udvikling. De binging videoer på TikTok og YouTube skubbet til dem af anbefalingssystemer, der ender med at forme deres verdenssyn.

Algoritmer bruges også i stigende grad til at bestemme, hvordan deres uddannelse er, om de vil modtage sundhedspleje, og endda om deres forældre anses for egnede til at tage sig af dem . Nogle gange kan dette have ødelæggende virkninger: den sidste sommer, for eksempel, tusindvis af studerende mistede deres optagelse på universitetet efter algoritmer – brugt i stedet for pandemi-annullerede standardiserede test – forudsagde unøjagtigt deres akademiske præstationer.

Børn er med andre ord ofte på forkant, når det kommer til at bruge og blive brugt af AI, og det kan gøre dem i stand til at komme til skade. Fordi de udvikler sig intellektuelt og følelsesmæssigt og fysisk, er de meget formbare, siger Steve Vosloo, en politikspecialist for digital tilslutning hos Unicef, FN's Børnefond.

Vosloo ledede udarbejdelsen af ​​en nyt sæt retningslinjer fra Unicef ​​designet til at hjælpe regeringer og virksomheder med at udvikle AI-politikker, der tager hensyn til børns behov. Udgivet den 16. september er de ni nye retningslinjer kulminationen på adskillige konsultationer afholdt med politiske beslutningstagere, børneudviklingsforskere, AI-udøvere og børn over hele verden. De tager også hensyn til FN's konvention om barnets rettigheder, en menneskerettighedstraktat ratificeret i 1989.

Retningslinjerne er ikke ment som endnu et sæt AI-principper, hvoraf mange allerede siger de samme ting. I januar i år, en anmeldelse fra Harvard Berkman Klein Center af 36 af de mest fremtrædende dokumenter, der vejleder nationale og virksomheds AI-strategier, fandt otte fælles temaer - blandt dem privatliv, sikkerhed, retfærdighed og forklarlighed.

Det er snarere meningen, at Unicef-retningslinjerne skal supplere disse eksisterende temaer og skræddersy dem til børn. For eksempel skal AI-systemer ikke kun kunne forklares - de skal kunne forklares for børn. De bør også overveje børns unikke udviklingsbehov. Børn har yderligere rettigheder til voksne, siger Vosloo. De anslås også at tegne sig for mindst en tredjedel af onlinebrugere. Vi taler ikke om en minoritetsgruppe her, påpeger han.

Ud over at afbøde AI-skader er målet med principperne at fremme udviklingen af ​​AI-systemer, der kan forbedre børns vækst og velvære. Hvis de er designet godt, for eksempel, har AI-baserede læringsværktøjer vist sig forbedre børns kritiske tænkning og problemløsningsevner , og de kan være nyttige for børn med indlæringsvanskeligheder. Følelsesmæssige AI-assistenter, selvom de er relativt begyndende, kunne yde støtte til mental sundhed og har vist sig at forbedre de sociale færdigheder hos autistiske børn. Ansigtsgenkendelse, brugt med omhyggelige begrænsninger, kan hjælpe med at identificere børn, der er blevet kidnappet eller handlet.

Børn bør også uddannes om kunstig intelligens og opmuntres til at deltage i udviklingen heraf. Det handler ikke kun om at beskytte dem, siger Vosloo. Det handler om at styrke dem og give dem bureauet til at forme deres fremtid.

Når vi taler om udsatte grupper, så er børn selvfølgelig de dårligst stillede.

Yi Zeng

Unicef ​​er ikke den eneste, der tænker på problemet. Dagen før disse udkast til retningslinjer kom ud, frigav Beijing Academy of Artificial Intelligence (BAAI), en organisation støttet af det kinesiske ministerium for videnskab og teknologi og Beijings kommunale regering. et sæt AI-principper også for børn.

Annonceringen følger et år efter, at BAAI udkom Beijing AI-principperne , forstået som de vejledende værdier for Kinas nationale AI-udvikling. De nye principper, der er skitseret specifikt for børn, er beregnet til at være en konkret implementering af de mere generelle principper, siger Yi Zeng, direktøren for AI Ethics and Sustainable Development Research Center på BAAI, som ledede deres udarbejdelse. De er tæt på linje med Unicefs retningslinjer, og berører også privatliv, retfærdighed, forklarlighed og børns trivsel, selvom nogle af detaljerne er mere specifikke for Kinas bekymringer. En retningslinje til at forbedre børns fysiske sundhed inkluderer for eksempel brug af kunstig intelligens til at hjælpe med at tackle miljøforurening.

Selvom de to bestræbelser ikke formelt er forbundet, er timingen heller ikke tilfældig. Efter en strøm af AI-principper i de sidste par år, siger begge hovedforfattere at skabe mere skræddersyede retningslinjer for børn var et logisk næste skridt. Når vi taler om udsatte grupper, er børn selvfølgelig de dårligst stillede, siger Zeng. Det er derfor, vi virkelig har brug for [at give] særlig omsorg til denne gruppe mennesker. Holdene konfererede med hinanden, mens de udarbejdede deres respektive dokumenter. Da Unicef ​​holdt en konsultationsworkshop i Østasien, deltog Zeng som taler.

Unicef ​​planlægger nu at køre en række pilotprogrammer med forskellige partnerlande for at observere, hvor praktiske og effektive deres retningslinjer er i forskellige sammenhænge. BAAI har dannet en arbejdsgruppe med repræsentanter fra nogle af de største virksomheder, der driver landets nationale AI-strategi, herunder uddannelsesteknologivirksomheden TAL, forbrugerelektronikvirksomheden Xiaomi, computervisionvirksomheden Megvii og internetgiganten Baidu. Håbet er at få dem til at begynde at følge principperne i deres produkter og påvirke andre virksomheder og organisationer til at gøre det samme.

Både Vosloo og Zeng håber, at retningslinjerne ved at formulere de unikke bekymringer, kunstig intelligens udgør for børn, vil øge bevidstheden om disse problemer. Vi kommer ind i det her med åbne øjne, siger Vosloo. Vi forstår, at dette er en slags nyt område for mange regeringer og virksomheder. Så hvis vi over tid ser flere eksempler på, at børn er inkluderet i AI- eller politikudviklingscyklussen, mere omsorg for, hvordan deres data indsamles og analyseres - hvis vi ser AI gjort mere forklarlig for børn eller deres omsorgspersoner - ville det være en gevinst for os.

skjule