AI har et kulturelt forudindtaget verdenssyn, som Google har en plan om at ændre

Kategori: Kunstig intelligens Udsendt 02 dec

Google har lanceret en Inklusiv billedkonkurrence , et forsøg på at udvide den kulturelle flydende billedgenkendelsessoftware. Opgaven for deltagere: reducere skævheden i et computervisionssystem trænet på et kulturelt forudindtaget billeddatasæt.

Konteksten: Maskiner skal trænes i enorme mængder billeddata for at kunne genkende objekter. De seneste spring i billedgenkendelse er faldet sammen med udgivelsen af ​​store, offentligt tilgængelige datasæt, bl.a. ImageNet og Åbn Billeder .

Problemet: De mest populære datasæt er imidlertid USA- og Vest-centrerede – simpelthen fordi disse vestlige billeder dominerede internettet, da datasættene blev kompileret. Som en konsekvens heraf undlader systemer, der er trænet på dem, ofte at beskrive scener fra andre kulturer og lokaliteter præcist. Tag bryllupsbilleder som eksempel. Et standard billedgenkendelsessystem, trænet i open source-datasæt, kan genkende en brud i en hvid kjole, hvilket afspejler den klassiske vestlige tradition. Men den vil ikke genkende en brud i en sari fra en indisk ceremoni.

Udfordringen: En måde at afbøde dette problem på er at bygge mere forskelligartede og repræsentative billeddatasæt. Mens Google forfølger denne tilgang, tror virksomheden også på at gøre fremskridt på en anden måde: ved at tilpasse selve maskinlæringsalgoritmerne til at være mere inkluderende, når de lærer af uperfekte data.

Resultaterne: Konkurrencen blev afholdt i samarbejde med Neural Information Processing Systems (NeurIPS), en af ​​de største årlige samlinger for AI-forskning, og modtog bidrag fra over 100 deltagere. Google Brain-forsker Pallavi Baljekar bemærkede ved en konferencetale søndag den 2. december, at det første år konkurrence vindere var i stand til at tage små skridt mod mere inkluderende systemer. Men kun en af ​​de fem bedste tilgange genkendte en indisk brud med succes. Det er klart, at der skal arbejdes mere.