211service.com
Farerne ved Tech-Bro AI
Tabitha Goldstaub, en medstifter af KognitionX , som hjælper virksomheder med at implementere AI, siger, at diversificering af feltet er nødvendigt for at sikre, at produkterne faktisk fungerer godt. 24. oktober 2017
Miguel Porlan
Hvis du tænker på kunstig intelligens og kernekomponenterne i, hvad der gør en AI, har du det faktum, at den har fået et mål og derefter vil finde en måde at nå dette mål. Det er så ofte meget ugennemsigtigt, hvordan det nåede det mål. Hvis du bygger en eller anden ubevidst bias ind i en maskine, ved du måske ikke, at den er der; outputtet kan være skadeligt for kvinder, og det er meget svært at finde ud af, præcis hvorfor det er sket.
I traditionel teknologi kan du se [hvad der er sket]: kvinder, der dør i bilulykker fordi crashtest-dukkerne var formen af en mand snarere end formen af en kvinde. [Med AI kunne der være] lignende liv-eller-død-situationer, i narkotikaforsøg eller i autonome køretøjer og sådan noget.
Denne historie var en del af vores november 2017-udgave
- Se resten af problemet
- Abonner
Der er nogle eksempler på [kønsbias i AI i dag]: Google-annoncer, der viser mere indtjenende [job]-annoncer til mænd end kvinder . Vi kan antage andre typer situationer, der ville ske - hvad nu hvis kvinder ikke var lige så i stand til at få lån eller realkreditlån eller forsikring?
Jeg har ikke et dystopisk syn på AI. Jeg ser ikke dræberrobotter. Jeg er så meget mere fokuseret på de smalle applikationer, og jeg tror, at hvis man ser på hver eneste af de snævre applikationer, er der en chance for, at det påvirker kvinder negativt. Jeg tror ikke, at kunstig intelligens er problemet her; det er det ekstra problem snarere end årsagen. Vi taler om risikoen for, at vores ubevidste sexisme eller ubevidste racisme trænger ind i de maskiner, vi bygger.
Hvordan får vi nogen, der bygger AI, til at tænke over disse ting? Vi skal have forbrugerne til at efterspørge etisk kunstig intelligens. Ikke nok mennesker ser dette som mere end blot et kønsproblem; dette er et faktisk, grundlæggende produktproblem.
— som fortalt til Rachel Metz