Et spil om civilisation kan hjælpe folk med at forstå AI's eksistentielle trussel

Kategori: Kunstig intelligens Udsendt jan 08

Forskere ved University of Cambridge byggede et spilmod til Civilization, der giver folk mulighed for at vokse – og tæmme – en menneskesejrende superintelligens.

Spillet: Shahar Avin fra universitetets Center for Study of Existential Risk siger spillet giver spillere mulighed for at opbygge AI R&D-kapacitet i deres virtuelle verden. Succes er en AI, der er smartere end mennesket. Samtidig opbygger og mindskes slyngelstatisk AI-risiko kun gennem sikkerhedsforskning.

Målet: Vi ønskede at teste vores forståelse af begreberne relateret til eksistentiel risiko fra kunstig superintelligens ved at implementere dem i en begrænset, men rig verdenssimulator, [og også teste hvordan] spillere reagerer … når de får mulighed for selv at træffe AI-beslutninger, fortalte Avin mig.

Frygt eller accept: Projektet er også et opsøgende værktøj, der tager alvorlige problemer ud til et bredere publikum. Avin er klar over, at det kunne opretholde frygten for kunstig intelligens. Han argumenterer dog for, at spillere ser risikoen, men også ser rækken af ​​værktøjer til deres rådighed for at afbøde den.