Un jeu de civilisation peut aider les gens à comprendre la menace existentielle de l'IA

Catégorie: Intelligence artificielle Posté 08 janvier

Des chercheurs de l'Université de Cambridge ont créé un mod de jeu pour Civilization qui permet aux gens de développer et d'apprivoiser une superintelligence humaine.

Le jeu: Shahar Avin du Centre d'étude du risque existentiel de l'université dit le jeu permet aux joueurs de renforcer la capacité de R&D en IA dans leur monde virtuel. Le succès est une IA plus intelligente que l'humain. Simultanément, le risque lié à l'IA malveillante augmente et n'est atténué que par la recherche sur la sécurité.

Le but: Nous voulions tester notre compréhension des concepts liés au risque existentiel de la superintelligence artificielle en les déployant dans un simulateur de monde restreint mais riche, [and also test how] les joueurs réagissent… lorsqu'ils ont la possibilité de prendre eux-mêmes des décisions en matière d'IA, m'a dit Avin.

Peur ou acceptation : Le projet est également un outil de sensibilisation, abordant des questions sérieuses auprès d'un public plus large. Avin est conscient que cela pourrait perpétuer les craintes concernant l'IA. Il soutient cependant que les joueurs voient le risque, mais voient également la gamme d'outils à leur disposition pour l'atténuer.