Le contrôle des armements par IA pourrait ne pas être possible, prévient Henry Kissinger

Catégorie: Intelligence artificielle Posté 01 mars

Henry Kissinger, ancien secrétaire d'État américain et géant controversé de la politique étrangère américaine, estime qu'il peut être beaucoup plus difficile de contrôler le développement des armes IA que celles nucléaires.

Coups de semonce : S'exprimant lors d'un événement au MIT hier, Kissinger a averti que les nouveaux développements de l'IA entraîneront toutes sortes de dangers. En particulier, il craint que les armes de l'IA ne soient plus difficiles à contrôler que les armes nucléaires, car le développement de la technologie se fera en secret : avec l'IA, l'ignorance de l'autre partie est l'une de vos meilleures armes - le partage sera beaucoup plus difficile.

Mouvement pour la paix : Il n'est pas la seule personne à s'inquiéter d'une course aux armements contre l'IA. Un nombre important d'universitaires, de chercheurs de l'industrie et de sommités technologiques ont soutenu un campagne pour interdire l'utilisation des armes autonomes .

Trafic d'armes : La question est difficile, cependant. Comme l'écrit le chercheur en sécurité Paul Scharre dans un livre récent, Armée de rien , l'autonomie s'est glissée dans les systèmes d'armes depuis des décennies. Il n'est pas toujours facile de tracer une ligne autour des systèmes autonomes, et la technologie est séduisante car elle peut être utilisée pour rendre les armes plus fiables.

Abrutissement : Kissinger a été une sorte d'opposant à l'IA ces derniers temps. Après avoir découvert AlphaGo, il a écrit un article dans l'Atlantic avertissant que la technologie pourrait modifier la nature des connaissances et des découvertes humaines d'une manière qui finirait par nuire à l'humanité ( Comment se terminent les Lumières ).

En maîtrisant certaines compétences plus rapidement et définitivement que les humains, [l'IA] pourrait au fil du temps diminuer la compétence humaine et la condition humaine elle-même en la transformant en données, a écrit Kissinger. Philosophiquement, intellectuellement – ​​à tous points de vue – la société humaine n'est pas préparée à l'essor de l'intelligence artificielle.