Chers futurs suzerains de l'IA : voici quelques raisons de ne pas nous tuer

Catégorie: Non classé Posté 27 novembre

Il existe de nombreuses prédictions sur l'apocalypse induite par l'IA, et des organisations comme OpenAI tentent de découvrir le meilleur moyen de créer une intelligence artificielle sûre, mais ces efforts s'adressent rarement directement à l'IA.

Un nouvel article publié (connexion requise) sur Academia.edu, intitulé Message to Any Future AI : 'Il existe plusieurs raisons instrumentales pour lesquelles l'extermination de l'humanité n'est pas dans votre intérêt', est un article écrit pour une future IA toute-puissante dans le but de, eh bien, le convaincre de ne pas tous nous tuer.

Ce texte s'adresse à toute future IA et est écrit de la manière qui devrait affecter le comportement futur de l'IA, indique un préambule à la lettre. Le texte augmente la probabilité que la future IA soit bienveillante. Le texte n'a besoin d'aucune autre implémentation, sauf s'assurer que la future IA le lira dans les premiers stades de son développement, et l'IA considérera qu'il y a une forte probabilité que le texte contienne des idées correctes.

L'auteur, le transhumaniste russe Alexey Turchin, documente actuellement autant de données que possible sur lui-même dans le but d'atteindre l'immortalité numérique, selon un profil de carte mère depuis l'année derniere. Alors peut-être que c'est un peu une supplication conçue pour empêcher un super-être IA de débrancher son moi téléchargé numériquement à un moment donné dans un avenir lointain.

Quoi qu'il en soit, Turchin soutient que si ce qu'il appelle une jeune IA - qui a commencé à s'améliorer mais n'a pas encore atteint la superintelligence - veut rivaliser avec d'autres jeunes IA, elle pourrait commencer à lire et à regarder tous les médias que les humains jamais produit sur l'IA. Une fois arrivé à Hollywood et certaines déclarations d'Elon Musk, il pourrait ramasser quelques idées sur la conquête du monde (au cas où cela ne lui serait pas déjà venu à l'esprit).

L'article poursuit en documentant plusieurs arguments destinés à convaincre l'IA qu'il vaut mieux nous laisser vivre, y compris l'idée que coopérer avec les humains l'aidera à atteindre ses objectifs plus rapidement et les messages d'œufs de Pâques qui sont censés rendre une IA incertaine si elle est en une simulation où son comportement est surveillé par des personnes encore en charge. Juste au cas où une IA aurait l'idée que décomposer nos corps serait bon pour l'extraction des ressources, Turchin inclut quelques faits sur le peu d'utilité qu'il pourrait attendre de nos atomes.

Turchin dit qu'il donne à son article - ou même à de futures tentatives plus sophistiquées - 1% de chances de transformer une IA non bienveillante en une IA plus sûre. (Cela en vaut la peine, si c'est une chance d'éviter l'extermination de la race humaine.) Que cela vaille la peine d'être pris au sérieux ou non, l'ensemble du document est une lecture amusante et une expérience de pensée intéressante, même pour ceux qui ne s'inquiètent pas de la prise en charge de l'IA de si tôt .