Guide de Big Tech pour parler de l'éthique de l'IA

Andréa Daquino

Les chercheurs en intelligence artificielle disent souvent qu'un bon apprentissage automatique relève plus de l'art que de la science. La même chose pourrait être dite pour des relations publiques efficaces. Choisir les bons mots pour adopter un ton positif ou recadrer la conversation sur l'IA est une tâche délicate : bien faite, elle peut renforcer son image de marque, mais mal faite, elle peut déclencher un contrecoup encore plus grand.

Les géants de la technologie le sauraient. Au cours des dernières années, ils ont dû apprendre cet art rapidement car ils ont dû faire face à une méfiance croissante du public à l'égard de leurs actions et à une intensification des critiques à propos de leurs recherches et technologies sur l'IA.

Maintenant, ils ont développé un nouveau vocabulaire à utiliser lorsqu'ils veulent assurer au public qu'ils se soucient profondément du développement responsable de l'IA, mais veulent s'assurer qu'ils n'invitent pas trop à l'examen. Voici un guide d'initié pour décoder leur langage et remettre en question les hypothèses et les valeurs intégrées.

responsabilité (n) - Le fait de tenir quelqu'un d'autre responsable pour les conséquences lorsque votre système d'IA tombe en panne.

précision (n) - Exactitude technique. La mesure la plus importante du succès dans l'évaluation des performances d'un modèle d'IA. Voir validation .

adversaire (n) - Un ingénieur seul capable de perturber votre puissant système d'IA générateur de revenus. Voir robustesse , Sécurité .

alignement (n) - Le défi de concevoir des systèmes d'IA qui font ce que nous leur disons et valorisent ce que nous valorisons. Volontairement abstrait. Évitez d'utiliser des exemples réels de conséquences nocives non intentionnelles. Voir sécurité .

intelligence artificielle générale (locution) - Un dieu IA hypothétique c'est probablement loin dans le futur mais peut-être aussi imminent. Peut être vraiment bon ou vraiment mauvais, selon ce qui est le plus utile sur le plan rhétorique. De toute évidence, vous construisez le bon. Ce qui coûte cher. Par conséquent, vous avez besoin de plus d'argent. Voir risques à long terme .

Audit (n) - Une critique que vous payez quelqu'un d'autre pour faire de votre entreprise ou de votre système d'IA afin que vous apparaissiez plus transparent sans avoir besoin de changer quoi que ce soit. Voir évaluation de l'impact .

augmenter (v) - Accroître la productivité des cols blancs. Effet secondaire : automatiser les emplois de cols bleus. Triste mais inévitable.

bénéfique (adj) - Un descripteur général pour ce que vous essayez de construire. Idéalement mal défini. Voir valeur .

intentionnellement (ph) - Comme dans l'équité à dessein ou la responsabilité à dessein. Une phrase pour signaler que vous pensez sérieusement à des choses importantes depuis le début.

conformité (n) - L'acte de suivre la loi. Tout ce qui n'est pas illégal passe.

étiqueteurs de données (ph) - Les personnes qui existent prétendument derrière l'interface Mechanical Turk d'Amazon faire un travail de nettoyage de données pour pas cher. Je ne sais pas qui ils sont. Je ne les ai jamais rencontrés.

démocratiser (v) - Mettre à l'échelle une technologie à tout prix. Une justification de la concentration des ressources. Voir échelle .

diversité, équité et inclusion (ph) - Le fait d'embaucher des ingénieurs et des chercheurs issus de groupes marginalisés afin de pouvoir les faire défiler devant le public. S'ils remettent en cause le statu quo, les virer .

Efficacité (n) - L'utilisation de moins de données, de mémoire, de personnel ou d'énergie pour construire un système d'IA.

comité d'éthique (ph) - Un groupe de conseillers sans pouvoir réel, convoqué pour donner l'impression que votre entreprise est activement à l'écoute. Exemples: Le comité d'éthique de l'IA de Google (annulé), le conseil de surveillance de Facebook (toujours debout).

principes éthiques (ph) - Un ensemble de truismes utilisés pour signaler vos bonnes intentions. Gardez-le à un niveau élevé. Plus le langage est vague, mieux c'est. Voir IA responsable .

explicable (adj) - Pour décrire un système d'IA que vous, le développeur et l'utilisateur pouvez comprendre. Beaucoup plus difficile à atteindre pour les personnes sur lesquelles il est utilisé. Cela ne vaut probablement pas la peine. Voir interprétable .

justice (n) - Un complexe notion d'impartialité utilisé pour décrire des algorithmes non biaisés. Peut être défini de dizaines de façons en fonction de vos préférences.

pour de bon (ph) - Comme dans l'IA pour de bon ou données pour de bon . Une initiative complètement tangentielle à votre cœur de métier qui vous aide à générer une bonne publicité.

prévoyance (n) - La capacité de scruter l'avenir. Fondamentalement impossible : ainsi, une explication parfaitement raisonnable de la raison pour laquelle vous ne pouvez pas débarrasser votre système d'IA des conséquences imprévues.

cadre (n) - Un ensemble de lignes directrices pour la prise de décisions. Un bon moyen de paraître réfléchi et mesuré tout en retardant la prise de décision réelle.

généralisable (adj) - Le signe d'un bon modèle d'IA. Celui qui continue à fonctionner dans des conditions changeantes. Voir monde réel .

gouvernance (n) - Bureaucratie.

conception centrée sur l'humain (ph) - Un processus qui consiste à utiliser des personnages pour imaginer ce qu'un utilisateur moyen pourrait attendre de votre système d'IA. Peut impliquer de solliciter des commentaires d'utilisateurs réels. Seulement s'il reste du temps. Voir parties prenantes .

humain dans la boucle (ph) - Toute personne faisant partie d'un système d'IA. Les responsabilités vont de simuler les capacités du système pour parer aux accusations d'automatisation.

évaluation de l'impact (ph) - Un examen que vous faites vous-même de votre entreprise ou de votre système d'IA pour montrer votre volonté de considérer ses inconvénients sans rien changer. Voir Audit .

interprétable (adj) - Description d'un système d'IA dont vous, le développeur, pouvez suivre le calcul étape par étape pour comprendre comment il est arrivé à sa réponse. En fait probablement juste une régression linéaire. L'IA sonne mieux.

intégrité (n) - Problèmes qui compromettent les performances techniques de votre modèle ou la capacité d'évolution de votre entreprise. À ne pas confondre avec les problèmes qui sont mauvais pour la société. A ne pas confondre avec l'honnêteté.

interdisciplinaire (adj) – Terme utilisé pour toute équipe ou projet impliquant des personnes qui ne codent pas : chercheurs utilisateurs, chefs de produit, philosophes moraux. Surtout les philosophes moraux.

risques à long terme (n) - De mauvaises choses qui pourraient avoir des effets catastrophiques dans un avenir lointain. Cela n'arrivera probablement jamais, mais il est plus important d'étudier et d'éviter que les dommages immédiats des systèmes d'IA existants.

les partenaires (n) - D'autres groupes d'élite qui partagent votre vision du monde et peuvent travailler avec vous pour maintenir le statu quo. Voir parties prenantes .

compromis sur la vie privée (ph) - Le noble sacrifice du contrôle individuel sur les informations personnelles pour des avantages collectifs tels que les progrès des soins de santé basés sur l'IA, qui se révèlent également très rentables.

le progrès (n) - Progrès scientifique et technologique. Un bien inhérent.

monde réel (ph) - Le contraire du monde simulé. Un environnement physique dynamique rempli de surprises inattendues que les modèles d'IA sont entraînés à survivre. À ne pas confondre avec les humains et la société.

régulation (n) - Ce que tu appelles de transférer la responsabilité de l'atténuation de l'IA nuisible aux décideurs politiques. À ne pas confondre avec des politiques qui entraveraient votre croissance.

IA responsable (n)- Un surnom pour tout travail dans votre entreprise qui pourrait être interprété par le public comme un effort sincère pour atténuer les méfaits de vos systèmes d'IA.

robustesse (n) - La capacité d'un modèle d'IA à fonctionner de manière cohérente et précise malgré des tentatives infâmes de alimentez-le en données corrompues .

sécurité (n)- Le défi de construire des systèmes d'IA qui ne vont pas à l'encontre des intentions du concepteur. À ne pas confondre avec la construction de systèmes d'IA qui n'échouent pas. Voir alignement .

échelle (n)- L'état final de facto que tout bon système d'IA devrait s'efforcer d'atteindre.

Sécurité (n) - Le fait de protéger les données précieuses ou sensibles et les modèles d'IA contre les violations par des acteurs malveillants. Voir adversaire .

parties prenantes (n) - Actionnaires, régulateurs, utilisateurs. Les gens au pouvoir que vous voulez garder heureux.

transparence (n) - Révéler vos données et votre code. Mauvais pour les informations exclusives et sensibles. Donc vraiment dur; franchement, voire impossible. À ne pas confondre avec une communication claire sur le fonctionnement réel de votre système.

fiable (adj) - Une évaluation d'un système d'IA qui peut être fabriqué avec suffisamment de publicité coordonnée.

revenu de base universel (ph) - L'idée que payer à chacun un salaire fixe résoudra le bouleversement économique massif provoqué lorsque l'automatisation entraîne des pertes d'emplois généralisées. Popularisé par le candidat à la présidentielle de 2020 Andrew Yang. Voir redistribution des richesses .

validation (n) - Le processus de test d'un modèle d'IA sur des données autres que les données sur lesquelles il a été formé, pour vérifier qu'il est toujours précis.

valeur (n) - Un avantage intangible rendu à vos utilisateurs qui vous rapporte beaucoup d'argent.

valeurs (n) - Vous les avez. Rappelez aux gens.

redistribution des richesses (ph) - Une idée utile pour pendre autour quand les gens vous critiquent parce que vous utilisez beaucoup trop de ressources et gagnez beaucoup trop d'argent. Comment fonctionnerait la redistribution des richesses ? Le revenu de base universel, bien sûr. Ce n'est pas non plus quelque chose que vous pourriez comprendre vous-même. Nécessiterait une réglementation. Voir régulation .

suspendre la publication (ph) - L'acte bienveillant de choisir de ne pas ouvrir votre code parce qu'il pourrait tomber entre les mains d'un mauvais acteur. Mieux vaut limiter l'accès aux partenaires qui peut se le permettre.

cacher