Pourquoi les chercheurs en IA devraient reconsidérer leur implication dans des projets militaires

Port Jérémy

Les travailleurs de l'industrie technologique qui ont protesté contre les contrats avec l'armée devraient reconsidérer leur position, selon un conseiller du ministère de la Défense.

Brendan McCord, un expert en intelligence artificielle qui a participé au projet Maven, le programme du DoD visant à accélérer l'intelligence artificielle et l'apprentissage automatique à des fins militaires, a déclaré qu'un engagement constructif avec les forces armées était nécessaire pour éviter les mauvaises décisions.

En juin, Google mentionné il ne fonctionnerait plus avec Project Maven après plus de 4 000 employés signé une lettre qui accusait l'entreprise d'être dans le commerce de la guerre.

Mais s'exprimant à EmTech Digital, la conférence sur l'IA du MIT Technology Review, McCord a déclaré qu'il serait préférable pour la société dans son ensemble de voir de telles collaborations se poursuivre, et pour les employés dissidents impliqués dans des projets d'IA de réexaminer leur position.

La plupart ici aujourd'hui conviendraient que les militaires et leur rôle dans la dissuasion, l'attaque et la défense font partie du monde, et ils le seront dans un avenir prévisible, a-t-il déclaré. Une stratégie d'engagement constructif plutôt qu'une stratégie de non-participation est beaucoup plus optimale.

Travailler sur l'IA pour la défense ne vous rend pas moins respectueux des principes, a-t-il ajouté.

La nature secrète du projet Maven, qui se concentrerait sur l'amélioration de l'analyse des images capturées par des drones militaires, avait suscité l'inquiétude d'un large groupe de chercheurs en IA. Mais les forces armées américaines restent une force puissante pour promouvoir la paix et la stabilité dans le monde, a déclaré McCord, reflétant les arguments selon lesquels les chercheurs en intelligence artificielle qui rejettent l'armée par principe donnent en fait l'avantage à ceux qui ont des normes éthiques moins rigoureuses, y compris d'autres nations.

Alors que McCord a déclaré qu'il ne s'attendrait pas à ce que les pacifistes anti-guerre changent d'avis, il a demandé aux chercheurs de réfléchir à ce qui se passerait si d'autres pays faisaient leurs propres progrès dans des domaines émergents. Une attitude plus positive envers l'armée est particulièrement importante, a-t-il ajouté, puisque les gouvernements jouent désormais un rôle moins important dans le développement de nouvelles découvertes technologiques qu'auparavant.

À la fin de la guerre froide, le centre de l'innovation s'est déplacé vers le secteur privé, a-t-il déclaré. Le monde a changé. La capacité du gouvernement et le rôle du gouvernement ont été réduits à un point tel qu'ils n'ont jamais été aussi faibles à mon avis. L'effet net est que les grandes entreprises technologiques ont assumé le rôle - qu'elles le veuillent ou non - d'être les arbitres. Ils s'autorégulent souvent.

De nombreux développements technologiques majeurs, notamment Internet, le GPS et les assistants virtuels, sont le résultat d'investissements du ministère de la Défense. Mais depuis la fin de la guerre froide, les dépenses de recherche et développement du DoD ont diminué. Au milieu des années 1980, les budgets publics et privés de R&D étaient à peu près égaux, soit environ 55 milliards de dollars par an. Depuis lors, le gouvernement a doublé ses investissements, tandis que des entreprises privées, telles que Google, Microsoft, Facebook et Amazon, ont considérablement augmenté leurs budgets privés à plus de 350 milliards de dollars chaque année.

NSF, National Center for Science and Engineering Statistics, National Patterns of R&D Resources (séries annuelles)

Cependant, alors que les grandes entreprises technologiques peuvent ne pas être transparentes sur leur travail, le gouvernement a lui-même été critiqué. Il a été rapporté plus tôt cette semaine par l'Intercept que le Pentagone a rejeté les demandes d'accès à l'information pour les données sur le projet Maven , affirmant que ses documents sont exemptés de l'examen public.

McCord conserve un rôle consultatif au ministère de la Défense, mais il a récemment quitté son emploi à temps plein pour rejoindre le secteur privé. Il occupe désormais un poste de direction chez Tulco Labs, une nouvelle société axée sur l'innovation au travail fondée par le milliardaire du divertissement Thomas Tull.

Il a terminé en disant qu'il est impératif que les employés de l'industrie aident à contrôler leurs employeurs, citant le biologiste et théoricien E.O. Wilson.

Le vrai problème de l'humanité, a-t-il dit, est que nous avons des émotions paléolithiques, des institutions médiévales et une technologie divine.

cacher