211service.com
Ne soyez pas IA-vil : Google dit que ses algorithmes ne feront aucun mal
IYIKON/anbileru adaleru/yaroslav samoylov/SBTS/Hea Pon Lin (The Noun Project)
Google a créé un code de déontologie de l'intelligence artificielle qui interdit le développement d'armes autonomes. Mais les principes laissent suffisamment de marge de manœuvre à Google pour bénéficier d'accords de défense lucratifs sur toute la ligne.
Cette annonce fait suite à d'importantes protestations internes contre l'utilisation de la technologie d'intelligence artificielle de Google par une initiative du ministère de la Défense appelée Algorithmic Warfare Cross-Functional Team. L'objectif de cette entreprise, connue en interne sous le nom de Maven du projet , est d'améliorer la précision des frappes de drones, entre autres.
Le mois dernier, une douzaine d'employés de Google ont démissionné à cause du scandale, et beaucoup d'autres ont signé une lettre ouverte de protestation.
Le tumulte reflète les craintes que beaucoup ont sur la façon dont la technologie pourrait aider à automatiser la guerre à l'avenir. La situation n'est cependant pas simple.
L'intelligence artificielle pourrait aider à rendre certains systèmes d'armes plus sûrs et moins sujets aux erreurs. Il existe également de nombreuses applications banales de l'IA dans l'industrie de la défense. Google ne veut pas renier cet énorme marché potentiel pour sa technologie d'intelligence artificielle dans le cloud.
Le PDG de Google, Sundar Pichai, a annoncé aujourd'hui le nouveau code dans un article de blog. Il suggère sept principes pour guider l'utilisation de l'IA par Google, déclarant qu'elle devrait bénéficier à la société ; éviter les biais algorithmiques ; respecter la vie privée; être testé pour la sécurité ; rendre des comptes au public; maintenir la rigueur scientifique; et être mis à la disposition d'autrui conformément aux mêmes principes.
Mais Pichai a également pris soin de déclarer que Google ne permettrait pas que sa technologie d'intelligence artificielle soit utilisée pour développer quoi que ce soit qui pourrait causer des dommages, y compris des armes ou d'autres technologies dont le but principal ou la mise en œuvre est de causer ou de faciliter directement des blessures aux personnes.
Pichai a déclaré que Google éviterait également de développer une technologie de surveillance qui viole les normes internationalement acceptées sur les droits de l'homme, ou toute technologie qui contrevient aux lois internationales.
L'intelligence artificielle se développe rapidement et Google a rencontré d'autres problèmes impliquant des projets d'IA. L'un de ses systèmes de vision par ordinateur, par exemple, a identifié à plusieurs reprises des personnes d'origine africaine comme des gorilles. L'entreprise a abandonné sa devise Don't be evil en avril, mais elle conserve une culture idéaliste.
Les utilisations militaires de l'intelligence artificielle pourraient être de plus en plus controversées à mesure que la technologie est adoptée de nouvelles façons et que les entreprises cherchent à vendre leur technologie d'intelligence artificielle dans le cloud aussi largement que possible.
L'apprentissage automatique et l'intelligence artificielle deviendront inévitablement plus importants pour les travaux de renseignement et de défense. D'autres entreprises technologiques américaines, dont Amazon et Microsoft, ont soumissionné sur un projet de cloud computing de plusieurs milliards de dollars avec le Pentagone.