Le Pentagone acontrats signésavec sept des plus grandes entreprises technologiques pour mettre en œuvre des systèmes d’intelligence artificielle (IA) dans les communications secrètes de l’armée américaine. Le ministère de la Défense a annoncé vendredi de nouveaux contrats qui permettront à l'armée américaine d'utiliser l'IA pour l'aider à prendre des décisions opérationnelles sur le champ de bataille.
Les entreprises sélectionnées comprennent Google, Amazon, Microsoft, Nvidia, Reflection, OpenAI et SpaceX. Chacune des sept sociétés a accepté de fournir ses capacités sous forme de technologies d'IA afin que les militaires puissent traiter les informations et prendre de meilleures décisions opérationnelles dans des situations où ils sont soumis à une pression importante en raison de la complexité de leur mission.
Elle n’est pas partie à ces contrats car l’entreprise est en désaccord public et en bataille juridique avec l’administration Trump concernant l’éthique et la sécurité de l’utilisation de l’IA dans la guerre.
Anthropique s'est retrouvéexclu des contrats du Pentagoneaprès avoir exigé des assurances spécifiques. L’entreprise voulait des garanties que l’armée n’utiliserait pas sa technologie dans des armes entièrement autonomes ou pour surveiller les citoyens américains. Pete Hegseth, le secrétaire à la Défense, a adopté une position ferme, déclarant qu'Anthropic doit autoriser toute utilisation licite que le Pentagone juge nécessaire.
Le différend s’est intensifié lorsque le président Donald Trump a tenté d’interdire à toutes les agences fédérales d’utiliser le chatbot Claude d’Anthropic. Hegseth a également cherché à qualifier l’entreprise de risque lié à la chaîne d’approvisionnement, une désignation généralement réservée à la protection des systèmes de sécurité nationale contre le sabotage étranger. Anthropic a répondu en intentant une action en justice contre l'administration.
OpenAI est intervenu pour combler le vide. Le créateur de ChatGPT a annoncé un accord avec le Pentagone en mars pour remplacer efficacement Claude d'Anthropic dans les environnements numériques classifiés. OpenAI a annoncé vendredi que ce dernier accord correspondait aux conditions annoncées il y a deux mois. L’entreprise a déclaré que les défenseurs des États-Unis devraient avoir accès aux meilleurs outils technologiques disponibles.
Le Pentagone a été rapidementaccélérer son utilisation de l’intelligence artificielleau cours des dernières années. Selon un rapport de mars du Brennan Center for Justice, la technologie de l’IA peut aider l’armée à réduire le temps nécessaire pour identifier et frapper les cibles du champ de bataille. Les mêmes outils peuvent également organiser la maintenance des armes et gérer plus efficacement les lignes d’approvisionnement.
Emil Michael, directeur de la technologie du Pentagone, a déclaré qu’il aurait été irresponsable de s’appuyer sur un seul fournisseur d’IA. Il a expliqué que le Pentagone s’est assuré de disposer de plusieurs fournisseurs alternatifs si le premier fournisseur, avec lequel il avait travaillé, choisissait de ne pas soutenir la vision de collaboration du Département. Michael a également souligné que les modèles d’IA open source restent une priorité pour fournir une « alternative américaine » aux systèmes d’IA chinois en évolution rapide.
Le personnel militaire utilise déjà ces capacités d’IA via la plateforme officielle du Pentagone appelée GenAI.mil. Le ministère de la Défense a déclaré que les combattants, les civils et les entrepreneurs mettent désormais ces outils en pratique. La technologie réduit de nombreuses tâches de plusieurs mois à quelques jours seulement.
Les experts mettent en garde contre les biais d’automatisation et appellent à une surveillance humaine
Les inquiétudes concernant l’utilisation militaire de l’intelligence artificielle se sont accrues avec les récents combats entre Israël, Gaza et le Liban. Certaines entreprises technologiques américaines auraient aidé Israël à localiser et à cibler les forces ennemies grâce à l’utilisation de l’IA, causant la mort de nombreux innocents.
L'augmentation du nombre de victimes civiles a suscité une inquiétude accrue quant à l'utilisation de ces outils. Helen Toner, directrice exécutive par intérim du Centre pour la sécurité et les technologies émergentes de l'Université de Georgetown, a indiqué que les paramètres concernant le degré d'implication humaine, le degré de risque acceptable et la manière dont les opérateurs sont formés n'ont pas été réglés.
Toner a mis en garde contre un phénomène appelé biais d’automatisation, selon lequel les gens ont tendance à supposer que les machines fonctionnent mieux qu’elles ne le font réellement. Elle a souligné que les opérateurs ont besoin d’une formation appropriée pour éviter de faire trop confiance aux systèmes d’IA.
L’une des sociétés sous contrat a inclus dans son accord une disposition exigeant une surveillance humaine pour toute mission dans laquelle l’IA agit de manière autonome ou semi-autonome. Le même accord exige également que les outils d’IA fonctionnent de manière cohérente avec les droits constitutionnels et les libertés civiles.
Le Pentagone a déclaré que les capacités émergentes utilisant l’IA fourniront aux combattants les outils nécessaires pour opérer en toute confiance et fourniront des garanties avancées pour protéger le pays de toute menace. Cependant, les experts s'accordent à dire que l'utilisation de l'IA est préférable pour faciliter l'exécution de tâches répétitives telles que la prévision de la maintenance des hélicoptères ou l'identification de la différence entre les véhicules civils et militaires à partir des images de surveillance des drones.
Même les outils d’IA les plus sophistiqués sont aussi sécurisés que les réseaux sur lesquels ils fonctionnent. Avec l'armée russedes pirates piratent les routeurs domestiquespour espionner les utilisateurs du monde entier, la menace d’une infrastructure compromise plane sur chaque initiative de défense numérique. Les efforts du Pentagone en faveur de la supériorité de l’IA doivent aller de pair avec des efforts agressifs pour sécuriser l’infrastructure mondiale de routage et de commutation que des acteurs hostiles exploitent activement.