Anthropic rejette les exigences de l'armée américaine concernant l'IA pour supprimer les mesures de sécurité

(L’entreprise d’intelligence artificielle Anthropic a rejeté jeudi la demande du Pentagone d’un accès sans restriction à son modèle Claude, suggérant qu’elle est prête à risquer les graves sanctions menacées par le secrétaire à la Défense Pete Hegseth,** rapporte AzerNEWS via Politico.

« [Ces] menaces ne changent pas notre position », a écrit le PDG d’Anthropic, Dario Amodei, dans un article publié jeudi. Il a déclaré que la société « ne peut pas, en conscience, accéder à la demande [du Pentagone] ».

La défiance d’Anthropic fait suite à une pression sans précédent du Pentagone pour abandonner ses restrictions sur l’utilisation de Claude par l’armée. Lors d’une réunion mardi avec Hegseth, Amodei a réitéré ses lignes rouges, à savoir une interdiction d’utiliser la technologie pour surveiller les citoyens américains ou pour renforcer des armes autonomes.

Hegseth avait menacé de désigner Anthropic comme un risque pour la chaîne d’approvisionnement du Pentagone si l’entreprise ne se conformait pas d’ici 17h01 vendredi. Cette étiquette est presque toujours réservée aux entreprises étrangères ayant des liens avec des adversaires des États-Unis, et pourrait être utilisée par le gouvernement pour mettre Anthropic sur liste noire et l’empêcher de collaborer avec d’autres sociétés.

Le Pentagone planifiait également d’utiliser la loi sur la production de défense de l’époque de la Guerre froide pour contraindre Anthropic à lever ses restrictions sur l’utilisation de son modèle. Cette loi permet au gouvernement de prendre le contrôle d’actifs privés critiques en temps de guerre ou d’urgence nationale.

Dans un communiqué, un porte-parole d’Anthropic, qui a insisté pour rester anonyme, a déclaré avoir reçu du Pentagone dans la nuit un langage contractuel « qui n’a pratiquement pas avancé sur la prévention de l’utilisation de Claude pour la surveillance de masse des Américains ou dans des armes entièrement autonomes ». Le porte-parole a précisé que, malgré une apparence de compromis, ce nouveau langage « était accompagné d’une terminologie juridique qui permettrait d’ignorer ces mesures de sécurité à volonté ».

Jeudi, CBS News a rapporté que le langage contractuel envoyé dans la nuit à Anthropic représentait la « dernière offre » du Pentagone. Mais dans son article, Amodei a laissé entendre une volonté de poursuivre les négociations avec le DOD. « Notre préférence forte est de continuer à servir le Département et nos combattants - avec nos deux mesures de sécurité demandées en place », a écrit le PDG d’Anthropic.

Le porte-parole de la société a indiqué qu’Anthropic « reste prêt à poursuivre les discussions ». Il est encore possible qu’un accord se concrétise avant la date limite de vendredi.

Il n’est pas immédiatement clair si ou comment le Pentagone va donner suite à ses menaces. Un porte-parole du DOD n’a pas répondu immédiatement à une demande de commentaire.

La décision de Hegseth d’invoquer la DPA suggère que le Pentagone considère les modèles d’IA d’Anthropic comme d’une importance cruciale pour la défense nationale des États-Unis - une position que certains avocats et responsables de l’IA ont jugée contradictoire, étant donné que le Pentagone affirme simultanément que l’entreprise pourrait représenter un risque pour la sécurité nationale. La contradiction a été soulignée par Amodei dans son blog.

« Ces deux menaces sont intrinsèquement contradictoires », a écrit Amodei. « [L]'une nous qualifie de risque pour la sécurité ; l’autre considère Claude comme essentiel à la sécurité nationale. »