Sam Altman répond au ministère de la Défense signé : une coopération précipitée pour apaiser la situation, l'AGI pourrait devoir être dirigée par le gouvernement

Le 2 mars, le PDG d’OpenAI, Sam Altman, a lancé une session de questions-réponses publique sur X pour répondre aux préoccupations de la communauté concernant la signature d’un contrat entre OpenAI et le Département de la Défense des États-Unis. Le post a été vu plus de 6,6 millions de fois et a reçu plus de 7 500 réponses. Concernant la précipitation de la transaction, Altman a expliqué qu’OpenAI n’avait auparavant discuté avec le Département de la Défense que de collaborations non confidentielles pendant plusieurs mois, et avait refusé des contrats dans le domaine confidentiel (qui ont été repris par Anthropic). Mais après que Anthropic ait été interdit, le Département de la Défense a soudain accéléré ses déploiements confidentiels. La raison pour laquelle OpenAI a signé rapidement est « pour désescalader la situation », et ils ont indiqué avoir négocié pour que des termes équivalents soient ouverts à tous les autres laboratoires d’IA. Lorsqu’on lui a demandé pourquoi il ne s’était pas exprimé au nom d’Anthropic, Altman a déclaré que l’entreprise était « un risque dans la chaîne d’approvisionnement », « très mauvais pour l’industrie, pour le pays, et pour Anthropic », « c’est une décision très mauvaise du Département de la Défense américain, j’espère qu’ils la retireront ». Il a aussi précisé qu’Anthropic, lors des négociations, « semblait plus préoccupé par les clauses spécifiques interdites dans le contrat que par la référence à la législation en vigueur, ils veulent peut-être plus de contrôle opérationnel que nous ». Concernant la ligne rouge d’OpenAI, Altman a dit : « Si on nous demande de faire quelque chose d’inhumain ou d’illégal, nous partirons. Venez me rendre visite en prison. » En évoquant la surveillance à l’étranger, Altman a avoué qu’il « n’aimait pas » la surveillance militaire américaine sur les étrangers, et que son principe fondamental pour l’IA était la « démocratisation ». La surveillance pourrait aller à l’encontre de ce principe, mais « je ne pense pas que ce soit à moi de décider ». En conclusion, Altman a soulevé une question « cachée derrière de nombreuses questions » mais jamais posée directement : que faire si le gouvernement américain tente de nationaliser OpenAI ou d’autres projets d’IA ? Il a déclaré qu’il « pense depuis longtemps que la construction d’une AGI pourrait être un projet gouvernemental ».