Le Pentagone discute de la création d’environnements sécurisés pour que les entreprises d’IA s’entraînent sur des données militaires classifiées. Cette initiative pourrait transformer l’efficacité des modèles d’IA dans des contextes militaires sensibles.
Le Pentagone envisage de mettre en place des environnements sécurisés permettant aux entreprises d’IA générative de former des versions spécifiques à l’armée de leurs modèles en utilisant des données classifiées. Actuellement, des modèles d’IA comme Claude d’Anthropic sont déjà utilisés pour répondre à des questions dans des contextes classifiés, notamment pour analyser des cibles en Iran. Cependant, permettre aux modèles d’apprendre à partir de données classifiées constituerait une avancée majeure, entraînant des risques de sécurité uniques. Ces nouvelles pratiques pourraient entraîner l’intégration de renseignements sensibles, tels que des rapports de surveillance ou des évaluations de champ de bataille, directement dans les modèles d’IA, augmentant ainsi leur utilisation des données classifiées. Selon un responsable du département de la Défense qui a parlé sous couvert d’anonymat, l’entraînement de modèles d’IA sur des données classifiées devrait améliorer leur précision et leur efficacité pour certaines tâches. Cette annonce survient alors que la demande pour des modèles plus puissants est en forte hausse. Le Pentagone a déjà signé des accords avec OpenAI et xAI d’Elon Musk pour utiliser leurs modèles dans des environnements classifiés, s’inscrivant ainsi dans une nouvelle stratégie visant à devenir une « force de combat priorisant l’IA », surtout avec l’intensification des tensions avec l’Iran. La formation de ces modèles se déroulerait dans un centre de données sécurisé, accrédité pour les projets gouvernementaux classifiés, où une copie d’un modèle d’IA serait associée à des données classifiées. Bien que le Département de la Défense conserverait la propriété des données, le personnel des entreprises d’IA pourrait, dans de rares cas, y accéder sous réserve d’avoir une habilitation de sécurité adéquate. Avant de mettre en œuvre cette nouvelle formation, le Pentagone prévoit d’évaluer l’exactitude et l’efficacité des modèles formés sur des données non classifiées, telles que les images satellites commercialement disponibles. Historiquement, les militaires ont utilisé des modèles de vision par ordinateur pour identifier des objets dans les images et vidéos collectées par des drones et avions. De plus, des agences fédérales ont attribué des contrats à des entreprises pour former des modèles d’IA sur de tels contenus. Les entreprises d’IA développant des modèles de langage de grande taille (LLMs) et des chatbots ont également créé des versions adaptées à des travaux gouvernementaux. Cependant, les commentaires du responsable du Pentagone sont les premiers à indiquer que des entreprises comme OpenAI et xAI pourraient directement former des versions spécifiques à l’État de leurs modèles sur des données classifiées. Aalok Mehta, qui dirige le Wadhwani AI Center, souligne que l’entraînement sur des données classifiées, plutôt que de simplement répondre à des questions à leur sujet, pourrait poser de nouveaux risques, notamment la réapparition d’informations classifiées dans les résultats de ces modèles.