OpenAI a conclu un accord controversé avec le Pentagone pour l’utilisation de son IA dans des environnements classifiés. Cette décision soulève des questions éthiques et stratégiques sur l’usage militaire de la technologie.
Il y a deux semaines, OpenAI a officialisé un accord avec le Pentagone, permettant l’utilisation de sa technologie d’IA dans des contextes classifiés. Cette décision a suscité des inquiétudes, notamment sur la possibilité d’une utilisation des outils d’OpenAI pour des armes autonomes. Sam Altman, le PDG d’OpenAI, a affirmé que sa technologie ne serait pas utilisée pour développer des systèmes d’armement autonomes, mais les conditions de l’accord laissent entrevoir des possibilités floues. En effet, cet accord exige simplement que le Pentagone respecte ses propres directives, qui sont jugées relativement permissives. De plus, la promesse d’OpenAI de ne pas permettre l’utilisation de sa technologie pour la surveillance domestique semble également moins solide. Ces ambiguïtés soulèvent des questions sur les réelles motivations d’OpenAI, qui se trouve à un carrefour éthique. Ce n’est pas la première entreprise technologique à établir des contrats militaires après avoir initialement refusé de le faire, mais la rapidité de ce changement de cap est frappante. OpenAI, qui dépense des sommes considérables pour l’entraînement de ses modèles d’IA, cherche de nouvelles sources de revenus, y compris la publicité. Par ailleurs, Altman semble convaincu que les démocraties libérales doivent disposer des technologies les plus puissantes pour rivaliser avec des nations comme la Chine. Alors que le conflit avec l’Iran s’intensifie, la question se pose : où la technologie d’OpenAI pourrait-elle être déployée ? Dans le cadre de cet accord, il est encore incertain quand cette technologie sera opérationnelle dans des environnements classifiés, car elle devra être intégrée aux outils militaires existants. Cela crée une pression pour une mise en œuvre rapide, surtout après des controverses antérieures concernant l’utilisation d’autres intelligences artificielles. En effet, après qu’Anthropic ait refusé que son IA soit utilisée pour des applications militaires, l’ancienne administration Trump a ordonné l’arrêt de son utilisation par le Pentagone. Si le conflit en Iran se poursuit lorsque la technologie d’OpenAI sera prête, elle pourrait être utilisée pour analyser des cibles potentielles. Un analyste humain pourrait entrer une liste de cibles dans le modèle d’IA, qui se chargerait ensuite d’analyser et de prioriser ces cibles en tenant compte de divers facteurs logistiques. Bien que cette approche puisse améliorer l’efficacité, elle soulève des interrogations sur la supervision humaine, notamment sur la vérification des résultats par un opérateur humain, ce qui remet en question la responsabilité et l’éthique de l’utilisation de l’IA dans des situations de combat.