Les craintes des parents concernant le développement des enfants résonnent avec la montée en puissance de l’IA générative. Alors que cette technologie évolue, la question de la responsabilité et de la gouvernance devient cruciale.
L’IA générative a atteint une nouvelle étape de développement entre décembre 2025 et janvier 2026, marquée par l’arrivée d’outils sans code proposés par divers fournisseurs et le lancement d’OpenClaw, un agent personnel open source sur GitHub. Ce tournant a permis à l’IA de passer d’une phase d’apprentissage à une phase d’opération autonome, soulevant des enjeux de gouvernance sans précédent. Jusqu’à présent, la gouvernance de l’IA s’était concentrée sur les risques liés aux résultats des modèles, où les humains jouaient un rôle crucial dans le processus de décision, comme dans les approbations de prêts ou les candidatures à des emplois. Cependant, avec l’émergence d’agents autonomes au sein de flux de travail complexes, il devient nécessaire de réduire la dépendance humaine pour automatiser les tâches manuelles. Le défi de la responsabilité est désormais clair : “L’IA fait le travail, les humains portent le risque”. La loi californienne AB 316, entrée en vigueur le 1er janvier 2026, stipule que l’excuse “L’IA l’a fait ; je ne l’ai pas approuvé” n’est plus valable, similaire à la responsabilité d’un adulte pour les actions d’un enfant. L’absence de code de gouvernance opérationnelle aligné sur les risques tout au long du flux de travail compromet les bénéfices des agents d’IA autonomes. Les systèmes autonomes éliminent souvent les humains de la prise de décision, ce qui complique encore davantage la gouvernance. En parallèle, la comparaison avec un enfant de trois ans recevant un jeu vidéo contrôlant un tank Abrams illustre les dangers potentiels de laisser un système probabiliste fonctionner sans garde-fous en temps réel. Par exemple, les agents pouvant intégrer et enchaîner des actions à travers divers systèmes d’entreprise risquent de dépasser les privilèges autorisés, augmentant ainsi les risques pour l’intégrité des données critiques. En résumé, alors que l’IA continue de se développer rapidement, il est impératif d’établir des mécanismes de gouvernance robustes et adaptatifs pour gérer les risques associés à ces technologies autonomes.