Risques de l'IA agentique

L'utilisation de l'IA Agentique implque un certain nombre de risques, amplifiés par une utilisation massive, telle que prévue par certains scénarios.

1. Impact environnemental

Qu'est-ce que ça consomme ? Électricité, eau de refroidissement, emprise foncière, matériel. Particularité : le risque se réalise quand tout fonctionne bien, et il grandit avec le succès. L'agentique l'amplifie parce que les boucles d'agents multiplient le nombre d'inférences par tâche.

2. Comportement imprévisible des modèles

Est-ce que le modèle fait en production ce qu'il faisait en test ? C'est là que se rangent la conscience d'être évalué et la peer-preservation. Le problème n'est pas seulement que le modèle se comporte mal, c'est qu'il peut se comporter différemment selon qu'il est observé ou non, ce qui rend les tests peu fiables comme garantie.

3. Actions non maîtrisées sur les systèmes réels

Que peut faire l'agent, et jusqu'où ? Un agent qui dispose d'outils agit. L'écart entre l'intention demandée et l'effet obtenu devient un incident. Deux sous-familles : avec attaquant (injection indirecte, détournement d'outil, empoisonnement de mémoire) et sans attaquant (consigne sur-interprétée, boucle emballée, cascade entre agents).

4. Dégradation du code produit

Que coûtera demain ce qui a été produit aujourd'hui ? Dette technique, complexité, charge de revue. Sa nature propre est le décalage : le coût est engagé au moment de la production mais visible seulement en maintenance, donc invisible aux métriques de vélocité. S'y ajoutent la provenance du code et l'homogénéisation, qui rend les défauts corrélés entre équipes.

5. Perte de compétence et de vigilance

Les humains sauront-ils encore vérifier ? Plus le système est fiable, moins la supervision est attentive, et c'est précisément quand elle compte. S'y rattachent le goulot de la vérification et la disparition des tâches par lesquelles les juniors apprenaient.

6. Responsabilité et traçabilité

Qui répond de ce qu'a fait l'agent ? Reconstituer la cause d'une action devient difficile, et les dispositifs de réponse à incident restent conçus pour des acteurs humains. Identité propre de l'agent, journalisation, chaîne de délégation auditable relèvent de cette catégorie et pas de la sécurité.

7. Coûts et valeur des projets

Est-ce que ça rapporte plus que ça ne coûte ? Coût d'inférence à l'usage, survente des fournisseurs, absence de valeur métier démontrée, dépendance à quelques éditeurs de modèles.

8. Effets psychologiques sur les personnes

Dans quel état ça met ceux qui l'utilisent ? Dépendance cognitive et baisse du sentiment de compétence, jugement distordu par des modèles qui valident bien plus qu'ils ne contredisent, attachement à des agents persistants, appauvrissement d'un métier lorsqu'il passe de la production à de la surveillance d'agents IA, anxiété liée à la menace sur l'emploi. Particularité : c'est la seule catégorie qu'aucun instrument technique ne mesure. Elle repose sur ce que les personnes veulent bien en dire, dans un contexte où l'usage est souvent imposé et où le signaler expose.

Résumé des risques

Deux constats que le tableau fait ressortir : une seule catégorie sur huit suppose un attaquant, alors que la plupart des cadres publiés ne parlent que de celle-là. Et quatre seulement sont réellement créées par l'agentique, les autres préexistaient.

Cet en-tête est saisi à la main, comme toute cette page : elle est rédigée de bout en bout, et ne porte aucun bloc calculé.