Tesseract SA

Shadow AI

Définition : La shadow AI désigne l’usage d’outils d’intelligence artificielle par les collaborateurs sans validation ni encadrement de l’entreprise, par exemple coller des documents clients dans un assistant en ligne personnel.

Ce que désigne la shadow AI

Le terme vient de shadow IT, l’informatique utilisée en dehors des circuits validés par l’entreprise. La shadow AI en est la version IA : un collaborateur colle un contrat dans un assistant en ligne pour le résumer, fait traduire un e-mail client par un service gratuit, ou transcrit une réunion avec une application installée sur son téléphone. L’intention est bonne, gagner du temps, mais l’entreprise ne sait ni quels outils sont utilisés ni quelles données en sortent.

Les risques

  • Les données : documents clients, salaires ou informations couvertes par le secret professionnel partent chez des éditeurs externes, parfois à l’étranger, sans base légale claire au regard de la nLPD.
  • La qualité : des réponses fausses sont reprises sans vérification.
  • La traçabilité : personne ne peut dire après coup ce qui a été transmis.
  • La sécurité : des extensions ou applications peu fiables accèdent aux postes de travail.

Pourquoi l’interdiction ne suffit pas

Si l’IA fait gagner du temps, les collaborateurs l’utiliseront, au besoin sur leur téléphone personnel. Une interdiction sans alternative pousse l’usage dans l’ombre au lieu de le faire disparaître.

Comment l’encadrer

  1. Faire l’inventaire des usages réels, sans sanction, pour comprendre les besoins.
  2. Fixer des règles simples : quelles données peuvent aller dans quel outil.
  3. Proposer un outil approuvé qui répond au besoin, idéalement une IA locale pour les données sensibles.
  4. Former les équipes aux bons réflexes : vérifier, ne pas coller de données clients dans un service non validé.

Pour une fiduciaire ou une PME de services, la shadow AI est souvent le premier signal qu’un besoin réel existe. Le transformer en outil encadré, branché sur le socle, est plus efficace que de le combattre.

Questions fréquentes

Faut-il interdire ChatGPT à ses collaborateurs ?

Une interdiction seule fonctionne rarement : l’usage se déplace sur les téléphones personnels. Mieux vaut fixer des règles claires et proposer un outil approuvé qui répond au besoin.

Quels sont les risques concrets ?

La fuite de données clients ou internes vers des services externes, des réponses fausses utilisées sans vérification, et l’impossibilité de savoir après coup ce qui a été transmis et à qui.

Termes liés