Human in the loop : définition et conditions d’un vrai contrôle humain

Que recouvre le human in the loop ?

Le human in the loop désigne un contrôle avant l’effet : le système propose, une personne valide, corrige ou refuse. Le groupe d’experts de haut niveau de la Commission européenne distingue trois niveaux dans ses lignes directrices éthiques d’avril 2019 :

1. Human in the loop : une personne intervient dans chaque cycle de décision. Le texte note que ce niveau, « dans de nombreux cas, n’est ni possible ni souhaitable ».

2. Human on the loop : une personne intervient dans la conception du système et surveille son fonctionnement.

3. Human in command : une personne contrôle l’activité globale du système et décide quand et comment l’utiliser.

Pour un agent IA, vous choisissez le niveau action par action. La spécification du MCP recommande ainsi qu’un humain puisse toujours refuser l’appel d’un outil.

Human in the loop ou validation de façade : quelle différence ?

Un contrôle humain compte s’il peut changer la décision ; une signature de routine ne compte pas. Les lignes directrices du G29, qui réunissait les autorités européennes de protection des données, fixent la règle depuis février 2018. Le responsable ne peut pas échapper à l’article 22 du RGPD en fabriquant une intervention humaine. La supervision doit être significative, pas un geste symbolique. Elle revient à une personne qui a l’autorité et la compétence pour modifier la décision.

L’autorité espagnole de protection des données (AEPD) ajoute le critère du temps (billet du 4 mars 2024). Une personne qui doit contrôler chaque jour 100 rapports de 100 pages devrait lire 21 pages par minute. L’AEPD juge ce rythme en général irréalisable. L’AI Act demande aussi au contrôleur de rester conscient du biais d’automatisation : la tendance à se fier trop aux sorties du système (article 14).

Que change le human in the loop pour votre décision ?

• Le RGPD exige parfois un humain, et un vrai. L’article 22 protège contre les décisions fondées exclusivement sur un traitement automatisé qui produisent des effets juridiques ou qui affectent la personne de manière significative de façon similaire. Si la décision est nécessaire à un contrat ou repose sur un consentement explicite, la personne garde au moins trois droits. Elle peut obtenir une intervention humaine, exprimer son point de vue et contester.

• Les autorités sanctionnent l’absence d’humain. En août 2026, l’autorité néerlandaise de protection des données a infligé à Uber une amende de 824 990 000 euros, en coopération avec la CNIL. Elle reproche à Uber d’avoir désactivé des comptes de chauffeurs par des décisions entièrement automatisées. Uber a fait appel : la décision n’est pas définitive (EDPB, 8 octobre 2026).

• L’AI Act fixe ce que le contrôleur doit pouvoir faire. Pour un système à haut risque, la personne doit pouvoir comprendre ses capacités et ses limites, et interpréter ses sorties. Elle doit aussi pouvoir écarter une sortie et arrêter le système (article 14). Le déployeur confie ce contrôle à des personnes qui disposent des compétences, de la formation, de l’autorité et du soutien nécessaires (article 26). Ces règles s’appliquent à partir du 2 décembre 2027 pour l’annexe III et du 2 août 2028 pour l’annexe I.

• Le temps de validation entre dans le coût. Chaque validation consomme du temps qualifié. Si le volume dépasse ce temps, la validation devient une formalité et le risque revient. Intégrez ce temps dans le ROI du projet.

• Le valideur doit pouvoir dire non. L’AEPD retient l’indépendance parmi ses critères : la personne doit pouvoir contester une décision sans pression de l’organisation. Fixez qui valide, selon quels seuils, et ce qui suit un refus : c’est une question de gouvernance de l’IA.

Exemple illustratif

Ce cas est fictif. Une ETI utilise un outil d’IA pour présélectionner des candidatures, un usage qui relève en principe de l’annexe III de l’AI Act. Chaque soir, une recruteuse « valide » en une heure 300 rejets proposés : douze secondes par dossier. Elle n’a refusé aucune proposition en six mois. L’entreprise revoit le dispositif. L’outil classe et ne rejette plus. La recruteuse examine chaque dossier écarté, avec le motif affiché. Un responsable contrôle un échantillon chaque mois.