En bref
Les humains gardent le contrôle des agents d’IA si l’on fixe avant le démarrage quelle tâche délimitée un agent prend en charge, quelles étapes il ne fait que préparer et lesquelles il peut exécuter. Les agents travaillent dans le cadre des accès et autorisations configurés. Les responsables vérifient et valident les résultats avant toute modification dans les systèmes connectés.
Les humains gardent le contrôle des agents d’IA lorsque trois éléments sont établis avant le démarrage : une tâche clairement délimitée, les étapes que l’agent se contente de préparer et celles qu’il peut exécuter. Les agents travaillent uniquement dans le cadre des accès et autorisations configurés. Les responsables examinent les résultats préparés et les valident avant que des modifications ne soient appliquées dans les systèmes connectés.
Commencer par une tâche clairement délimitée
Une tâche délimitée montre de quelles informations, de quels systèmes et de quelles autorisations un agent a réellement besoin. Elle permet en outre de vérifier si ses résultats sont justes. Le déploiement avec Hawk IVO suit quatre étapes :
- Premier échange : nous discutons de votre tâche, des équipes concernées et de vos objectifs.
- Définir le cas d’usage : ensemble, nous déterminons les informations et les systèmes nécessaires, ainsi que les critères selon lesquels vous mesurez le bénéfice.
- Pilote avec de vrais utilisateurs : nous mettons en place le cas d’usage et vous accompagnons pendant les premières semaines d’exploitation.
- Étendre : d’autres équipes, sites ou tâches s’ajoutent progressivement.
Préparer ou exécuter
Les agents travaillent en trois étapes, décrites en détail dans Qu’est-ce qu’une Agent Workforce ?. Pour chaque étape, vous définissez jusqu’où l’agent peut aller et où un humain décide.
| Étape | Ce que fait l’agent | Ce que vous définissez |
|---|---|---|
| Exploiter le savoir | Il mobilise les informations pertinentes dans le contexte approprié de l’entreprise et du projet. | Quelles sources sont autorisées |
| Préparer les résultats | Il rassemble les informations et en tire des ébauches et des bases de travail. | Qui vérifie et choisit |
| Exécuter les étapes de travail | Il traite les étapes appropriées dans les systèmes connectés. | Quelles connexions et autorisations s’appliquent et ce qui doit être validé au préalable |
Un exemple simplifié tiré de la planification illustre la répartition. Hawk IVO Plan propose une affectation selon les règles et les qualifications, et un agent synthétise les conflits et prépare des options. Les responsables valident. Ce n’est qu’ensuite que les modifications sont appliquées dans les systèmes connectés. Pour en savoir plus, consultez l’article Planification des horaires avec l’IA.
Pour démarrer, les tâches les plus adaptées sont celles où l’agent prépare et où un humain vérifie le résultat avant sa mise en œuvre. Les étapes qu’un agent peut exécuter directement dans un système dépendent des connexions et des validations mises en place.
Validations et autorisations
Avec Hawk IVO Force, les agents n’agissent que dans le cadre de ce que vous autorisez. Deux notions sont à distinguer. Une autorisation définit ce qu’un agent peut faire dans un système. Une validation dans le flux de travail confirme un résultat concret avant qu’il ne prenne effet.
Le cadre d’un agent est le suivant :
- Les agents n’utilisent que les connexions configurées et travaillent dans les limites des autorisations que vous définissez.
- Les actions dans les systèmes connectés se déroulent de manière contrôlée.
- Les instructions de travail réutilisables sont enregistrées sous forme de skills.
- Les connaissances de l’entreprise proviennent de sources autorisées.
Traçabilité
Un agent devient traçable lorsque l’on sait avec quoi il travaille et où il peut agir. Les choix arrêtés lors du déploiement en fournissent la base. Les connaissances proviennent de sources que vous avez autorisées, et les tâches récurrentes suivent des skills enregistrés. L’agent n’agit que via des connexions configurées. Lorsque les responsables valident, la décision reste entre les mains d’une personne désignée. La manière dont les ébauches, les vérifications et les validations sont documentées en détail fait partie de la définition du cas d’usage.
Ce que le règlement européen sur l’IA entend par contrôle humain
Le règlement européen sur l’IA (règlement (UE) 2024/1689) encadre le contrôle humain à l’article 14 pour les systèmes d’IA à haut risque. Ceux-ci doivent être conçus et développés de manière à pouvoir être effectivement contrôlés par des personnes physiques pendant leur utilisation. Selon le paragraphe 4, les personnes chargées du contrôle doivent notamment être en mesure :
- de comprendre les capacités et les limites du système et de surveiller son fonctionnement ;
- de rester conscientes de la tendance à se fier excessivement à ses sorties ;
- d’interpréter correctement ses sorties ;
- de décider, dans une situation donnée, de ne pas utiliser le système ou d’ignorer, de remplacer ou d’inverser sa sortie ;
- d’intervenir dans son fonctionnement ou de l’interrompre.
Selon l’article 26, paragraphe 2, les déployeurs de tels systèmes confient le contrôle humain à des personnes qui disposent des compétences, de la formation et de l’autorité nécessaires. La question de savoir si une utilisation concrète relève d’un système d’IA à haut risque se détermine selon l’article 6 et les annexes du règlement ; c’est une question juridique à examiner au cas par cas. Indépendamment de cette classification, ces critères peuvent servir de repère lorsque vous définissez qui décide et qui peut intervenir dans le travail d’un agent.
Chat du site, article de connaissances et agent exécutant
Toutes les applications d’IA n’agissent pas dans des systèmes. Cette différence détermine le contrôle nécessaire.
| Caractéristique | Chat du site | Article de connaissances | Agent exécutant |
|---|---|---|---|
| Finalité | répond aux questions dans la conversation | explique un sujet | prend en charge une tâche jusqu’au résultat |
| Base | message, page ouverte, articles de connaissances | texte rédigé et tenu à jour par la rédaction | connaissances de l’entreprise, skills, systèmes connectés |
| Effet | réponse sans engagement | information | étapes dans les systèmes connectés |
| Contrôle | démarrage explicite par le visiteur | validation du texte sur le fond | autorisations et validations par les responsables |
Cas pratique : l’assistant IA de ce site
L’assistant IA de hawkivo.com fonctionne sur Hawk IVO Force. Sa mission est étroitement définie : il répond aux questions sur Hawk IVO, sur les produits et sur la page ouverte, et propose des articles de connaissances adaptés dans la langue de la page. Il n’exécute pas d’étapes de travail dans d’autres systèmes.
C’est vous qui décidez si le chat démarre. Il n’est chargé qu’après un clic sur « Démarrer le chat ». Au préalable, une mention vous indique que vous échangez avec une IA, que les réponses peuvent contenir des erreurs et n’engagent pas, et quelles données l’assistant reçoit. Il sait quelle page et quelle section sont ouvertes. Il ne reçoit pas ce que vous saisissez dans les champs de formulaire.
À petite échelle, l’assistant illustre les mêmes principes qu’un agent en entreprise : une tâche délimitée, un périmètre d’information défini et une décision humaine au départ. Pour en savoir plus sur ce déploiement, consultez la référence consacrée à l’assistant du site.
Liste de contrôle pour le démarrage
Ces questions devraient être résolues avant un pilote :
- Quelle tâche clairement délimitée l’agent prend-il en charge, et où s’arrête-t-elle ?
- Selon quels critères mesurez-vous le bénéfice ?
- De quelles informations l’agent a-t-il besoin, et de quelles sources autorisées proviennent-elles ?
- Quelles connexions sont mises en place, et quelles autorisations s’y appliquent ?
- Quelles étapes l’agent se contente-t-il de préparer, et lesquelles exécute-t-il ?
- Qui vérifie les résultats et les valide avant que les modifications ne prennent effet ?
- Comment les ébauches, les vérifications et les validations sont-elles documentées ?
- Avec quels utilisateurs le pilote démarre-t-il, et selon quels critères d’autres équipes ou tâches s’y ajoutent-elles ?
Les éditeurs de logiciels qui souhaitent intégrer des agents à leur propre produit trouveront les questions correspondantes dans l’article Intégrer des agents dans votre propre logiciel. Si vous avez une telle tâche en vue dans votre propre entreprise, contactez-nous.