En resumen
Las personas mantienen el control sobre los agentes de IA si, antes de empezar, está definido qué tarea delimitada asume un agente, qué pasos solo prepara y cuáles puede ejecutar. Los agentes trabajan dentro del marco de los accesos y permisos configurados. Los responsables revisan los resultados y los aprueban antes de que se apliquen cambios en los sistemas conectados.
Las personas mantienen el control sobre los agentes de IA si, antes de empezar, están definidas tres cosas: una tarea claramente delimitada, los pasos que el agente solo prepara y los pasos que puede ejecutar. Los agentes solo trabajan dentro del marco de los accesos y permisos configurados. Los responsables revisan los resultados preparados y los aprueban antes de que se apliquen cambios en los sistemas conectados.
Empezar con una tarea claramente delimitada
Una tarea delimitada muestra qué información, qué sistemas y qué permisos necesita realmente un agente. Además, permite comprobar si sus resultados son correctos. La implementación con Hawk IVO sigue cuatro pasos:
- Primera conversación: hablamos de su tarea, de los equipos implicados y de sus objetivos.
- Definir el caso de uso: juntos determinamos qué información y qué sistemas se necesitan y cómo medirá usted el beneficio.
- Piloto con usuarios reales: configuramos el caso de uso y le acompañamos durante las primeras semanas de operación.
- Ampliar: se incorporan paso a paso más equipos, sedes o tareas.
Preparar o ejecutar
Los agentes trabajan en tres pasos, que se describen en detalle en ¿Qué es una Agent Workforce?. Para cada paso, usted define hasta dónde puede llegar el agente y dónde decide una persona.
| Paso | Qué hace el agente | Qué define usted |
|---|---|---|
| Usar el conocimiento | Recurre a la información relevante en el contexto adecuado de la empresa y del proyecto. | Qué fuentes están autorizadas |
| Preparar resultados | Reúne información y elabora borradores y bases de trabajo. | Quién revisa y selecciona |
| Ejecutar pasos de trabajo | Realiza los pasos adecuados en los sistemas conectados. | Qué conexiones y permisos rigen y qué se aprueba antes |
Un ejemplo simplificado de la planificación muestra el reparto. Hawk IVO Plan propone una asignación de personal según reglas y cualificaciones, y un agente resume los conflictos y prepara opciones. Los responsables dan su aprobación. Solo entonces se aplican los cambios en los sistemas conectados. Encontrará más información en el artículo Planificación de turnos con IA.
Para empezar, son adecuadas las tareas en las que el agente prepara y una persona revisa el resultado antes de su aplicación. Qué pasos puede ejecutar un agente directamente en un sistema depende de las conexiones configuradas y de las aprobaciones establecidas.
Aprobaciones y permisos
Con Hawk IVO Force, los agentes solo actúan dentro de lo que usted autoriza. Conviene distinguir dos definiciones. Un permiso determina lo que un agente puede hacer en un sistema. Una aprobación en el flujo de trabajo confirma un resultado concreto antes de que surta efecto.
Para el marco de un agente rige lo siguiente:
- Los agentes solo utilizan las conexiones configuradas y trabajan dentro de los permisos que usted establezca.
- Las acciones en los sistemas conectados se realizan de forma controlada.
- Las instrucciones de trabajo reutilizables están definidas como skills.
- El conocimiento empresarial procede de fuentes autorizadas.
Trazabilidad
Un agente se vuelve trazable cuando se sabe con qué trabaja y dónde puede actuar. Las definiciones de la implementación proporcionan la base para ello. El conocimiento procede de fuentes que usted ha autorizado, y las tareas recurrentes siguen skills definidas. Solo se actúa a través de conexiones configuradas. Cuando los responsables dan su aprobación, la decisión queda en manos de una persona designada. Cómo se documentan en detalle los borradores, las revisiones y las aprobaciones forma parte de la definición del caso de uso.
Qué entiende el Reglamento de IA de la UE por supervisión humana
El Reglamento de IA de la UE (Reglamento (UE) 2024/1689) regula en su artículo 14 la supervisión humana de los sistemas de IA de alto riesgo. Estos deben diseñarse y desarrollarse de modo que puedan ser vigilados de manera efectiva por personas físicas durante su uso. Según el apartado 4, las personas encargadas de la supervisión deben estar en condiciones, entre otras cosas, de:
- entender las capacidades y limitaciones del sistema y vigilar su funcionamiento,
- ser conscientes de la tendencia a confiar en exceso en los resultados de salida,
- interpretar correctamente los resultados de salida,
- decidir, en una situación concreta, no utilizar el sistema o descartar, invalidar o revertir sus resultados de salida,
- intervenir en el funcionamiento del sistema o interrumpirlo.
Según el artículo 26, apartado 2, los responsables del despliegue de estos sistemas encomiendan la supervisión a personas que tengan la competencia, la formación y la autoridad necesarias. Si un uso concreto se considera un sistema de IA de alto riesgo se determina según el artículo 6 y los anexos del Reglamento, y es una cuestión jurídica que debe analizarse en cada caso. Con independencia de esta clasificación, los criterios pueden servir de orientación a la hora de definir quién decide y puede intervenir en el trabajo de un agente.
Chat del sitio web, artículo de conocimiento y agente ejecutor
No todas las aplicaciones de IA actúan en sistemas. La diferencia determina qué control es necesario.
| Característica | Chat del sitio web | Artículo de conocimiento | Agente ejecutor |
|---|---|---|---|
| Finalidad | responde preguntas en una conversación | explica un tema | se encarga de una tarea hasta obtener el resultado |
| Base | mensaje, página abierta, artículos de conocimiento | texto mantenido por la redacción | conocimiento empresarial, skills, sistemas conectados |
| Efecto | respuesta sin carácter vinculante | información | pasos en los sistemas conectados |
| Control | inicio expreso por parte del visitante | aprobación del contenido del texto | permisos y aprobaciones a cargo de los responsables |
Ejemplo práctico: el asistente de IA de este sitio web
El asistente de IA de hawkivo.com funciona con Hawk IVO Force. Su tarea está claramente acotada: responde preguntas sobre Hawk IVO, sobre los productos y sobre la página abierta, y recomienda artículos de conocimiento adecuados en el idioma de la página. No ejecuta pasos de trabajo en otros sistemas.
Usted decide si se inicia el chat. Solo se carga al pulsar «Iniciar chat». Antes, un aviso indica que está chateando con una IA, que las respuestas pueden contener errores y no son vinculantes, y qué datos recibe el asistente. El asistente sabe qué página y qué sección están abiertas. No recibe lo que usted escribe en los campos de los formularios.
A pequeña escala, el asistente muestra las mismas definiciones que un agente en la empresa: una tarea delimitada, un alcance de información definido y una decisión humana al principio. Encontrará más información sobre este uso en el caso práctico del asistente del sitio web.
Lista de comprobación para empezar
Estas preguntas deberían estar respondidas antes de un piloto:
- ¿Qué tarea claramente delimitada asume el agente y dónde termina?
- ¿Cómo medirá usted el beneficio?
- ¿Qué información necesita el agente y de qué fuentes autorizadas procede?
- ¿Qué conexiones se configuran y qué permisos rigen en ellas?
- ¿Qué pasos solo prepara el agente y cuáles ejecuta?
- ¿Quién revisa los resultados y los aprueba antes de que los cambios surtan efecto?
- ¿Cómo se documentan los borradores, las revisiones y las aprobaciones?
- ¿Con qué usuarios comienza el piloto y con qué criterios se incorporan más equipos o tareas?
Los proveedores de software que deseen incorporar agentes a su propio producto encontrarán las preguntas correspondientes en el artículo Integrar agentes en su propio software. Si tiene en mente una tarea de este tipo en su propia empresa, hable con nosotros.