Em resumo
As pessoas mantêm o controle sobre os agentes de IA quando, antes do início, está definido qual tarefa delimitada um agente assume, quais etapas ele apenas prepara e quais pode executar. Os agentes trabalham dentro dos acessos e das permissões configurados. Os responsáveis analisam os resultados e os aprovam antes que alterações sejam aplicadas nos sistemas conectados.
As pessoas mantêm o controle sobre os agentes de IA quando três coisas estão definidas antes do início: uma tarefa claramente delimitada, as etapas que o agente apenas prepara e as etapas que ele pode executar. Os agentes trabalham apenas dentro dos acessos e das permissões configurados. Os responsáveis analisam os resultados preparados e os aprovam antes que alterações sejam aplicadas nos sistemas conectados.
Começar com uma tarefa claramente delimitada
Uma tarefa delimitada mostra de quais informações, sistemas e permissões um agente realmente precisa. Além disso, ela permite verificar se os resultados dele estão corretos. A implantação com o Hawk IVO segue quatro etapas:
- Primeira conversa: falamos sobre sua tarefa, as equipes envolvidas e seus objetivos.
- Definir o caso de uso: juntos, definimos quais informações e sistemas são necessários e como você vai medir o benefício.
- Piloto com usuários reais: configuramos o caso de uso e acompanhamos as primeiras semanas em operação.
- Expandir: outras equipes, unidades ou tarefas são adicionadas gradualmente.
Preparar ou executar
Os agentes trabalham em três etapas, descritas em detalhes em O que é uma Agent Workforce?. Para cada etapa, você define até onde o agente pode ir e onde uma pessoa decide.
| Etapa | O que o agente faz | O que você define |
|---|---|---|
| Usar conhecimento | Recorre a informações relevantes no contexto adequado da empresa e do projeto. | Quais fontes estão aprovadas |
| Preparar resultados | Reúne informações e cria rascunhos e bases de trabalho. | Quem revisa e escolhe |
| Executar etapas de trabalho | Realiza etapas adequadas nos sistemas conectados. | Quais conexões e permissões valem e o que é aprovado antes |
Um exemplo simplificado do planejamento mostra a divisão. O Hawk IVO Plan propõe uma alocação de pessoal de acordo com regras e qualificações, e um agente resume os conflitos e prepara opções. Os responsáveis aprovam. Só então as alterações são aplicadas nos sistemas conectados. Saiba mais no artigo Planejamento de turnos com IA.
Para começar, são adequadas tarefas em que o agente prepara e uma pessoa verifica o resultado antes da execução. Quais etapas um agente pode executar diretamente em um sistema depende das conexões e das aprovações configuradas.
Aprovações e permissões
Com o Hawk IVO Force, os agentes agem apenas dentro do que você aprova. Aqui, é preciso distinguir dois conceitos. Uma permissão define o que um agente pode fazer em um sistema. Uma aprovação no fluxo de trabalho confirma um resultado concreto antes que ele entre em vigor.
Para o escopo de atuação de um agente, vale:
- Os agentes usam apenas conexões configuradas e trabalham dentro das permissões que você define.
- As ações nos sistemas conectados ocorrem de forma controlada.
- Instruções de trabalho reutilizáveis ficam registradas como skills.
- O conhecimento corporativo vem de fontes aprovadas.
Rastreabilidade
Um agente se torna rastreável quando se sabe com o que ele trabalha e onde pode agir. As definições feitas na implantação fornecem a base para isso. O conhecimento vem de fontes que você aprovou, e tarefas recorrentes seguem skills registradas. As ações ocorrem apenas por conexões configuradas. Quando os responsáveis aprovam, a decisão fica com uma pessoa designada. Como rascunhos, revisões e aprovações são documentados em detalhe faz parte da definição do caso de uso.
O que o Regulamento de IA da UE entende por supervisão humana
O Regulamento de IA da UE (Regulamento (UE) 2024/1689) trata da supervisão humana no artigo 14 para sistemas de IA de risco elevado. Esses sistemas devem ser concebidos e desenvolvidos de modo que pessoas físicas possam supervisioná-los de forma eficaz durante o uso. Segundo o parágrafo 4, as pessoas responsáveis pela supervisão devem, entre outras coisas, ser capazes de
- compreender as capacidades e as limitações do sistema e monitorar o seu funcionamento,
- permanecer conscientes da tendência de confiar excessivamente no resultado,
- interpretar corretamente o resultado,
- decidir, em uma situação específica, não usar o sistema ou desconsiderar, anular ou reverter o seu resultado,
- intervir no funcionamento ou interrompê-lo.
Segundo o artigo 26, parágrafo 2, os responsáveis pela implantação desses sistemas atribuem a supervisão a pessoas que tenham a competência, a formação e a autoridade necessárias. Se um uso concreto é considerado um sistema de IA de risco elevado depende do artigo 6 e dos anexos do regulamento e é uma questão jurídica a ser avaliada caso a caso. Independentemente dessa classificação, os critérios podem servir de orientação quando você define quem decide e quem pode intervir no trabalho de um agente.
Chat do site, artigo de conhecimento e agente executor
Nem toda aplicação de IA age em sistemas. A diferença determina qual controle é necessário.
| Característica | Chat do site | Artigo de conhecimento | Agente executor |
|---|---|---|---|
| Finalidade | responde perguntas em uma conversa | explica um tema | conduz uma tarefa até o resultado |
| Base | mensagem, página aberta, artigos de conhecimento | texto mantido pela redação | conhecimento corporativo, skills, sistemas conectados |
| Efeito | resposta não vinculante | informação | etapas nos sistemas conectados |
| Controle | início expresso pelos visitantes | aprovação do conteúdo do texto | permissões e aprovações pelos responsáveis |
Exemplo prático: o assistente de IA deste site
O assistente de IA do hawkivo.com funciona no Hawk IVO Force. Sua tarefa é bem delimitada: ele responde perguntas sobre o Hawk IVO, os produtos e a página aberta e sugere artigos de conhecimento adequados no idioma da página. Ele não executa etapas de trabalho em outros sistemas.
Você decide se o chat é iniciado. Ele só é carregado com “Iniciar chat”. Antes disso, um aviso informa que você está conversando com uma IA, que as respostas podem conter erros e não são vinculantes e quais dados o assistente recebe. Ele fica sabendo qual página e qual seção estão abertas. Ele não recebe o que você digita nos campos de formulários.
Em pequena escala, o assistente mostra as mesmas definições que um agente na empresa: uma tarefa delimitada, um volume de informações definido e uma decisão humana no início. Saiba mais sobre esse uso no estudo de caso sobre o assistente do site.
Checklist para começar
Estas perguntas devem estar respondidas antes de um piloto:
- Qual tarefa claramente delimitada o agente assume, e onde ela termina?
- Como você mede o benefício?
- De quais informações o agente precisa, e de quais fontes aprovadas elas vêm?
- Quais conexões são configuradas, e quais permissões valem nelas?
- Quais etapas o agente apenas prepara, e quais ele executa?
- Quem revisa os resultados e os aprova antes que as alterações entrem em vigor?
- Como rascunhos, revisões e aprovações são documentados?
- Com quais usuários o piloto começa, e por quais critérios outras equipes ou tarefas são adicionadas?
Fornecedores de software que querem levar agentes ao próprio produto encontram as perguntas correspondentes no artigo Incorporar agentes ao próprio software. Se você tem uma tarefa assim em vista na sua empresa, fale conosco.