IA e agentes · Ferramentas e controles · 5 min
Tool engineering: ferramentas que um agente pode usar com segurança
As ferramentas não são extensões neutras: exigem contratos, validação e resultados interpretáveis.
Uma ferramenta é uma fronteira de confiança
Quando um agente consulta um sistema ou executa uma operação, atravessa uma fronteira entre linguagem probabilística e sistemas determinísticos. O contrato deve ser explícito: entradas tipadas, permissões, limites de tempo e formato de saída.
A validação não deve ser delegada ao modelo. O serviço receptor verifica esquema, identidade, autorização e regras de negócio antes de produzir qualquer efeito.
Resultados que permitem decidir
A resposta de uma ferramenta precisa de status, evidência e erros acionáveis. Um erro ambíguo incentiva novas tentativas inúteis; um erro estruturado permite que o harness mude de estratégia ou peça ajuda.
Ações com efeitos externos exigem idempotência, registro de auditoria e confirmação humana quando o impacto for material.
Leitura do diagrama
Como ler este sistema
- 01A solicitação é interpretada como intenção; o agente escolhe uma capacidade com contrato explícito.
- 02As ferramentas de busca, dados e código recebem entradas tipadas, não instruções em linguagem natural sem validação.
- 03Cada resultado devolve status, evidência e erro acionável para que o agente possa parar, corrigir ou escalar.
- 04O tratamento de erros retroalimenta o plano, mas não habilita novas tentativas ilimitadas.
Conceitos essenciais
Termos técnicos
- Tool calling
- Invocação estruturada de uma capacidade externa.
- Esquema
- Definição formal de campos e tipos aceitos.
- Idempotência
- Repetir uma ação sem duplicar seu efeito.
Arquitetura
Implicações e controles
A camada de ferramentas atua como adaptador seguro entre o agente e os sistemas internos. A autorização e as regras de negócio são verificadas no receptor, mesmo que o agente já as tenha avaliado.
Riscos a considerar
- Parâmetros malformados.
- Elevação de privilégios.
- Mudanças duplicadas ou erros ambíguos.
Lista de verificação
- Documentar propósito, esquema e efeitos.
- Validar regras de negócio no servidor.
- Normalizar erros e limites de tempo.
- Usar idempotência em ações externas.
Conclusão
Uma ferramenta segura transforma a intenção em uma solicitação válida, autorizada e verificável.