IA e agentes · Ferramentas e controles · 5 min
Guardrails e permissões para agentes de IA
A autonomia é útil quando políticas, permissões e limites são aplicados antes de uma ação.
Governar significa tornar as regras aplicáveis
Uma política escrita não protege uma operação se não for traduzida em verificações de identidade, permissões, classificação de risco e registro de decisões. A governança vive nos fluxos, não apenas em documentos.
O nível de supervisão deve responder ao impacto: uma consulta informativa não exige o mesmo controle que uma modificação de dados ou uma decisão operacional.
Reduzir o raio de impacto
Cada agente deve dispor apenas das ferramentas e do escopo necessários para sua tarefa. Ações irreversíveis ou de alto impacto precisam de confirmação e registros de auditoria.
A filtragem de entrada e saída, os ambientes isolados e os limites de cota transformam uma falha pontual em um incidente delimitado.
Leitura do diagrama
Como ler este sistema
- 01A solicitação passa primeiro por guardrails que avaliam identidade, risco, conteúdo e permissões.
- 02As solicitações não permitidas são bloqueadas ou escaladas com uma razão rastreável.
- 03O agente usa apenas o acesso explicitamente aprovado; a resposta preserva evidência da política aplicada.
- 04Os controles devem estar próximos do recurso protegido, não apenas no prompt inicial.
Conceitos essenciais
Termos técnicos
- Guardrail
- Regra ou mecanismo que restringe comportamento.
- Autorização
- Verificação de que uma identidade pode agir.
- Raio de impacto
- Alcance potencial de uma falha.
Arquitetura
Implicações e controles
A supervisão aumenta com o impacto. Consultar um guia não exige o mesmo que modificar informações contratuais, financeiras ou pessoais.
Riscos a considerar
- Bypass de políticas.
- Permissões excessivas.
- Ações irreversíveis por entradas adversariais.
Lista de verificação
- Inventariar ações por impacto.
- Autorizar em cada recurso.
- Definir negação e escalonamento.
- Testar bypasses e instruções adversariais.
Conclusão
A autonomia responsável demonstra o que foi permitido, o que foi bloqueado e sob qual regra.