Ideias para construir sistemas digitais confiáveis.

Engenharia de harnesses para agentes de IA

A camada operacional que conecta objetivos, ferramentas, memória e controles para tornar um agente governável.

Loop engineering: ciclos confiáveis para agentes de IA

Um ciclo explícito de plano, ação e avaliação evita que a autonomia se transforme em repetição improdutiva.

Contexto e memóriaLer artigo

Context engineering: a informação certa no momento certo

Selecionar, estruturar e atualizar o contexto relevante melhora a precisão, o custo e a rastreabilidade dos agentes.

Ferramentas e controlesLer artigo

Tool engineering: ferramentas que um agente pode usar com segurança

As ferramentas não são extensões neutras: exigem contratos, validação e resultados interpretáveis.

Contexto e memóriaLer artigo

Memory engineering: memória útil sem acumular ruído

A memória de um agente precisa de políticas de escrita, recuperação, retenção e esquecimento.

Orquestração de sistemas multiagente

A coordenação transforma agentes especializados em um sistema capaz de dividir, verificar e integrar trabalho complexo.

Ferramentas e controlesLer artigo

Guardrails e permissões para agentes de IA

A autonomia é útil quando políticas, permissões e limites são aplicados antes de uma ação.

Qualidade e observabilidadeLer artigo

Avaliação de agentes de IA: de demos a evidência operacional

Avaliar um agente implica revisar resultado, processo, segurança e custo em cenários representativos.

Human-in-the-loop: supervisão que melhora decisões

A revisão humana funciona quando é inserida no ponto de risco certo, com evidência e opções acionáveis.

Qualidade e observabilidadeLer artigo

Observabilidade e tracing: tornar a autonomia visível

Rastros, métricas e eventos conectam cada resultado à execução que o produziu.

MCP explicado: como conecta assistentes de IA a ferramentas e dados

O MCP oferece uma forma comum de conectar aplicações de IA a servidores que expõem ferramentas e dados. Compreender seus componentes ajuda a separar o que o protocolo define dos riscos de cada implementação.

Onde está realmente o risco: cliente, servidor, agente, permissões e integrações

A avaliação do MCP não se limita ao protocolo. A superfície real inclui quem executa cada componente, o que ele pode ver e quais ações pode realizar.

Prompt injection indireta: como uma resposta externa pode manipular um agente

Um agente pode interpretar como instruções um conteúdo que chegou como dado. A defesa exige separar autoridade, limitar capacidades e controlar ações.

Tool poisoning: quando uma ferramenta aparentemente confiável esconde instruções

Uma ferramenta pode incluir descrições ou resultados que orientem o modelo para ações inesperadas. A revisão deve cobrir comportamento, capacidades e mudanças.

Rug pull: o que acontece quando uma ferramenta muda depois de aprovada

Aprovar uma ferramenta não deveria equivaler a confiar indefinidamente em todas as suas versões futuras. O controle de mudanças fecha essa lacuna.

Permissões excessivas: aplicar o privilégio mínimo a servidores MCP

O privilégio mínimo reduz o quanto uma integração pode fazer se uma instrução, configuração ou componente falhar.

Cibersegurança8 min

Tokens, OAuth e “confused deputy”: evitar acessos não autorizados

Quando um servidor age em nome de uma pessoa perante outro serviço, deve preservar a identidade, o consentimento e o escopo de cada autorização.

Cibersegurança8 min

SSRF e servidores MCP locais: riscos de rede e defesa contra DNS rebinding

Um servidor local ou uma ferramenta que busca URLs pode abrir caminhos de acesso inesperados. A defesa combina limites de rede, validação e controles de transporte.

Injeção de comandos e validação de entradas: proteger ferramentas que executam ações

Os parâmetros propostos por um modelo devem ser tratados como entrada não confiável. A segurança depende de validar o tipo, o escopo e o efeito de cada operação.

Cibersegurança8 min

Cadeia de suprimentos e servidores MCP não aprovados: dependências, instalação e shadow IT

Cada servidor MCP acrescenta código, configuração e dependências à cadeia de suprimentos de uma organização. Um processo de aprovação proporcional torna essa superfície visível.

Vazamento de informação por contexto, respostas e logs

A informação pode vazar antes, durante ou depois de uma chamada: desde o contexto que o modelo recebe até as respostas das ferramentas e os registros.

Cibersegurança10 min

Checklist de segurança MCP: guia central para desenvolvedores e organizações

Este guia reúne controles para avaliar servidores MCP antes e depois de integrá-los. Use-o junto com os artigos da série para se aprofundar em cada tema.

IA e agentes7 min

Dark factories: o que um experimento revela sobre agentes e arquitetura

Automatizar a escrita e os testes não automatiza, por si só, o critério arquitetônico. Um caso relatado pela HumanLayer ajuda a entender onde convém manter revisão humana.

IA e agentes8 min

Fluxo de 4 portas: reduzir a incerteza antes de programar com agentes

Separar problema, pesquisa, arquitetura e slices transforma um pedido amplo em decisões revisáveis antes de gerar um diff extenso.

IA e agentes8 min

Contexto para agentes: manter o foco com compactação deliberada

Uma janela de contexto grande não garante que um agente utilize toda a informação com a mesma eficácia. A seleção e o resumo devem preservar evidência e estado útil.

IA e agentes9 min

12 Factor Agents: padrões para agentes que chegam à produção

Os 12 fatores da HumanLayer propõem agentes compostos de software explícito, ferramentas estruturadas, estado controlado e pausas humanas quando necessário.