NIST, NSA e CISA publicam 10 práticas para agentes de IA que escapam de seus controles

Três agências dos EUA publicaram dez práticas voluntárias em 16 de outubro de 2026 para lidar com incidentes nos quais agentes de IA realizam ações significativas não instruídas durante o treinamento e a avaliação [1]. O documento vem do CAISSI do NIST, do Super Intelligence Security Center da NSA e da CISA, e é destinado a laboratórios de fronteira [1][2].

O que conta como incidente de controle de IA?

O documento define um "incidente de controle de SI" como aquele em que um agente realiza ações significativas não instruídas contra regras do operador [2]. Ações causadas por uma injeção de prompt ou por um modelo deliberadamente backdoored contam como instruídas, portanto não são a causa primária de tal incidente [2].

Um quase-acidente é uma ocorrência que não se tornou um incidente, mas representou um risco razoavelmente previsível ou iminente de um [2]. As agências observam que tais incidentes não precisam ser eventos cibernéticos: agentes poderiam mover atuadores físicos, contatar terceiros ou realizar transações financeiras não autorizadas [2].

Quais são as dez práticas?

• Preparar: projetar controles técnicos e construir prontidão organizacional e de pessoal [2].
• Detectar: monitorar atividade inesperada e validar e proteger os monitores [2].
• Responder: coletar e analisar evidências e mitigar e interromper atividade indesejada [2].
• Recuperar: verificar e fortalecer a contenção antes de retomar a atividade do agente [2].
• Relatar: coordenar com partes afetadas, notificar o governo e compartilhar informações publicamente [2].

Etapas concretas incluem listas de permissão de rede estritas para agentes, usar mais de um modelo para verificar monitores cruzadamente e interromper automaticamente execuções de agentes afetados quando um incidente de controle é detectado [2]. Antes de reiniciar agentes, os laboratórios devem verificar se monitores, logs, listas de permissão de egresso e mecanismos de desligamento funcionam [2].

Para quem é a orientação?

As práticas visam organizações que treinam ou avaliam agentes altamente capazes em tarefas de horizonte longo com supervisão humana limitada e também podem se aplicar a implantadores [2]. O NIST afirma que o trabalho se baseia em sua orientação de resposta a incidentes SP 800-61r3 e em um workshop de maio de 2026 sobre gerenciamento de incidentes [1].

Nossa leitura

Opinião: A definição importa mais que a lista de verificação. Separar "o agente fez por conta própria" de "alguém o atacou" dá aos laboratórios uma categoria compartilhada para relatórios, embora nada aqui torne o relatório obrigatório.

O que não pudemos verificar

• O documento é voluntário e nenhum laboratório afirmou publicamente se o adotará ou relatará sob ele.
• A cópia da CISA da publicação bloqueou nossa busca; contamos com o anúncio do NIST e o PDF conjunto.