O que torna uma IA defensiva autônoma?
O paper ADAI define o pertencimento por um Autonomy Covenant (AC): perímetro defendido, escopo delimitado dos efeitos, reversão declarada e verificação por capacidades disjuntas devem valer em conjunto. A autonomia é, portanto, uma relação operacional delimitada, com responsabilidade explícita por efeitos e evidências.
DAI é a LLM de domínio específico inserida na arquitetura defensiva descrita no paper complementar. ADAI identifica a categoria proposta e o arcabouço mais abrangente. Uma resposta fluente de LLM ou o rótulo de agente autônomo não bastam para estabelecer o pertencimento a essa categoria.
IA que defende contra ataques com IA e injeção de prompt
Um sistema defensivo pode receber entradas adversariais produzidas tanto por uma pessoa quanto por outra IA. A fronteira relevante do arcabouço é Model-Excluded Authority (MEA): a saída aprendida fica excluída das entradas declaradas da função de admissibilidade. Um Action Contract Object (ACO) declara uma ação delimitada antes da execução.
Evidence-Bound Targeting (EBT) trata do domínio estruturado dos alvos; Principal-Perimeter Binding (PPB) vincula os efeitos ao principal da sessão. Esses mecanismos explicam por que manipular texto não deve, por si só, conceder autoridade de execução. Não prometem detecção universal, atribuição da origem do ataque a uma IA ou imunidade a toda técnica de injeção de prompt.
Cibersegurança autônoma e contenção na resposta a incidentes
Em um ponto de aplicação compartilhado, Discriminator-Scoped Containment (DSC) exige um predicado separador que delimite a contenção ao principal pretendido. O arcabouço analisa agregação, reconciliação por elemento e condições para reverter ações combinadas.
Isso conecta a defesa cibernética autônoma a temas de segurança da informação: isolamento entre tenants, alcance delimitado de efeitos e resposta a incidentes passível de revisão. A reversão declarada é um contrato a cumprir nas condições estabelecidas; não prova que todo efeito de produção seja inerentemente reversível.
Evidências, verificação independente e revisão posterior
Split-Authority Verification (SAV) separa observação e capacidade de escrita. Sealed Session Chain (SSC) e Proof Path Receipt (PPR) oferecem evidências ordenadas, encerradas por selo, com contrato de recomputação. Element-Level Reconciliation (ELR), Review-Bound Testimony (RBT) e Sealed Review Loop (SRL) vinculam a revisão a efeitos identificados.
O arcabouço desenvolve localização exata de alterações, condições de atomização, correlação ofuscada e reversibilidade composta sob hipóteses explícitas. O paper distingue propriedades que um leitor pode recomputar das que exigem conhecimento da construção ou das capacidades efetivas.
Como avaliar uma IA de defesa autônoma?
ADAI separa três famílias de avaliação: qualidade da política, integridade do envelope e integridade da evidência. Uma cadeia de evidências válida não demonstra que a política selecionada foi a melhor resposta. Efeitos delimitados não demonstram que a detecção subjacente estava correta.
O manuscrito ADAI é um preprint científico e um arcabouço proposto, não uma norma de certificação ou alegação de desempenho universal. Os resultados formais dependem de suas hipóteses. O paper DAI apresenta observações de implementação de uma versão específica; não se afirma que toda construção teórica esteja implementada ou validada de forma independente.
Leia os dois papers científicos
DAI: uma LLM de domínio específico com autoridade excluída do modelo, verificação por capacidades disjuntas e recibos recomputáveis
10.5281/zenodo.23089652
Inteligência Artificial de Defesa Autônoma: um arcabouço de envelope e evidência para LLMs governadas que agem sobre infraestrutura de produção
10.5281/zenodo.23089594
Definições dos doze mecanismos · DAI: LLM de cibersegurança para resposta a incidentes governada