OWASP GenAI Security Project ↗
Taxonomia de riscos e recursos educacionais para aplicações de LLMs. DAI/ADAI tratam de limites de autoridade, escopo dos efeitos e evidências; isso não declara certificação nem elimina todos os riscos de LLMs.
Pesquisa relacionada
Os links explicam relações de pesquisa, não endossos, parcerias, dependências ou resultados de benchmark. Consulte a documentação e a licença de cada projeto.
AgentDojo ↗
Ambiente dinâmico para avaliar ataques e defesas de injeção de prompt em agentes de LLM. É uma metodologia de avaliação relacionada; DAI é uma LLM, e os manuscritos não relatam avaliação ou integração com AgentDojo.
Prompt Injection Defenses ↗
Coleção de abordagens defensivas, incluindo privilégio mínimo e redução do impacto. Relaciona-se a delimitar efeitos da saída não confiável do modelo; não se alega imunidade universal a injeção de prompt.
Awesome LLM Security ↗
Pesquisa selecionada sobre segurança de modelos de linguagem, incluindo segurança de plataformas. Um caminho para comparar perguntas de pesquisa e hipóteses de avaliação.
Awesome AI Security ↗
Recursos sobre segurança de IA, governança e sistemas defensivos. Contexto para a distinção dos papers entre saída do modelo e autoridade de execução.
Awesome LM Safety, Security and Privacy ↗
Coleção de pesquisa sobre segurança, proteção e privacidade. A segurança de sistemas é relacionada ao arcabouço de envelope e evidência.