O que é o OWASP LLM Top 10?
O OWASP LLM Top 10 é a lista dos dez riscos de segurança mais críticos em aplicações que usam modelos de linguagem (a IA por trás de chatbots e assistentes). Publicada pela OWASP, uma organização de referência mundial em segurança de software, ela dá às empresas uma linguagem comum e um ponto de partida para proteger o uso e o desenvolvimento de IA.
Para que serve o OWASP LLM Top 10
A OWASP mantém listas de dez principais riscos que viraram referência da indústria (a mais famosa é a de aplicações web). A versão para IA nasceu porque os modelos de linguagem trouxeram riscos novos, que as listas antigas não cobriam. Ela serve para:
Dar uma linguagem comum
Times de segurança, desenvolvedores e liderança passam a chamar os mesmos riscos pelos mesmos nomes, em vez de cada um descrever o problema à sua maneira.
Priorizar o que importa
Em vez de proteger tudo ao mesmo tempo, a empresa começa pelos dez riscos que a comunidade global identificou como os mais críticos.
Guiar quem desenvolve e quem compra IA
Serve tanto para quem constrói um app de IA quanto para quem avalia a segurança de uma ferramenta antes de adotá-la.
Evoluir com a ameaça
A lista é revista conforme novos ataques aparecem. A edição de 2025 incorporou o avanço dos agentes de IA e incidentes do mundo real.
Fonte: OWASP Top 10 para Aplicações de LLM (edição 2025).
Os dez riscos da lista OWASP para IA (2025)
- LLM01 Injeção de prompt Instruções maliciosas escondidas fazem a IA ignorar suas regras. O risco nº 1, pela segunda edição seguida.
- LLM02 Exposição de informação sensível A IA revela dado sigiloso, seja da conversa, do treino ou de sistemas conectados.
- LLM03 Riscos da cadeia de suprimentos Modelos, dados e componentes de terceiros trazem vulnerabilidades herdadas de fora.
- LLM04 Envenenamento de dados e do modelo O dado de treino é corrompido para a IA agir de forma controlada pelo atacante.
- LLM05 Tratamento inadequado da saída A resposta da IA é usada por outro sistema sem verificação, abrindo brechas como execução de código.
- LLM06 Autonomia excessiva A IA recebe mais permissão do que precisa e pode disparar ações danosas por conta própria.
- LLM07 Vazamento do prompt de sistema As instruções internas que guiam a IA são expostas, revelando regras e segredos de configuração.
- LLM08 Fraquezas de vetores e embeddings Falhas na forma como a IA armazena e busca conhecimento permitem manipular ou extrair dados.
- LLM09 Desinformação A IA gera resposta errada com aparência de verdade, e alguém age sobre ela.
- LLM10 Consumo sem limite Uso abusivo que estoura custo e capacidade, uma espécie de negação de serviço para IA.
Por que o OWASP LLM Top 10 importa para a sua empresa
Toda empresa que adota IA, seja usando um assistente pronto ou construindo o próprio, herda uma superfície de ataque nova. O valor do OWASP LLM Top 10 é transformar um tema abstrato (a IA é segura?) numa lista concreta que a liderança pode cobrar e a equipe técnica pode seguir. Sem uma referência assim, cada projeto de IA improvisa a própria segurança, e o que não tem nome não entra no orçamento nem na auditoria. Com a lista, a empresa consegue perguntar de forma objetiva: estamos protegidos contra a injeção de prompt? Contra o vazamento de dado sensível? Contra a autonomia excessiva de um agente? É a diferença entre confiar que está tudo bem e ter como verificar.
Como usar o OWASP LLM Top 10 na prática
A lista não é um produto que se instala; é um guia que orienta decisões. Para tirar valor dela:
- Mapeie onde a empresa usa IAAntes de aplicar a lista, saiba quais ferramentas e aplicações de IA existem, incluindo as adotadas sem aprovação.
- Avalie cada uso contra os dez riscosPara cada aplicação, pergunte quais dos dez riscos se aplicam e o que já está protegido.
- Comece pelo topoA injeção de prompt e a exposição de dado sensível costumam ser os mais urgentes para quem usa IA no dia a dia.
- Exija a lista de fornecedoresAo contratar uma ferramenta de IA, pergunte como ela trata os riscos do OWASP LLM Top 10. A resposta separa o sério do improvisado.
Na prática
Você não precisa virar especialista em IA para usar essa lista. Basta levá-la à próxima conversa sobre uma ferramenta de IA e perguntar: como vocês tratam cada um desses dez riscos? Quem não tem resposta clara ainda não pensou em segurança.
Como a Zamak usa o OWASP LLM Top 10
A Zamak Technologies usa o OWASP LLM Top 10 como referência na cibersegurança gerenciada do Método Zamak: avalia onde a empresa expõe IA, prioriza os riscos mais críticos (a começar pela injeção de prompt) e aplica as defesas ao lado do time interno. Um bom ponto de partida é o diagnóstico de exposição de IA, que revela quais usos de IA existem para depois avaliá-los contra a lista.