- O INDT promove workshop gratuito e online sobre prompt hacking em sistemas de linguagem (LLMs).
- O curso usa o framework OWASP Top 10 for LLM Applications para mapear falhas como injeção de prompt.
- Inscrições abertas para o evento de 14 de agosto, útil para times técnicos que lidam com IA generativa.
O INDT (Instituto de Desenvolvimento Tecnológico) promove nesta sexta-feira, dia 14 de agosto, às 14h, o workshop online e gratuito “Prompt Hacking: Ataques e defesas com OWASP LLM”. O evento ensina como identificar vulnerabilidades em Modelos de Linguagem (LLMs) e aplicar as diretrizes do OWASP Top 10 for LLM Applications para reduzir riscos em sistemas de inteligência artificial.
Prompt hacking é o nome dado ao conjunto de técnicas usadas para manipular o comportamento de um modelo de linguagem por meio das instruções enviadas a ele. A mais conhecida dessas técnicas é a injeção de prompt (prompt injection), na qual um invasor insere comandos disfarçados dentro de um texto para fazer o modelo ignorar suas regras originais.
O problema existe porque a maioria dos LLMs processa instruções do sistema e dados enviados pelo usuário no mesmo canal, sem separação clara entre os dois. Isso torna difícil para o modelo distinguir uma instrução legítima de um comando malicioso escondido em um documento, e-mail ou página web que ele esteja lendo.
Como o OWASP organiza os riscos em LLMs
Para dar estrutura a esse tipo de ameaça, a comunidade de segurança reunida na OWASP (Open Worldwide Application Security Project) mantém o OWASP Top 10 for LLM Applications, uma lista das dez falhas mais críticas em aplicações baseadas em inteligência artificial generativa. A versão de 2025 do documento lista, entre outros riscos, a injeção de prompt, o vazamento de informações sensíveis, falhas na cadeia de suprimentos do modelo, o envenenamento de dados e de modelo, o tratamento inadequado de saídas geradas, a autonomia excessiva concedida a agentes de IA, o vazamento do prompt de sistema, fragilidades em bancos vetoriais, a geração de desinformação e o consumo descontrolado de recursos computacionais.
Essa classificação funciona como referência para equipes de desenvolvimento e segurança avaliarem onde estão os pontos mais frágeis de um sistema de IA, desde o treinamento do modelo até a forma como ele responde ao usuário final.
O que o workshop do INDT vai abordar
Segundo a divulgação do evento, a proposta do workshop é levar o participante da teoria à prática: reconhecer vulnerabilidades críticas em LLMs, entender as técnicas de ataque mais recorrentes no mercado e sair com um roteiro de defesas aplicáveis à própria infraestrutura de IA. O conteúdo interessa a desenvolvedores, profissionais de segurança da informação e times que já operam ou pretendem operar assistentes virtuais, chatbots e sistemas de automação baseados em modelos de linguagem.
O workshop acontece de forma online, com duração prevista de uma hora, e as inscrições são gratuitas. Interessados podem garantir vaga pelo link de inscrição divulgado pelo INDT.
O INDT, antigo Instituto Nokia de Tecnologia, atua desde 2001 em pesquisa e desenvolvimento tecnológico e é, desde 2017, uma unidade credenciada da EMBRAPII (Empresa Brasileira de Pesquisa e Inovação Industrial) para projetos de manufatura avançada. A instituição mantém uma frente de capacitação voltada a temas como inovação, Indústria 4.0 e cibersegurança.
Glossário
- LLM (Large Language Model): modelo de linguagem de grande porte, base de sistemas de IA generativa como chatbots.
- OWASP: organização sem fins lucrativos dedicada à segurança de aplicações e, mais recentemente, de sistemas de IA.
- Prompt injection: técnica de ataque que insere instruções maliciosas dentro do texto enviado a um LLM.
Últimas notícias
Duas jovens do interior do AM criam rede para mulheres na tecnologia
Consultoria do AM entra no ranking nacional de Negócios em Expansão
