Segurança de LLMs: fontes, acesso e ações sob controle
Entenda prompt injection e jailbreak e desenhe defesa em camadas para recuperação, ferramentas, saídas e custos. Segurança avaliada pela consequência real.
Quais fronteiras continuam funcionando quando o modelo recebe uma entrada indevida?
Comece pelo que precisa decidir agora. Se a abordagem ainda é nova, leia os textos de introdução. Se a equipe já reconhece a tarefa, avance para aplicação e critérios. Quando houver uma hipótese clara, os guias de decisão ajudam a preparar a conversa sobre escopo e execução.
Liste dados, ações e efeitos proibidos antes de escolher os controles. Os guias ficam abertos, com conceitos, exercícios e fontes para conferir. Avance pelo assunto que corresponde à sua dúvida.
Entender o problema
Reconheça o problema e entenda as alternativas antes de escolher uma ferramenta.
Aplicar um critério
Use um procedimento, confira os limites e transforme a dúvida em uma hipótese observável.
O que levar para uma conversa sobre execução
Leve a tarefa, os sistemas ou fontes envolvidos, quem a executa hoje e o que precisaria mudar. Declare quais dados já existem e quais ainda são estimativas. Esse mapa permite discutir alternativas e o primeiro teste com menos ambiguidade.
Os critérios publicados são orientação editorial. Exemplos identificados como hipotéticos ajudam a entender o procedimento; resultados de uma empresa exigem medidas e contexto próprios.
