IA responsável nas empresas: LGPD, dados e revisão humana

Dê uma função concreta à revisão

Em uma proposta comercial, alguém deve conferir escopo, preços, prazos e condições aprovadas. Se faltar um dado, a ferramenta deve sinalizar a lacuna. O revisor precisa consultar a fonte correta e decidir o que será enviado, em vez de apenas aprovar um texto bem escrito.

Descreva a tarefa com menos dados

Use marcadores como [CLIENTE], [VALOR] e [PRAZO] quando a identidade ou a condição comercial não forem necessárias para elaborar o rascunho. Confira também anexos, comentários e imagens: informações privadas podem estar fora do trecho que você pretendia compartilhar.

• Retire identificadores que não ajudam a concluir a tarefa.
• Prefira um recorte do documento quando ele fornecer contexto suficiente.
• Use exemplos fictícios para experimentar um fluxo antes de inserir dados reais.

Trocar o nome não garante anonimização

Uma combinação de cargo, data, local e detalhes do caso ainda pode revelar a pessoa. A ANPD orienta avaliar continuamente o risco de reidentificação. Portanto, substituir o nome por “Cliente A” é uma redução de exposição que precisa ser analisada junto com o restante do conteúdo.

Conheça o destino dos dados e as permissões

O guia de segurança da informação da ANPD para agentes de pequeno porte recomenda atenção aos contratos, controle de acesso e treinamento. Na rotina, prefira contas individuais, permissões compatíveis com a função e autenticação em múltiplos fatores quando disponível.

• O fornecedor usa os dados para prestar o serviço, melhorar modelos ou outras finalidades?
• Quem pode acessar conversas, arquivos e resultados dentro e fora da empresa?
• Quais informações uma integração pode consultar, alterar ou compartilhar?
• Como funcionam retenção, exclusão, exportação e encerramento da conta?

Histórico, memória e retenção são controles diferentes

Excluir uma conversa da tela ou limpar uma memória de personalização não garante a eliminação imediata de todas as cópias. No Gemini para contas pessoais, a documentação diferencia o histórico visível, as instruções salvas e a retenção para prestação do serviço ou revisão. Aplicativos conectados também podem manter dados segundo suas próprias políticas.

As condições variam conforme produto, plano, configuração e tipo de conta. Confira a documentação atual do ambiente usado pela empresa. Uma assinatura paga, isoladamente, não comprova ausência de retenção ou autorização para enviar qualquer informação.

Verifique fatos fora da resposta da IA

O NIST descreve o risco de sistemas generativos apresentarem informações falsas com confiança e recomenda verificar fontes e citações. Pedir que a própria ferramenta confirme uma resposta não equivale a uma checagem independente.

Confira preços no sistema comercial, regras no documento vigente e estatísticas na publicação original. Se a fonte não existir ou não sustentar a afirmação, retire a informação ou explique o que permanece incerto.

Combine os motivos para chamar a equipe

A transferência precisa acontecer por critérios conhecidos. Quando alguém assume, deve receber o pedido, os dados relevantes, o que já foi tentado e o motivo da interrupção.

• Informações ausentes ou fontes que se contradizem.
• Pedido de exceção, negociação ou compromisso fora da autorização.
• Reclamação relevante ou possível prejuízo para uma pessoa.
• Ação que altera registros, valores ou condições além do escopo definido.

Observe as decisões automatizadas

O artigo 20 da LGPD prevê o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem interesses do titular. Considere esse direito ao desenhar processos de avaliação e classificação de pessoas.

Defina o apoio permitido em cada área

Se a tarefa envolve exigências profissionais ou setoriais, defina o escopo com o responsável técnico ou jurídico da organização. A IA pode participar de etapas de apoio, mas a equipe precisa saber quem está autorizado a revisar e aprovar a entrega.

Guarde o necessário para explicar a decisão

Mantenha o registro em um local com acesso adequado e prazo de guarda definido. Evite criar cópias indiscriminadas de documentos confidenciais apenas para documentar o processo.

• Objetivo da tarefa e fontes consultadas.
• Versão relevante da entrega e correções realizadas.
• Nome ou identificação do responsável pela aprovação.
• Exceções encontradas e decisão tomada em cada uma.

Seja claro com quem recebe o trabalho

Explique o papel da IA quando isso for relevante para a pessoa compreender o atendimento ou a entrega e observe as obrigações aplicáveis. Em uma conversa automatizada, uma apresentação clara e um caminho acessível para falar com a equipe orientam o cliente. Em conteúdo publicado, mantenha a responsabilidade editorial identificada e não atribua uma revisão a quem não a realizou.

A — Avalie antes de começar

• A tarefa está dentro do uso aprovado para esta ferramenta?
• Quais dados são realmente necessários?
• Há informação confidencial ou exigência específica da área?
• Quem assume o caso se aparecer uma exceção?

C — Confira antes de usar

• Fatos, números e referências foram conferidos nas fontes corretas?
• A resposta respeita o contexto e as condições comerciais da empresa?
• Há suposições apresentadas como fatos ou critérios injustos?
• O responsável consegue explicar por que aprovou a entrega?

T — Torne o uso transparente

• O papel da IA está claro para quem precisa conhecer o processo?
• As revisões relevantes ficaram registradas?
• Existe um caminho para dúvida, correção ou atendimento humano?
• A comunicação segue as regras da organização e as obrigações aplicáveis?

Monte um primeiro ciclo de trabalho

1. Descreva a tarefa, o resultado esperado e as ações que dependem de aprovação.
2. Defina a ferramenta, os dados permitidos e o responsável pela revisão.
3. Teste exemplos completos, incompletos e contraditórios, começando com dados fictícios.
4. Compare tempo total, correções e qualidade com a forma anterior de trabalhar.
5. Ajuste o processo e decida ampliar, manter ou interromper o uso com base no que observou.

Inclua revisão e correção na conta

Acompanhe o tempo da tarefa inteira, inclusive o trabalho necessário para verificar e corrigir. Registre os erros observados e as situações que pediram intervenção. Esse acompanhamento ajuda a perceber se o uso melhorou a operação e onde ainda precisa de ajuste.

Aplique os mesmos critérios ao escolher um ecossistema de apps

Ao avaliar a Gene OS, apresentada como um ecossistema de apps para negócios, parta do processo que deseja organizar. Confirme quais recursos e integrações estão disponíveis, quem acessa os dados e quais decisões continuam com a equipe. O guia sobre a Gene OS aprofunda essa avaliação e sua relação com a implementação de IA.

Posso começar com dados fictícios?

Sim. Exemplos fictícios ajudam a experimentar a estrutura de uma proposta, mensagem ou procedimento antes de trabalhar com informações reais. Identifique esses exemplos como simulações e confira também casos incompletos e situações fora do fluxo esperado.

Toda resposta precisa da mesma revisão?

A revisão deve acompanhar o uso e o impacto. Uma ideia preliminar pede uma checagem diferente de uma mensagem enviada ao cliente ou de uma análise que afeta pessoas. Defina o critério antes de automatizar.

Limpar a memória da IA elimina os vieses?

Não use a limpeza de memória como garantia de imparcialidade. Mesmo em uma conversa nova, confira os critérios, a linguagem e as consequências da resposta. Questione generalizações sobre pessoas e informações que não estejam apoiadas nos dados disponíveis.

O que fazer quando aparecer uma resposta errada?

Interrompa o uso daquela resposta, confira a informação na fonte correta e corrija a entrega. Registre a causa e avalie se o problema pode aparecer em outros casos. Se a falha já afetou um cliente ou processo, encaminhe a correção ao responsável.