O CERT.br lançou o fascículo gratuito "Inteligência Artificial", da Cartilha de Segurança para Internet, com orientações sobre alucinações, privacidade em chatbots, agentes de IA, deepfakes e a importância do controle humano no uso dessas ferramentas.
Fascículo gratuito ensina a usar IA com segurança e responsabilidade
Ferem mostram que LLMs não identificam fatos e podem alucinar
Leia também
G7 firma acordo histórico para segurança digital de crianças e expansão segura de IA
Dados sensíveis não devem ser inseridos em chatbots públicos
Agentes de IA exigem controle humano e permissões mínimas
Deepfakes e golpes com IA são alertas centrais do material
Como reduzir erros e alucinações em prompts
O material orienta que prompts devem ser claros e detalhados, indicando tarefa, contexto, público-alvo e tom de linguagem.
Em temas específicos, o ideal é fornecer uma fonte especializada no prompt e restringir a resposta a esse conteúdo.
Também é possível instruir a ferramenta a informar explicitamente quando não tiver certeza, em vez de inventar uma resposta.
Use prompts detalhados com tarefa, contexto e público-alvo
Forneça fontes especializadas para temas específicos
Peça que a IA indique quando não souber a resposta
Privacidade e dados corporativos
Informações inseridas em chatbots públicos geralmente são enviadas aos servidores da empresa e podem ser usadas para treinar modelos.
A orientação é assumir que tudo o que é colocado no prompt pode virar uso comum.
Senhas, CPF, dados bancários, informações de clientes, códigos-fonte e documentos internos não devem ser inseridos.
Consulte as regras da empresa sobre uso de IA
Desative o uso de interações para treinamento
Use conversas temporárias quando disponíveis
Agentes de IA e prompt injection
O fascículo aborda os agentes de IA, sistemas com capacidade de acessar aplicações e executar ações de forma autônoma.
O CERT.br recomenda limitar permissões ao estritamente necessário e exigir aprovação humana para ações irreversíveis.
O cuidado é indispensável porque agentes podem ser manipulados por instruções maliciosas, no chamado prompt injection.
Limite as permissões do agente ao mínimo necessário
Exija aprovação humana para pagamentos, envios e exclusões
Revise logs e ações dos agentes periodicamente
| Cuidado | Recomendação |
|---|---|
| Alucinação | Trate como rascunho e confira fontes |
| Dados sensíveis | Não insira CPF, senha ou códigos em prompts |
| Agentes autônomos | Limite permissões e exija aprovação humana |
| Deepfakes | Confirme por canais oficiais e desconfie de urgência |
Arraste para o lado para ver toda a tabela.
Leia também:
