O que é alucinação?
Este é um caso clássico em que a conversa vai para uma direção em que a sua IA não está treinada, e ela acaba inventando alguma informação.Exemplos comuns
Situações em que este problema pode ser frequente:- Lead pergunta sobre endereço, OAB, telefone ou CNPJ e o agente não tem essa informação
- Lead pergunta “E se o INSS…?” e o agente não está treinado para responder sobre INSS
- Agente de Auxílio Acidente e o cliente pergunta sobre BPC
- Qualquer pergunta fora do escopo do treinamento do agente
Como solucionar
Para solucionar, basta otimizar o treinamento de Prompt ou Base de Conhecimento do seu agente.Este comportamento de “inventar” pode ser reduzido pela temperatura da IA, mas no nosso caso já utilizamos temperatura reduzida.
A melhor forma de evitar alucinações é prevenindo-as
Sempre que acontecer algum problema, faça uma melhoria no prompt ou base de conhecimento para evitar caso futuro semelhante. A melhoria que você deve fazer é respondendo o cenário que foi questionado na conversa, porque alucinação é nada mais do que a IA inventando algo, porque ela precisa responder algo, mas não tem treinamento sobre isso.- Aconteceu um erro? Identifique o que o lead perguntou
- Adicione a resposta correta no prompt ou na base de conhecimento
- Teste novamente com
/restartpara validar a correção — confira em Testar e Ativar Agentes
Transferir para humano quando necessário
Você também pode, numa dada condicional (que você define via prompt), transferir a conversa para um humano. Por exemplo: “Se o lead perguntar algo que você não sabe responder, transfira para @responsavel Victor”. Confira mais em Menções (@).Contexto global
Note que este é um dos principais desafios da comunidade de IA no mundo. Elon Musk descreveu como “uma resposta impressionante” quando um usuário GPT reportou que a IA respondeu “Não sei”.
É do compromisso da LíderHub manter os agentes atualizados, e sempre procurar por inovações para garantir que a IA performe cada vez melhor.
Deixe uma sugestão
Feedback de Melhorias sobre Alucinação de Prompt
Feedback de Melhorias sobre Alucinação de Prompt
Agradecemos muito pelo seu tempo! Se você precisa de suporte, acesse Obtenha suporte.