ai
Alucinação de IA
Quando um modelo de IA gera informações que parecem plausíveis, mas que são factualmente incorretas, inventadas ou não sustentadas pelos dados de origem.
As alucinações de IA acontecem porque os modelos de linguagem geram respostas com base em padrões estatísticos, e não em uma compreensão real dos fatos. O modelo pode apresentar com confiança estatísticas inventadas, citar fontes inexistentes ou combinar fatos reais para chegar a conclusões falsas. No ambiente corporativo, as alucinações são uma preocupação séria, porque os funcionários podem agir com base em informações incorretas. As organizações reduzem esse risco usando a geração aumentada por recuperação (RAG) para fundamentar as respostas da IA em documentos verificados da empresa, exigindo citações das fontes e estabelecendo fluxos de revisão humana para decisões de alto impacto.
Termos relacionados
- Geração aumentada por recuperação (RAG) Uma técnica que aprimora as respostas da IA ao recuperar informações relevantes de uma base de conhecimento antes de gerar uma resposta, produzindo resultados mais precisos e verificáveis.
- Modelo de linguagem grande (LLM) Um sistema de IA treinado com quantidades enormes de dados de texto, capaz de entender, gerar e raciocinar sobre a linguagem humana com fluência notável.
- Segurança de IA empresarial O conjunto de políticas, tecnologias e práticas que protegem os dados, a propriedade intelectual e os usuários de uma organização ao implementar sistemas de IA no ambiente de trabalho.