ai
Alucinación de la IA
Cuando un modelo de IA genera información que suena plausible, pero que es incorrecta, inventada o no está respaldada por sus datos de origen.
Las alucinaciones de la IA ocurren porque los modelos de lenguaje generan respuestas a partir de patrones estadísticos y no de una comprensión real de los hechos. El modelo puede presentar con seguridad estadísticas inventadas, citar fuentes inexistentes o combinar datos reales para llegar a conclusiones falsas. En el entorno empresarial, las alucinaciones son una preocupación seria, porque los empleados pueden actuar con base en información incorrecta. Las organizaciones mitigan este riesgo usando la generación aumentada por recuperación (RAG) para fundamentar las respuestas de la IA en documentos verificados de la empresa, exigiendo citas de las fuentes y estableciendo flujos de revisión humana para las decisiones de alto impacto.
Términos relacionados
- Generación aumentada por recuperación (RAG) Una técnica que mejora las respuestas de la IA al recuperar información relevante de una base de conocimiento antes de generar una respuesta, lo que produce resultados más precisos y verificables.
- Modelo de lenguaje grande (LLM) Un sistema de IA entrenado con enormes cantidades de datos de texto que puede entender, generar y razonar sobre el lenguaje humano con una fluidez notable.
- Seguridad de la IA empresarial El conjunto de políticas, tecnologías y prácticas que protegen los datos, la propiedad intelectual y los usuarios de una organización cuando implementa sistemas de IA en el trabajo.