security
Segurança de IA empresarial
O conjunto de políticas, tecnologias e práticas que protegem os dados, a propriedade intelectual e os usuários de uma organização ao implementar sistemas de IA no ambiente de trabalho.
A segurança de IA empresarial trata dos riscos específicos que acompanham a adoção de IA: impedir que dados sensíveis da empresa vazem para modelos de IA públicos, garantir controles de acesso baseados em funções para que os funcionários vejam apenas as informações que estão autorizados a acessar, proteger contra ataques de injeção de prompt e manter trilhas de auditoria das interações com a IA. Diferentemente das ferramentas de IA de consumo, as plataformas de IA de nível empresarial precisam cumprir as regulamentações do setor (HIPAA, SOC 2, GDPR), atender aos requisitos de residência de dados e oferecer aos administradores visibilidade sobre como a IA é usada em toda a organização. Uma segurança sólida é o que separa as ferramentas que os funcionários têm permissão para usar da IA invisível que eles adotam sem a aprovação da TI.
Termos relacionados
- Alucinação de IA Quando um modelo de IA gera informações que parecem plausíveis, mas que são factualmente incorretas, inventadas ou não sustentadas pelos dados de origem.
- Base de conhecimento Um repositório centralizado de informações organizadas que os funcionários podem pesquisar e consultar para encontrar respostas, procedimentos, políticas e conhecimento institucional.
- Modelo de linguagem grande (LLM) Um sistema de IA treinado com quantidades enormes de dados de texto, capaz de entender, gerar e raciocinar sobre a linguagem humana com fluência notável.