security
Segurança de IA empresarial
O conjunto de políticas, tecnologias e práticas que protegem os dados, a propriedade intelectual e os usuários de uma organização ao implementar sistemas de IA no ambiente de trabalho.
A segurança de IA empresarial trata dos riscos específicos que acompanham a adoção de IA: impedir que dados sensíveis da empresa vazem para modelos de IA públicos, garantir controles de acesso baseados em funções para que os funcionários vejam apenas as informações que estão autorizados a acessar, proteger contra ataques de injeção de prompt e manter trilhas de auditoria das interações com a IA. Diferentemente das ferramentas de IA de consumo, as plataformas de IA de nível empresarial precisam cumprir regulamentações como a HIPAA e o GDPR, costumam passar por auditorias independentes como o SOC 2 (um framework de auditoria do AICPA), atender aos requisitos de residência de dados e oferecer aos administradores visibilidade sobre como a IA é usada em toda a organização. Uma segurança sólida é o que separa as ferramentas que os funcionários têm permissão para usar da IA invisível que eles adotam sem a aprovação da TI.
Termos relacionados
- Alucinação de IA Quando um modelo de IA gera informações que parecem plausíveis, mas que são factualmente incorretas, inventadas ou não sustentadas pelos dados de origem.
- Base de conhecimento Um repositório centralizado de informações organizadas que os funcionários podem pesquisar e consultar para encontrar respostas, procedimentos, políticas e conhecimento institucional.
- Modelo de linguagem grande (LLM) Um sistema de IA treinado com quantidades enormes de dados de texto, capaz de entender, gerar e raciocinar sobre a linguagem humana.